Зависит от ОС. На Linux удаляемый файл, открытый на запись в другом процессе, физически не удаляется, а только перестает быть виден, но через открытый дескриптор продолжает писаться (и даже читаться! при наличии флага "r"). На Windows все зависит от эксклюзивной блокировки при открытии на запись: при ее наличии будет отказ при удалении, при ее отсутствии удаление пройдет успешно, дескриптор, открытый на запись, станет невалидным и все последующие операции на нем будут давать отказ (кидать исключение).