rm huge_file нужно удалять так :>huge_file. В этом случае пустое место освободится сразу, т.к. несчастный файл не будет висеть в proc'e в ожидании, пока все процессы, которые нещадно его эксплуатируют наконец закончат свою работу. И ничего убивать не придётся.