rm huge_file
нужно удалять так :>huge_file
. В этом случае пустое место освободится сразу, т.к. несчастный файл не будет висеть в proc'e в ожидании, пока все процессы, которые нещадно его эксплуатируют наконец закончат свою работу. И ничего убивать не придётся.