Конечно искать проблему и утечки памяти, можно добавить своп, в ситуациях когда процессы это допускают, это может помочь.
Можно форкать в момент когда процесс убивают (наверное имеет смысл если причина убийства не физический конец памяти а некоторые комбинации настроек лимитов), предварительно освободив занятую память конечно. Т.е. ваш процесс конечно умрет, но перед самой смертью он родит клона, с меньшим потреблением памяти.
p.s. не делайте так, это только от безысходности.
тут как раз обсуждали как отловить момент