1) Я бы поставил нормальный дистрибутив на данный сервер (centos, debian, freebsd… Да хоть туже ubuntu), а не какую-то сборку от непонятно кого в которой могли накосячить и при пересборке пакетов и в конфигах/визардах что-то напутать с опциями.
2) Засунул бы в крон (скажем раз в 30 секунд) что-то типа ps -aux >> average.log и вечером бы поанализировал. Ну это в случае если реал тайм отловить эту проблему геморойно. А так top, ctrace и прочие тулзы в руки.
