Решение нашлось. Как говорится ССЗБ :) На сервере были выделены HugePages, они это и были. Как выяснилось, система сразу выделяет память под HugePages, и выглядит она именно как используемая, хотя по факту может быть свободной.
Всем спасибо за участие.