Сделайте echo 3 > /proc/sys/vm/drop_caches
Лучше сразу на хосте.
Если на железке есть swap - то часть вашего "виртуального" swap-а вполне себе пойдет на диск (vswap держит swap в памяти только до тех пор, пока память есть в принципе).
Оно может быть и просто традиционным глюком с подсчетом занятой памяти в openvz, а может быть и вполне себе глюком с распределением памяти.