Тоже столкнулся с такой проблемой на 256 мб. памяти.
Сначала подумал, что будет нормально делать рестарт v2raya каждые 3 часа, затем час, но потом понял, что это не то. Утечки имеют хаотический порядок, можно часами смотреть твич в нескольких вкладках и ничего, а при просмотре ютюба может минут за 20 засраться память. Так же пробовал разные сервера, и по ощущениям, чем стабильнее сервер, тем меньше утечек.
Подсмотрел решение - создать службу, которая будет перезапускать v2raya если он лежит, но подумал и адаптировал немного под себя:

#!/bin/sh

while true; do
a=`grep MemAvailable /proc/meminfo | awk '{print $2}'`
b=30720
if [ $a -lt $b ]; then
logger -t xray-watchdog "available memory is less then 30 mb, restarting v2raya..."
/etc/init.d/v2raya restart
fi
sleep 180 # wait 3 minutes
done

Сделал вот такой скрипт, который проверяет свободную оперативку, и, если её мало, то перезапускает процесс. И это по первым ощущениям помогает, может и вам поможет. Цифры можно подогнать под другой объём оперативы.