В папке
$HOME/.vnc/
можно обнаружить файл
xstartup
Из его содержимого можно выявить, для чего он нужен:
A shell script specifying X applications to be run when a VNC desktop is started.
If it doesn’t exist, vncserver will create a new one which runs a
couple of basic applications.
Достаточно поместить сюда необходимый код, на всякий случай рекомендуется поместить для начала что-то безопасное, например, вывод чего-то на экран, чтобы проверить корректную работоспособность