Оставшийся lock говорит о нештатной остановке VNC Server.
Причину можно посмотреть в /var/log/x11vnc.log
(или по другому пути, который был указан в конфиге/аргументах запуска сервера)
Если полезных данных там нет, можно проверить,
не закрывается ли он системой от OOM: dmesg | grep "kill"
UPD:
TightVNC 1.3.9 известен случайными segfault-ами. В сети очень много примеров.
Судя по слухам, в версии 1.3.10 они исправлены, но с установкой этой версии могут быть трудности (её нет в пакетах, нужно собирать самому; она имеет другие ошибки).
Самым простым решением будет перейти с tightvncserver на x11vnc, vino или другие аналоги.