Про трей ничего не могу сказать, но vkopt умеет уведомлять о выходе человека в онлайн, если добавить его в закладки. Добавлять в друзья этого человека не обязательно.
Всем спасибо, проверил систему с помощью AVZ, нашел подозрительную dll-ку _etoured.dll от NVidia, удалил её, перезагрузился, и всё встало на свои места.