Вы хотите в случае прихода "маски шоу" рвать соединение с удаленным сервером? )))
Надежнее - поставить кнопку для перезагрузки роутера.

А так - недостаточно информации. Хотя бы скажите в какой ОС вы это хотите реализовать.

Если в общем и целом - парсите вывод net stat на предмет соединений от программы и прибивайте их при необходимости. Тем же .bat/.sh скриптом. Но не проще ли тем же скриптом просто закрыть программу?

Зайдите в Управление компьютером > Просмотр событий > Журналы Windows > Система и посмотрите какие ошибки предшествовали перезагрузке.

Если будет сообщение о сбое приложения и создании дампа памяти - воспользуйтесь утилитой предложенной Рональд Макдональд в первом ответе.
Если будет критическая ошибка типа "Windows неожиданно завершила работу" и более никаких сообщений - начинайте искать аппаратную проблему (memtest, victoria с загрузочного диска и вот это всё).