Я не кодер, но сдается мне, что простая проверка приложения критических файлов по контрольной сумме (что гарантирует отсутствие изменений) даст хороший результат.
Или воспользоваться каким то платным решением, коих я думаю хватает.
Ищите инфу про античиты на контер страйк, я думаю, это самая передовая технология)