Какие методы шифрования для Вас наиболее безопасные?
Из коробки Windows поддерживает aes256 и sha2, при желании можно настроить что-угодно с помощью Set-VpnConnectionIPsecConfiguration.
Какая модель материнской платы и памяти? Старые мамки не умеют работать с новыми модулями DDR3 с чипами на 512 МБ, только 256 МБ. Например на 4 GB модуле чипов должно быть 16 шт. и расположены они должны быть с двух сторон, а не с одной.