Вопрос закрыт. Помогли на технете. Решение в следующем (если кому интересно): помимо mstsc, запускаеться еще процесс wksprt.exe (Среда выполнения для подключений к RemoteApp и удаленным рабочим столам) и необходимо было сделать проверку на wksprt.exe,т.к. видимо mstsc запускает его и стартует новый процесс итоговый скрипт получаеться таким:
Set-ExecutionPolicy -ExecutionPolicy Unrestricted
Add-VpnConnection -Name VTH_VPN -ServerAddress 1.1.1.1 -AllUserConnection -AuthenticationMethod MSChapv2 -PassThru -RememberCredential -TunnelType Pptp
rasdial VTH_VPN login password
[Console]::outputEncoding =[System.Text.Encoding]::GetEncoding('cp866')
Start-Process mstsc -arg C:\VPN\vth.rdp -NoNewWindow -Wait
while (gps wksprt,mstsc -ea 0) {
Start-Sleep -Sec 1
}
rasdial VTH_VPN /disconnect
Remove-VpnConnection -Name VTH_VPN -AllUserConnection -Force