https://github.com/farag2/Sophia-Script-for-Windows

Если я вас правильно понял, то через powershell можно указать тип запуска для сервиса примерно так

Get-Service openvpn | Set-Service -StartupType Automatic

как там точно сервис openvpn называется я не помню, так что подкрутите

ну и сам powershell скрипт можно запускать типа
powershell -file filename.ps1
а в filename.ps1 уже писать все нужные команды

Добрался до компа, напишу уж тут :)
В логах сервера видно что за проблема - не те права у того самого файлика, что я упоминал в комментарии

debug3: Bad permissions. Try removing permissions for user: S-1-5-11 on file C:/ProgramData/ssh/administrators_authorized_keys.
Authentication refused.

При подключении к OpenSSH-серверу, установленному, на win и использовании аутентификации по ключу, необходимо обращать внимание на два момента:
1. Если пользователь админ - его публичный ключ должен быть указан в C:\ProgramData\ssh\administrators_authorized_keys
2. Убедиться что владелец файлов *authorized_keys правильный: системных - система, юзерских - юзер, и без лишних доступов.
Например, установить права для системного можно скопировав их с другого файла:

$acl = Get-Acl C:\ProgramData\ssh\ssh_host_dsa_key.pub
Set-Acl -Path C:\ProgramData\ssh\administrators_authorized_keys -Acl $acl

Ещё в комплекте c GitHub идут специальные скрипты для тех же целей:
FixHostFilePermissions.ps1
FixUserFilePermissions.ps1
Они что-то ещё в реестре вроде бы правят

Вариант обхода настроек для этого файла -закомментировать в конфигах его упоминание:

Match Group administrators
       AuthorizedKeysFile __PROGRAMDATA__/ssh/administrators_authorized_keys

Но это не рекомендуется

Ну, и, как замечено в комментариях, необходимо убедиться в правильной кодировке файла
https://github.com/PowerShell/Win32-OpenSSH/issues...
Если коротко, то оказалось что кодировкой *authorized_keys по дефолту является UCS-2 LE BOM, вместо ожидаемого UTF-8. После смены кодировки все заработало так как надо.

Мои лично файлы все в ASCII