Да уж, непросто PHPшнику разобраться в компиляции C++ проекта.
Целый день провозился, но результат порадовал.
Итак:
1. Установить Visual Studio Community 2017 с компонентами для C++ (почему-то потребовалось добавить Windows 8.1 SDK и библиотеки VC 2015)
2. Следовать этой инструкции, в частности, разделу Building PECL extensions:
https://wiki.php.net/internals/windows/stepbystepb...
устанавливать PHP 7.2.0 src, deps-master-vc15-x64.7z, последний релизный компилятор и исходники xdebug-master (2.5.5 компилиться с 7.2.0 не хочет).
3. Т.к. полноценно скомпилить PHP без опыта едва ли удастся, если получилось скомпилить php_xdebug.dll - уже отлично - можно ставить его на билд PHP7.2.0beta x64 TS с официального сайта.
Работает - пишет "xdebug 2.6.0-dev"