До конца не разобрался почему так, но если запустить приложение с флагами для java машины
-Dprism.vsync=false -Dprism.order=sw
которые отключают какую-то синхронизацию и устанавливают софт. рендерер для графической библиотеки JavaFX
то всё работает нормально