Проблема именно в параметрах, переданных виртуальной машине. Для IntelliJ IDEA актуальные параметры можно посмотреть на странице
https://www.jetbrains.com/help/idea/javafx.html.
Например, у меня прописано следующее:
--module-path
C:\Users\[Имя пользователя]\javafx-sdk-11.0.2\lib
--add-modules
javafx.controls,javafx.fxml
--add-exports
javafx.graphics/com.sun.javafx.sg.prism=ALL-UNNAMED