Потому что наличие выхода не означает наличие индивидуального порта для него на видеокарте. В вашем случае, за VGA закреплён аналоговый, а второй, цифровой, переключается между HDMI и USB-C соответственно тому, что используется. Что сделать - купить внешнюю USB видеокарту, имея в виду, что она очень тормозная.
1. Вы ничего не добавили в этот диалог. Вернее, в его content pane. И не забудьте про LayoutManager.
2. Вызов setSize() игнорируется, поскольку после него вы вызвали pack().
Ну и не надо setVisible() вызывать в конструкторе.
