В Windows начиная с 7 есть возможность раздельного вывода, каждой программе выводящей звук в её настройках можно указать. Или в настройках драйвера посмотри, потому что не очень понятно, что именно ты хочешь.
Realtek определяет и наушники и колонки в одно, и чтобы работали колонки приходиться наушники вытаскивать из разъёма
Эм... разъёмы разные?