1) Можно попробовать сначала выполнить: chcp 1251
2) Можно вызывать java приложение с параметром -Dfile.encoding=Cp866
3) Можно звать PowerShell (там вроде как utf8 должен быть)
4) Можно вызывать консоль cygwin
5) Можно отказаться от Win.
6) Можно так: System.setOut(new java.io.PrintStream(System.out, true, "Cp866"));