Сперва нужно сказать, что хорошие специалисты пишущие на java, .net или другом языке всегда востребованы, но Вам как я понял до этого еще нужно дойти. Поэтому лучше выбирать то к чему лежит душа :)
Если Вам хочется писать веб, то лучше попробовать python или ruby и еще java script.
Если Вам хочется писать системные утилиты, алгоритмы, то лучше поробовать C или C++.
Если Вам хочется писать под мобильные системы, то можно выбирать между java, objective-C, .net (можно также подумать о java script, но совет спорный).
Если Вам хочется писать игры, здесь я ничего не подскажу.
Если Вам хочется писать десктопные приложения, то лучше попробовать C++, .net (только венда).
Если Вам хочется сидеть не на венде и писать не только под венду, то лучше не думать о .net.
По поводу IDE: у java есть eclipse, net beans, но я бы посоветовал
idea (особенно когда Вы не видите жизни без решарпера под вижлу). Кстати все эти IDE написаны на java.
По поводу использования: понятно что .net широко использует microsoft, java же использует, например, google. Но должен дать замечание, что на обоих этих языках широко пишут «некоторые» аутсорсинговые компании так называемые enterprise приложения (вероятно большинство вакансий именно их) код которых возможно бывал в руках некоторых индуских племен или морально устарел.
Стоит отметить, что два языка достаточно похожи, особенно учитывая, что многие популярные библиотеке существуют как для java так и для .net.
Поэтому еще раз посоветую выбирать то, к чему больше лежит душа. Например мне сперва нравилась java и я начинал изучать ее, но потом пришлось работать с .net, а сейчас я перехожу на python. Или же найдите компанию, где хотите работать (и/или где есть большая вероятность быть принятым на работу), узнайте на чем пишут там. Возможно также не стоит ограничиваться только java и .net. В любом случае если усердно работать и развиваться, то выбор языка по сути не имеет значения.