Я бы посоветовал походить по профессиональным форумам и посмотреть, как решаются различные задачи разными средствами. Посмотрите, что Вам ближе.
С моей сугубо пристрастной точки зрения (я работаю разработчиком в WRI), Mathematica даст фору большинству других средств, для широкого класса математических задач. Я это говорю и как программист и как человек, занимавшийся в прошлом наукой (Phd, теор. физика, квантовая теория поля).
Заходите к нам на форум:
mathematica.stackexchange.com
У нас сильное, профессиональное и доброжелательное сообщество. Посмотрите, какие задачи решаются и как, как выглядит код, и пр. Посмотрите также и на другие сообщества по другим инструментам, и решайте что Вам ближе для Ваших задач.
И не слушайте тех, кто говорит про "упоротый язык" - это поверхностная и невежественная точка зрения. Вот что сказал по поводу Mathematica создатель языка Clojure (один из самых современных и элегантных языков программирования ) Rich Hickey: "Every developer should buy a copy of Mathematica, because it will expand their mind".