Я думаю вам не совсем язык программирования нужен. Тут недавно проскакивало —
habrahabr.ru/post/145985/. Хорошо подходит для построения объемных моделей. Также есть разные физические симуляторы для классической механики — поищите в гугле. Для сложных рассчётов есть GNU Octave, MathLab, SciLab и т.д. А вот для построения модели атома водорода никогда не встречал — самому интересно.