Я сам — астрофизик. Matlab успешно заменил Octave'ой (она свободная, в отличие от), если нужна скорость — пишу на C, графики строю при помощи gnuplot и/или MathGL, 3D — во FreeCAD'е, 2D — в QCad'е, микроконтроллеры — sdcc, электронные схемы — KiCAD.
А для построения моделей атомов есть свободный софт. Года два назад видел обзор. И вообще,
рекомендую почитать