Если задачи подразумевают широкое использование существующих алгоритмов (без вмешательства в их код) то Матлаб.
Если же алгоритмы будут свои или потребуется адаптация (с внутренним насилием!) чужих или же необходимость перехода в один прекрасный день к большим вычислительным мощностям, то Фортран.