Можешь выбирать любой язык для написания декстопных приложений (С# или Java например, Python тоже неплохо), просто зарание найди необходимые математические библиотеки для выбранного языка или же подумай, как для этих целей можно будет настроить работу своего приложения с МатЛабом, который позволяет производить сложные математические вычисления