На шарпе, а вычисления вынести в сишную библиотеку.
Не уверен, что получится предсказывать свойства и структуру. Есть вещества, свойства которых зависят от структуры. Есть такие, чья структура зависит от, например, температуры. А с точки зрения алгоритма, по одной формуле получить необходимые данные не получится, имхо.
Если только не планируется моделировать какие-то конкретные формулы (ДНК, белки), т.к. их структура и свойства частично предопределены. Например, в политехническом университете используются подобные программы.