Ядро вычислительной системы, возможно действительно, реализовать лучше на С, но для обвязки я лучшего кандидата чем java не вижу. А референс реализацию можно реализовать и полностью на java. А судя по количеству операций и объемам торгов на существующих площадках, и учитывая возможный объем торгов в России, java будет более чем достаточно и для продакшн версии.