Готовые движки стоят дорого. Например bitstamp купил движок Cinnober (первый же запрос гугла привел к
вики где можно посмотреть компании которые движки финансовые пилят).
Можно запилить свой движок, с ценами от копейки до бесконечности, в этом случае за ошибки будут платить ваши клиенты ну или вы - потерей бизнеса.
Основные затраты при создании биржи - не сама биржа, матчер ордеров относительно прост, а движок маркетмейкера, вы же хотите деньги зарабатывать, а значит вам нужен инструмент для торговли против своих клиентов.
p.s. Юридически только там где ее разрешили (вполне возможно ограничитесь юной кореей, японией и сша) и с вероятность 100% - только для клиентов этой страны
С вероятностью 99% из-за того что место уже в таких местах занято, вам это будет дорого.