Алгоритм примитивный, вы должны разбить ваш объем сделки на части, равные последовательно лимитам смены цены, т.е. вычислить для каждого лимита итоговый объем меняемой валюты, на каждом шаге из общего объема вычитаете этот лимит, до тех пор пока она не закончится. Затем складываете сумму полученной валюты, и делите на ваш первоначальный объем (ну или наоборот, зависит от того, какая из ваших валют - валюта котировки).
