Учитывая, что скриптовое открытие новых окон сейчас заблокировано во всех браузерах, то вы можете сделать простой переход на страницу оплаты через location.href или через form.submit() после выполнения ajax запроса.
Т.е. что-то типа такого
$.post('{YOUR_URL}', $(form).serialize(), function(r){
location.href = '{ROBOKASSA_URL}?order_id=' + r.order_id;
// или
$(robokassa_form).find('input[name="order_id"]').val( r.order_id );
$(robokassa_form).submit();
}, 'json');