Для начала, ознакомьтесь с API платежной системы(ПС).
Обычно в ПС заводится свой аккаунт, содержащий настройки для вашего сайта. Производите настройку, затем реализуете у себя на сайте необходимые функции с требуемым API, в общих чертах:
1. Заводится таблица "invoices" с данными платежа и полем 'status';
2. Пишутся обработчики для перенаправления юзера от ПС: после совершения платежа, после отказа от платежа;
3. Также, реализуется обработчик успешной транзакции(К нему обращается ПС).
Алгоритм:
- Вы обрабатываете полученную форму и заводите запись платежки в таблице со статусом "не оплачено";
- Перенаправляете юзера на сайт платежной системы, дав ей необходимые данные(сумма, описание платежа, id счета, например);
- Там он совершает платеж и его перенаправляет на ваш сайт. После подтверждения платежа платежная система делает запрос к вашему обработчику успешной транзакции, в котором вы ставите платежу статус "Оплачено".
Cоветую робокассу. Наиболее простая ПС с годной документацией и API.