Решено. Интеграция довольно простая - достаточно платёжным системам не важно откуда я кидаю POST и GET.
Пример API можно найти у Яндекс-Кассы.
Систем fraud-detection open-source я не нашёл. Большинство из них индивидуальны. Интересно было бы найти конструктор таких систем но 99,9% их не существует в открытом доступе.