handler.php должен быть в той же папке.
Насколько я понял, файл payment.php вообще не является обязательным, так как его роль сводится к предварительной проверке данных и запуске метода initiatePay из handler.php
Если в кастомном обработчике нет файла payment.php, то initiatePay вызывается сразу, без всяких ошибок. Валидацию входных данных можно сделать там же.
То есть можно скопировать любой обработчик из "/bitrix/modules/sale/handlers/paysystem/", перенести в "/local/php_interface/include/sale_payment/" и кастомизировать (в этом случае он заменит системный). Либо можно использовать его, как образец и на его основе создать свой.