Roman

Можно использовать какой-нибудь sandboxie

Оповещение системой должно быть об успешной оплате, обычно такой файл идёт вместе с модулем оплаты для modx, в вашем случае mspYaCassa.
Смотрите в /core/components/minishop2/custom/payment/*
А так нужно расширять класс mspaymenthandler.class.php, в котором в методе receive() должен содержаться код вида

switch ($params['Status']) {
            case 'CONFIRMED':
                $this->changeOrderStatus($order, 2);
                break;
            case 'REJECTED':
                $this->changeOrderStatus($order, 4);
                break;
            default:
                break;
        }