Что понимается под "работой с финансами"
Можно ли не выходя из десктопного приложения произвести оплату чего-то с использованием API какой-то платёжной системы?
Можно. Просто открой платёжную форму в WebView.
Сам платёж обработай на сервере.
Если отвечать более конкретно, то:
1. Тебе нужно разобраться с такими понятиями как: HTTP, API, сервер.
2. Изучить документацию какого-нибудь сервиса по приёму платежей. Например вот юкасса:
https://yookassa.ru/developers/payment-acceptance/...