Tox-ом не пользовался, но сделаю предположение по аналогии с XMPP. В Jabber можно передавать файлы in-band или через p2p-соединение. В первом случае не палятся IP-шники, но файл разбивается на мелкие кусочки и пересылается тем же путем, что и сообщения, -- через сервер и всю маршрутизацию. Получается медленно, поскольку на серверах стоит таймаут антифлуда.
Предполагаю, что и в Tox сделали похожим образом, с тем же результатом. По аналогии с Jabber предлагаю посмотреть настройки протокола Tox в Miranda NG (он там поддерживается). Разработчики Миранды обычно аккуратно реализуют все возможности протоколов, и если реализация зрелая, ее можно использовать как эталон. Если настройки нет, то нет. Тогда увы. Еще можно у разработчиков Miranda NG спросить или почитать на их форуме.