Можно поискать внутри сервиса способ устроить
shaping (ограничить скорость). Во многих серьёзных продуктах это есть - например, в Squid точно есть, но я не пользовался.
Можно ограничить средствами firewall. В ipfw во FreeBSD - это есть. В iptables - не знаю.
Фильтровать и заворачивать в шейпинг можно по IP-адресам источника и назначения, по портам источника и назначения, по юзеру локальной программы. Вам, наверно, проще всего по порту - ведь два экземпляра сервиса проще всего разнести по портам.
