Ээм...
Всё дело в том, что ваше NAS построено на порезанном ARM'e, который производительностью не блещет от слова "совсем".
Transmission-клиент - это интересно.
Т.е. это инстанс самого трансмишенна, верно? Не управляшка, а именно торрент-клиент? Полагаю, что так и есть. А раз так, то вы этой машинке, на которой запущен торрент-клиент, скормите DNS-сервера Гугла или ещё кого. Это вам поможет.
Далее вы так же можете запретить на стороне вашего DNS-сервера все запросы от машины с торрент-клиентом.
Про таймауты я как-то не в курсе, но в named'е, который BIND, можно подтюнить кое-чего, вынеся вашу машину с торрент-клиентом в acl, и применять уже правила для данного acl. Чуть подробнее
здесь.