Это скорее к настройке сетевой подсистемы ОС (у того же дебиана, например, дефолтные настройки на гигабит не расчитаны), а не к FTP-серверу. Забит-то у вас исходящий канал - а проблемы почему-то со входящим.
Вообще, шейпинг трафика, как уже подсказал
Константин, выглядит вполне уместным. Это можно сделать, опять же, на уровне фаерволла ОС.