У Вас mark=«3». Так же в фильтре у Вас указано «handle $mark fw flowid 1:$mark», да только что-то этого класса у Вас нет. Отсюда и проблемы. К тому же, раз вы режете весь трафик, то можно обойтись и без использования iptables.
Например, так (адаптация Вашего скрипта):
tc qdisc del dev $dev root
tc qdisc add dev $dev root handle 1: htb default 10
tc class add dev $dev parent 1:0 classid 1:10 htb rate $rate ceil $rate prio 0
