Чтобы получить ответ на вопрос «какие значения выставить на моей машине», есть 2 варианта — показать машину тому, кто в этом всем разбирается, или же самому сидеть с диагностическими тулзами, считать проценты потерянных пакетов, время отклика и прочие вещи, находить причины проблем и исправлять.
Пробовали ли читать доки по ссылкам
www.kernel.org/doc/Documentation/sysctl/ и
www.kernel.org/doc/Documentation/networking/?
Упомянутый вами backlog_detect например более чем понятно описан в доке:
> Maximum number of packets, queued on the INPUT side, when the interface receives packets faster than kernel can process them.
Естественно, оптимальное значение зависит от производительности машины и скорости сетевого интерфейса.