Как реализовать распределение трафика по процентам (Traffic Distribution System) для больших нагрузок?

Question

[Сергей Кравченко]

Нужно реализовать распределение трафика: При переходе на example.com должен происходить редирект на лендинги:

• landing1 - 50%
  
• landing2 - 40%
  
• landing3 - 10%
  

Проценты могут изменять (хранятся в redis).

Сам алгоритм разбиения не сложен: считаем каждый переход на example.com и раскидываем по нужным лендингам до приближения необходимых процентых соотношений.

Проблемы возникают при тесте данного алгоритма через Apache Bench с установкой конкурентых запросов (ab -n 100 -c 10 www.example.com).

Смотрел готовые решения TDS - у них аналогичная проблема - нет чёткого распределния по процентам если слать конкурентные запросы.

Answer 1

[lega]

В nginx можно сделать upstream на несколько узлов и задать веса.
После изменения весов можно просто делать reload конфига.

Comments

[Сергей Кравченко]

Спасибо, я думал об этом, единственная проблема в удобстве изменения весов. И количество контрольных урлов(httt://example.com) может быть неограничено.

Answer 2

[Алексей]

Если проблема конкретно в распределении по процентам параллельных запросов, то как вариант memcache increment, в нем же предварительно расчитанный список url, для вашего случая такой (можно перемешать перед занесением в память):

http://landing1
http://landing1
http://landing1
http://landing1
http://landing1
http://landing2
http://landing2
http://landing2
http://landing2
http://landing3

и выборка url по отстатку от деления значения инкремента на количество url.
На сколько я помню increment в memcache является атомарной операцией и должен гарантировать каждому запросу свое последовательное значение.