• A/B тест в виде опроса случайных людей?

    frontbob
    @frontbob
    Есть два основных метода тестирования:
    1) А/В-тестирование.
    Разделяем пользователей на две группы и показываем новый функционал только одной из них. При этом обе группы должны быть однородными (из одинаковой структуры источников трафика или равномерного распределения, если эксперимент проводится на старых пользователях).

    2) Версионное тестирование.
    Выпускаем обновление продукта с одной новой фичей, а затем метрики этой версии сравниваем с метриками предыдущей. (В вашем случаи это версии лендингов будут)

    Такой подход имеет свои недостатки. Ключевой — это неоднородность трафика и аудитории. Когда в продукт приходят очень разные пользователи и совершенно по-разному реагируют на новые функции, то бывает сложно определить причину изменения метрик однозначно.

    Ещё у меня был кейс (может кому-то пригодится) с тестированием нового функционала.
    Я не знал стоит ли вообще его делать (разработка было довольно трудозатратной). Поэтому я повесил на сайте псевдо-кнопку этого функционала, при нажатии на которую был алерт о том, что пока все в разработке.
    Конечно же замерял кто, когда и сколько на нее нажимал. Поняв, что статистика довольно высока (то есть людям интересен такой функционал), я сел за разработку и в принципе не пожалел - это оказалась потом довольно часто используемая кнопка.
    Ответ написан