A/B-тест работает уже 3 дня. Primary метрика: p=0.06. Бизнес торопит раскатку. Стоит ли останавливать тест «как только получим p < 0.05», подглядывая в результат каждый день?
Статистикаmediummiddle
Варианты ответа
Нет. Peeking (подглядывание) сильно раздувает false positive rate — тест нужно либо доводить до plan-sample-size, либо использовать sequential testing (GrowthBook, Optimizely)
Да, как только p < 0.05 — это признак реальной разницы между группами в текущем срезе данных
Да, но только если эффект большой — для незначимых различий ранняя остановка приводит к смещению оценки lift
Неважно, p-value не зависит от времени и количества проверок: метрика стабилизируется быстрее sample-size планирования
Разбор ответа
Подробный разбор с объяснением «почему правильный ответ верный» и почему остальные неверны — после регистрации.
2475 вопросов с разбором, quiz-режим с проверкой, AI-собес и подготовка к интервью аналитика.