Ситуация: Тест dynamic pricing + новый UX одновременно. Как изолировать эффекты?
Команда хочет «всё сразу запустить». Senior: «не сможем понять что сработало».
bookings: booking_id, user_id, ts, route, price, fare_classexperiments: exp_id, variant, ts (pricing × ux factorial)searches: search_id, user_id, ts, route_query, datespricing_engine_logs: search_id, ts, displayed_price, base_price, dynamic_factorЖанр кейса: A/B-тест: design + анализ — все кейсы этого типа.
Дизайн теста (primary metric, guardrails, sample size, длительность), анализ результатов (significance, segments, novelty effect) и interpretation для бизнеса.
Peeking (стоп при «явной победе»), без guardrails, без power analysis, игнорирование novelty effect, SRM не проверяется, p-hacking при extend.
Variance reduction: используем pre-experiment данные юзера для корректировки в-experiment метрики. Сокращает sample size в 1.5-2 раза при тех же MDE.