Соцсети: эффективность модерации контента

Ситуация: Ложноположительные срабатывания модерации — 18% (удалены нормальные посты). Ложноотрицательные — 7% (пропущен harmful content). Авторы подают 50 000 апелляций/день.

Платформа использует ML-модель + человеческую модерацию. ML обрабатывает 95% контента, 5% — ручная проверка. Бюджет модерации — $20 млн/год. Регуляторы требуют удалять harmful content за 24 часа.

Доступные данные

• moderation_decisions: content_id, model_score, model_decision, human_decision, final_decision, category
• appeals: appeal_id, content_id, appeal_date, review_date, outcome, reviewer_id
• content_reports: report_id, content_id, reporter_id, reason, timestamp
• moderator_performance: moderator_id, date, reviewed_count, accuracy_pct, avg_review_time_sec

Задачи

• Определить оптимальный threshold ML-модели с учётом trade-off precision/recall.
• Рассчитать стоимость ошибок обоих типов (false positive: author churn; false negative: user safety).
• Предложить tiered moderation: автоматическое удаление, human review, appeals.
• Оценить capacity planning для модерации при росте контента на 30%.

Все кейсы для подготовки → ← Все кейсы