Соцсеть: всплеск спама в комментариях, жалобы +40%, но активные авторы режут постинг

Ситуация: За 3 недели доля помеченного спама в комментариях выросла с 1.8% до 6.4%, жалобы пользователей +40%, а число авторов, отключивших комментарии, выросло вдвое.

Trust & Safety подозревает скоординированную бот-сеть. Нужно оценить масштаб, отличить новый паттерн ботов от роста легитимной активности и предложить интервенцию, которая не зарежет нормальных новых пользователей (false positives).

Доступные данные

• comments: comment_id, author_id, post_id, created_ts, text_len, has_link, spam_score
• accounts: account_id, created_ts, country, signup_method, phone_verified, device_id
• reports: report_id, target_comment_id, reporter_id, reason, created_ts
• moderation_actions: comment_id, action, model_version, acted_ts
• post_owner_settings: post_id, author_id, comments_disabled_at

Задачи

• Уточнить, как считается spam rate (помечено моделью vs подтверждено модерацией) и не менялся ли порог spam_score.
• Проверить рост спама на новизну аккаунтов: доля спам-комментариев от аккаунтов младше 7 дней и с общим device_id.
• Отделить рост из-за изменения модели/порога от реального притока ботов (сравнить precision подтверждённых жалоб).
• Оценить ущерб экосистеме: связь роста спама с отключением комментариев авторами и падением их постинга.
• Предложить интервенцию (rate-limit для новых неверифицированных аккаунтов) и оценить долю задетых легитимных пользователей.

Все кейсы для подготовки → ← Все кейсы