LLM-персонализация выдаёт biased результаты для разных user сегментов

Ситуация: Audit показал: LLM-рекомендации для женщин дают на 30% меньше high-paying career suggestions vs мужчинам. Команда — что делать.

LLM генерирует career recommendations на основе профиля юзера. Bias detected post-hoc.

Доступные данные

• recommendations: user_id, suggested_career, salary_band, ts
• users: id, gender, age, education, location
• training_data: examples for fine-tune (если был)

Задачи

• Quantify bias: salary band distribution by gender.
• Root cause: training data? prompt? model base bias?
• Mitigation options: prompt change / RLHF retrain / post-filter.
• Trade-off: bias reduction vs quality.

Все кейсы для подготовки → ← Все кейсы