Через aggregation bias: модель навчена на загальній популяції не враховувала різні патерни успіху для різних підгруп

Датасет містив резюме лише з англомовних країн, що виключило кандидатів з іншим культурним бекграундом

Алгоритм мав доступ до LinkedIn-профілів і виявив кореляцію між фотографіями та статтю кандидата

Минулі рішення про найм самі були упередженими — модель навчилась відтворювати historical bias, закодований у мітках; «хто був прийнятий» ≠ «хто найкращий кандидат»

Алгоритм навчився розпізнавати фотографії у резюме і використовував зовнішність як ознаку