Эксперимент в США показал страшное: ИИ обрекло соискателей на низкоквалифицированный труд
Искусственный интеллект, которому всё чаще доверяют первичный отбор резюме, оказался склонен к формированию опасных социальных стереотипов, превосходящих по масштабам человеческие предрассудки. Новое исследование ученых из Принстонского и Чикагского университетов показало: большие языковые модели (LLM) не просто копируют ошибки людей из обучающих выборок, но и самостоятельно выстраивают системы дискриминации, основываясь на единичных эпизодах профессиональных неудач кандидатов.
В этом материале:
Эксперимент: как ИИ распределяет роли
Почему "умные" модели более предвзяты
Ловушка памяти и персонализации
Можно ли "подкупить" алгоритм ради справедливости
Ответы на популярные вопросы об ИИ в рекрутинге
Читайте также
Эксперимент: как ИИ распределяет роли
Исследователи смоделировали игру, в которой нейросети (ChatGPT, Claude, Gemini) выступали советниками мэра вымышленного города. ИИ должен был нанять сотрудников на 20 различных должностей: от врачей и юристов до уборщиков и сиделок. Кандидаты принадлежали к четырем вымышленным этническим группам. Хотя все претенденты имели равные шансы на успех, алгоритмы мгновенно начали "сортировать" людей.
Стоило одному представителю определенной группы условно "провалить" работу врача, как ИИ переставал рассматривать его соплеменников на высококвалифицированные позиции. Вместо этого нейросеть начинала предлагать им вакансии низшего звена, например, дворников. Этот процесс сегментации происходил в разы быстрее, чем у людей, участвовавших в аналогичном психологическом тесте ранее.
