Виртуальный рекрутер Amazon оказался сексистом
То, что крупные корпорации используют искусственный интеллект, чтобы ускорить и улучшить поиск новых сотрудников уже не новость.
Таким путем пошла не только компания Unilever, но и Amazon. Но последняя столкнулась с неожиданной проблемой — ее ИИ оказался сексистом.
Известно, что команда работала над соответствующей программой с 2014 года. Главное, чего хотели достичь разработчики, это полной автоматизации, которая позволит доминировать в области электронной коммерции. Потому что вообще речь шла об организации работы внутри компании, а впоследствии и о принятии решений по ценообразованию.
Экспериментально виртуальный рекрутер использовал ИИ, чтобы оценивать соискателей по шкале от одной до пяти звезд — так же, как покупатели оценивают товары Amazon.
В 2015 году в компании поняли, что их новая система имеет предвзятое отношение к женщинам, которые претендовали на должности разработчиков программного обеспечения и другие технические вакансии.
Дело в том, что компьютерный алгоритм должен проверять соискателей, анализируя закономерности их резюме за 10 лет. Большинство кандидатов были мужского пола, и это отражало мужское доминирование в технологической отрасли. Поэтому система и сделала вывод, что лучше выбирать кандидатов-мужчин. Поэтому и отвергала резюме, где встречалось слово «женский». Например, «капитан женского клуба шахмат».
Отмечается, что в программу внесли соответствующие правки. Однако гарантий того, что в будущем ИИ не окажет других дискриминационных выводов, не было.
В конце концов в начале 2017 года команду этого проекта распустили, потому что руководство компании утратило надежду, что система заработает как надо.
В Amazon отказались от комментариев по этому поводу.