Проблема оказалась в выборке, по которой обучалась система, — большинство резюме в ней от кандидатов-мужчин.

Онлайн-ритейлер Amazon разработал алгоритм на основе искусственного интеллекта для автоматизации подбора кандидатов на работу, но в итоге отказался от системы из-за дискриминации соискателей-женщин. Об этом пишет Reuters со ссылкой на пять источников, знакомых с деталями проекта.

По данным агентства, в 2014 году компания собрала команду разработчиков в Шотландии и поставила перед ней задачу создать программу для поиска и отбора лучших кандидатов. «В компании хотели получить инструмент, который выберет пять лучших резюме из ста, чтобы потом нанять этих людей», — рассказал один из собеседников Reuters.

Ответственная группа разработала 500 компьютерных моделей, обученных искать резюме в открытых рекрутинговых базах и отбирать лучших кандидатов на основе 50 тысяч терминов из резюме прошлых соискателей в Amazon. Искусственный интеллект оценивал кандидатов по шкале от одного до пяти.

В 2015 году разработчики заметили, что система подбирает специалистов-женщин меньше, чем мужчин. Команда объяснила это тем, что алгоритм обучался на базе, в которую вошли резюме всех сотрудников Amazon за последние десять лет. Мужчин в выборке оказалось больше, чем женщин, поэтому искусственный интеллект пришёл к выводу, что кандидаты-мужчины предпочтительнее, пишет Reuters.

Amazon отредактировала алгоритм, но корректировка не давала гарантий, что он не будет дискриминировать кандидатов по другим признакам, поэтому к началу 2017 года компания решила отказаться от использования системы.
Представитель Amazon отказался комментировать неудачный опыт создания алгоритма и заявил, что при найме сотрудников компания руководствуется в том числе принципами равенства и разнообразия.

Источник

Интересные материалы на эту тему

Виталий Несис: «Никакие KPI не простимулируют сотр... Виталий Несис Есть такое устойчивое выражение: «Необходимость — мать всех изобретений». Оно вполне применимо и к нашему бизнесу. Polymetal создал в 1...
15 бывших сотрудников Google рассказали, почему он... Каждый хочет работать в Google – но мы выяснили, как 15 бывших сотрудников Google поняли, что им пора уходить Работа в компании Google – это мечта ...
6 факторов, которые взорвут интерес к работе у сот... Татьяна Ананьева Успех бизнеса напрямую зависит от личной эффективности каждого из сотрудников. Руководство компаний по всему миру ежегодно инвести...
Производительность удаленных сотрудников выше, чем... Вы наверняка видели новые навороченные дизайны современных офисов? Автомат с конфетками в переговорной. Гамаки и домики на деревьях. Техкомпании-старт...
Как эффективно мотивировать работающих удаленно со... Удаленный сотрудник зачастую в меньшей мере чувствует себя частью команды, чем офисный. Поэтому и мотивировать его тяжелее. Одной зарплаты здесь недос...
Музыка вовлеченности Юлия Крыленко Сотрудник, работающий с максимальной отдачей, — мечта любого работодателя. А компания, где можно реализовать себя в самом широком смысл...
5 слагаемых благополучия сотрудников концерна ... В компании «Шелл» разработана программа Because we Care («Забота о сотрудниках»), она нацелена на поддержание физического и психологического здоровья ...
0.5