TL;DR: Соискатели подали в суд на инструмент искусственного подбора персонала под названием Eightfold за то, что он якобы составляет секретные отчеты, которые помогают работодателям проверять кандидатов. Почему это незаконно? По той же причине, по которой рейтинговые агентства должны объяснять вам, почему они изменили ваш рейтинг, утверждается в иске. Если суды поверят этой логике, это может начать менять мир «черного ящика» закупок ИИ.
Что произошло: Как и многие люди, которые в последнее время играли в игру с числами при поиске работы, соискатели были сыты по горло тем, что количество заявок, казалось бы, резко падало. Они подали коллективный иск против компании Eightfold, которая использует такие крупные компании, как Microsoft и PayPal, для проверки потенциальных сотрудников. В иске утверждается, что Eightfold нарушила Закон о честной кредитной отчетности и аналогичный закон Калифорнии о защите прав потребителей, не позволив заявителям просматривать информацию о себе и при необходимости исправлять записи.
«Технология Eightfold скрывается за заявлениями о приеме на работу, — утверждается в иске, — собирая личные данные, такие как профили в социальных сетях, данные о местоположении, активность в Интернете и на устройствах, файлы cookie и другие виды отслеживания».
Eightfold это оспаривает: инструмент «работает на данных, намеренно предоставленных кандидатами или предоставленными нашими клиентами. Мы не очищаем социальные сети и тому подобное», — сообщил нам представитель Курт Феллер. «Eightfold считает, что обвинения необоснованны».
Что не оспаривается, так это то, что Eightfold использует ИИ для получения оценки от нуля до пяти, определяющей, насколько кандидат подходит для данной должности.
Почему это важно: компании теперь используют множество инструментов искусственного интеллекта для поиска и оценки кандидатов. Кандидаты также участвуют в игре, используя свои собственные инструменты искусственного интеллекта для поиска работы и создания приложений. Это полностью искусственный интеллект.
В некоторых штатах (и в городе Нью-Йорке) действуют законы, регулирующие эти инструменты, в основном ориентированные на их потенциал предвзятости и дискриминации. Но принятие решений с помощью ИИ по-прежнему происходит в основном без ведома соискателей.
По словам Полины Ким, профессора трудового права юридического факультета Вашингтонского университета, это не первый случай, когда Закон о справедливой кредитной отчетности используется для оспаривания систем найма на основе больших данных, но то, что один из этих случаев касается искусственного интеллекта, является новым.
Что это значит для вас: если иск будет успешным (что может занять годы), инструменты ИИ-рекрутинга смогут более точно подходить к данным, которые они собирают, и усерднее работать над обеспечением точности, сказала Ким. Но закон 55-летней давности, на котором основан иск, также может не полностью отражать современное использование.
Реальная важность, по мнению Кима, заключается в том, что компании, которые полагаются на эти инструменты, должны будут быть более прозрачными в их использовании. «Однако, поскольку закон был написан раньше, даже если он будет обеспечиваться судами, он обеспечит лишь ограниченную прозрачность, вероятно, недостаточную для обеспечения справедливости этих систем». -УПАКОВКА
Этот отчет был первоначально опубликован Tech Brew.
