Чат-боты все чаще используются компаниями для проведения собеседований и проверки соискателей, часто для рабочих мест. Но, как и другие алгоритмические инструменты найма до них, эксперты и соискатели опасаются, что эти инструменты могут быть предвзятыми.
В начале июня Аманда Клейпул искала работу в ресторане быстрого питания в Эшвилле, Северная Каролина. Но она столкнулась с неожиданным и досадным препятствием: глючные чат-боты-вербовщики.
Несколько примеров: рекрутер чат-бота McDonald’s «Оливия» разрешила Клейпулу пройти личное собеседование, но не смогла его запланировать из-за технических проблем. Боту Венди удалось назначить ей личное собеседование, но это была работа, которую она не могла выполнить. Затем чат-бот Hardees отправил ее на собеседование с менеджером магазина, который был в отпуске, что вряд ли можно назвать идеальной стратегией найма.
«Я появился в Hardees, и они были немного удивлены. Команда ресторана понятия не имела, что со мной делать и как мне помочь», — рассказал Forbes Клейпул, который в конечном итоге устроился на работу в другом месте. «Это казалось более сложным, чем должно было быть», — сказала она. (McDonald’s и Hardees не ответили на запрос о комментариях. Представитель Wendy’s сказал Forbes, что бот создает «эффективность найма», добавив, что «инновации у нас в ДНК».)
Чат-боты HR, подобные тем, с которыми столкнулся Клейпул, все чаще используются в таких отраслях, как здравоохранение, розничная торговля и рестораны, чтобы отфильтровывать неподходящих кандидатов и планировать собеседования с теми, кто может подойти для этой работы. McDonalds, Wendy’s, CVS Health и Lowes используют Olivia, чат-бот, разработанный ИИ-стартапом Paradox из Аризоны стоимостью 1,5 миллиарда долларов. Другие компании, такие как L’Oreal, полагаются на Mya, чат-бота с искусственным интеллектом, разработанного в Сан-Франциско одноименным стартапом. (Paradox не ответила на просьбу прокомментировать опыт Клейпула.)
Большинство чат-ботов для найма не настолько продвинуты и продуманы, как современные диалоговые чат-боты, такие как ChatGPT. Они в основном использовались для поиска вакансий, на которые поступает большое количество соискателей — кассиров, сотрудников склада и помощников по обслуживанию клиентов. Они рудиментарны и задают довольно простые вопросы: «Вы умеете пользоваться вилочным погрузчиком?» или «Вы можете работать по выходным?» Но, как обнаружил Клейпул, эти боты могут глючить — и не всегда есть человек, к которому можно обратиться, когда что-то пойдет не так. А четкие ответы, которые требуются многим ботам, могут означать автоматический отказ для некоторых квалифицированных кандидатов, которые могут не отвечать на вопросы, как того требует большая языковая модель.
По словам экспертов, это может стать проблемой для людей с ограниченными возможностями, людей, не владеющих английским языком, и пожилых соискателей. Аарон Конопаски, старший советник юриста Комиссии США по равным возможностям трудоустройства (EEOC), опасается, что чат-боты, такие как Оливия и Майя, могут не предоставить людям с ограниченными возможностями или медицинскими показаниями альтернативные варианты доступности или рабочих ролей. «Если вы разговариваете с человеком, у вас есть естественная возможность поговорить о разумных приспособлениях», — сказал он Forbes. «Если чат-бот слишком жесткий, и человек должен иметь возможность запросить какое-то исключение, то чат-бот может не дать ему возможности сделать это».
«Это похоже на то, как Netflix рекомендует фильмы на основе других фильмов, которые вам нравятся».
Джереми Шифф, генеральный директор и основатель RecruitBot
Дискриминация – еще одна проблема. Предрассудки, лежащие в основе данных, используемых для обучения ИИ, могут привнести предвзятость и дискриминацию в инструменты, в которых он используется. «Если чат-бот смотрит на такие вещи, как то, сколько времени вам нужно, чтобы ответить, или используете ли вы правильную грамматику и сложные предложения, именно здесь вы начинаете беспокоиться о возможной предвзятости», — сказала Полин Ким, профессор трудового и трудового права. в Вашингтонском университете, чьи исследования сосредоточены на использовании ИИ в инструментах найма. Но такое предубеждение может быть трудно обнаружить, когда компании не прозрачны в отношении того, почему потенциальный кандидат был отклонен.
Недавно государственные органы приняли законодательство для мониторинга и регулирования использования автоматизации в инструментах найма. В начале июля город Нью-Йорк принял новый закон, требующий от работодателей, использующих автоматизированные инструменты, такие как сканеры резюме и интервью с чат-ботами, проверять свои инструменты на наличие гендерных и расовых предубеждений. В 2020 году в Иллинойсе был принят закон, обязывающий работодателей, применяющих ИИ для анализа видеоинтервью, уведомлять соискателей и получать согласие.
Тем не менее, для компаний, стремящихся сократить расходы на подбор персонала, скрининговые агенты ИИ кажутся очевидным вариантом. По словам Мэтью Шерера, старшего политического советника по правам рабочих и технологиям в Центре демократии и технологий, отделы кадров часто являются одним из первых мест, где происходит сокращение штата. «Человеческие ресурсы всегда были центром затрат для компании, они никогда не приносили доход», — пояснил он. «Чат-боты — очень логичный первый шаг, чтобы попытаться снять часть нагрузки с рекрутеров».
Это часть обоснования Sense HQ, которая предоставляет таким компаниям, как Sears, Dell и Sony, чат-ботов с искусственным интеллектом на основе текстовых сообщений, которые помогают их рекрутерам пробираться через тысячи кандидатов. Компания утверждает, что ее уже использовали около 10 миллионов соискателей, и соучредитель Алекс Розен сказал Forbes, что такие цифры означают гораздо больший пул жизнеспособных кандидатов.
«Причина, по которой мы создали чат-бота, в первую очередь заключалась в том, чтобы помочь рекрутерам общаться с более широким кругом кандидатов, чем они могли бы сделать самостоятельно», — сказал он, добавив обязательную оговорку: «Мы не думаем, что это ИИ должен принимать решение о найме самостоятельно. Вот где это становится опасно. Мы просто не думаем, что он еще есть».
RecruitBot использует ИИ для найма, используя машинное обучение для просеивания базы данных из 600 миллионов кандидатов на работу, полученной из общедоступных данных и рынков вакансий, — и все это с целью помочь компаниям найти кандидатов на работу, похожих на их нынешних сотрудников. «Это похоже на то, как Netflix рекомендует фильмы, основанные на других фильмах, которые вам нравятся», — сказал Forbes генеральный директор и основатель Джереми Шифф. система отслеживания резюме, основанная на обучении, которая дискриминировала женщин, поскольку ее обучающие данные в основном состояли из резюме мужчин.
«Чат-боты — очень логичный первый шаг, чтобы попытаться снять часть нагрузки с рекрутеров».
Мэтью Шерер, старший политический советник Центра демократии и технологий
Урмила Джанардан, политический аналитик некоммерческой организации Upturn, которая исследует, как технологии влияют на возможности людей, отметила, что некоторые компании также обращаются к личностным тестам, чтобы отсеять кандидатов — и вопросы для отбора кандидатов могут вообще не иметь отношения к работе. . «Вам даже могут отказать в приеме на работу из-за вопросов о благодарности и личных качествах», — сказали они.
Для Рика Гнеда, художника и писателя, работающего неполный рабочий день, викторина была частью интервью с чат-ботом, которое он дал для работы по почасовой оплате в австралийском супермаркете Woolworths. Чат-бот, созданный рекрутинговой фирмой Sapia AI (ранее известной как PredictiveHire), попросил его дать от 50 до 150 слов ответов на пять вопросов, а затем проанализировал его ответы, ища черты и навыки, которые соответствуют предпочтениям рекрутеров. Заключив, что Гнед «хорошо справляется с изменениями» и «больше сосредоточен на общей картине, которая заставляет его рассматривать детали», он продвинулся к следующему раунду интервью. Хотя Sapia AI не требует, чтобы кандидаты отвечали на вопросы в течение ограниченного времени, система измеряет структуру предложений, удобочитаемость и сложность слов, используемых в текстовых ответах, сообщила в электронном письме генеральный директор и соучредитель Sapia AI Барб Хайман.
Гнед нашел все это бесчеловечным и тревожным, сказал он Forbes. «Я нахожусь в демографической группе, где это не влияет на меня, но я беспокоюсь за людей, которые относятся к меньшинствам, которые в основном составляют рынок труда с низким доходом».
Для одного кандидата на работу, который попросил анонимности, чтобы говорить свободно, общение с ботом имело по крайней мере один положительный результат. Заполняя сотни заявлений о приеме на работу, он часто не получает ответа, но бот, по крайней мере, заверил его, что его заявление получено. «Это во многих отношениях было похоже на повышение морального духа», — сказал он. «Но если бы мне пришлось делать это (текст с чат-ботом) с каждой вакансией, на которую я подаю заявку, это было бы занозой в заднице».
No comments:
Post a Comment