Байден представил первый в истории указ правительства США об искусственном интеллекте

 Президент Джо Байден представил новый указ об искусственном интеллекте — первое в своем роде действие правительства США — требующий новых оценок безопасности, рекомендаций по справедливости и гражданским правам, а также исследований влияния ИИ на рынок труда.

Хотя правоохранительные органы предупредили, что они готовы применить существующий закон к злоупотреблениям в области ИИ, а Конгресс постарался больше узнать о технологии для разработки новых законов, исполнительный указ может иметь более немедленные последствия. Как и все указы президента, он «имеет силу закона», по словам высокопоставленного чиновника администрации, беседовавшего с журналистами во время воскресного телефонного разговора.

Белый дом разбивает ключевые компоненты указа на восемь частей:

Создание новых стандартов безопасности и защищенности для ИИ , в том числе требование от некоторых компаний, занимающихся ИИ, делиться результатами испытаний безопасности с федеральным правительством, поручение Министерству торговли разработать руководство по нанесению водяных знаков ИИ и создание программы кибербезопасности, которая может создавать инструменты ИИ, помогающие выявлять недостатки. в критическом программном обеспечении.

Защита конфиденциальности потребителей , в том числе путем создания руководящих принципов, которые агентства могут использовать для оценки методов обеспечения конфиденциальности, используемых в ИИ.

Продвижение справедливости и гражданских прав путем предоставления рекомендаций арендодателям и федеральным подрядчикам, чтобы помочь избежать использования алгоритмов ИИ, способствующих дискриминации, и создания передового опыта в отношении соответствующей роли ИИ в системе правосудия, в том числе когда он используется при вынесении приговоров, оценке рисков и прогнозировании преступности.

Защитить потребителей в целом , поручив Министерству здравоохранения и социальных служб создать программу для оценки потенциально вредных методов здравоохранения, связанных с ИИ, и создать ресурсы о том, как преподаватели могут ответственно использовать инструменты ИИ.

Поддержка работников путем подготовки отчета о потенциальных последствиях ИИ для рынка труда и изучения способов, которыми федеральное правительство могло бы поддержать работников, пострадавших от сбоев на рынке труда.

Содействие инновациям и конкуренции за счет расширения грантов на исследования ИИ в таких областях, как изменение климата, и модернизации критериев для высококвалифицированных рабочих-иммигрантов с ключевым опытом, позволяющим остаться в США.

Работа с международными партнерами над внедрением стандартов искусственного интеллекта по всему миру.

Разработка руководства по использованию и закупкам ИИ федеральными агентствами и ускорение найма правительством квалифицированных специалистов в этой области.

Этот приказ представляет собой «самый решительный набор действий, которые когда-либо предпринимало любое правительство в мире в отношении безопасности, защищенности и доверия к ИИ», — заявил в своем заявлении заместитель главы администрации Белого дома Брюс Рид.

Он основан на добровольных обязательствах, которые Белый дом ранее получил от ведущих компаний в области искусственного интеллекта, и представляет собой первое крупное обязательное действие правительства в отношении этой технологии. Это также предшествует саммиту по безопасности искусственного интеллекта, организованному Великобританией .

Высокопоставленный представитель администрации сослался на тот факт, что 15 крупных американских технологических компаний согласились выполнить добровольные обязательства по безопасности ИИ, но этого «недостаточно», и указ, принятый в понедельник, является шагом к конкретному регулированию развития технологий.

«Несколько месяцев назад президент поручил своей команде нажать на все рычаги, и именно это и делает этот указ: использование полномочий федерального правительства в широком спектре областей для управления рисками ИИ и использования его преимуществ», — заявил чиновник.

Указ президента Байдена требует, чтобы крупные компании делились результатами испытаний на безопасность с правительством США до официального выпуска систем искусственного интеллекта. Он также отдает приоритет разработке Национальным институтом стандартов и технологий стандартов для «красной команды» ИИ или стресс-тестирования защиты и потенциальных проблем внутри систем. Министерство торговли разработает стандарты для нанесения водяных знаков на контент, созданный искусственным интеллектом.

Приказ также включает в себя обучающие данные для крупных систем искусственного интеллекта и подчеркивает необходимость оценки того, как агентства собирают и используют коммерчески доступные данные, включая данные, приобретенные у брокеров данных, особенно когда эти данные включают личные идентификаторы.

Администрация Байдена также предпринимает шаги по усилению рабочей силы в области искусственного интеллекта. По словам высокопоставленного представителя администрации, начиная с понедельника, сотрудники, обладающие опытом в области искусственного интеллекта, смогут найти соответствующие вакансии в федеральном правительстве на сайте AI.gov.

Что касается сроков действий, продиктованных указом, представитель администрации заявил в воскресенье, что «наиболее агрессивные» сроки для некоторых аспектов безопасности указа включают 90-дневный поворот, а для некоторых других аспектов этот срок может быть ближе к году.

Основываясь на предыдущих действиях ИИ

Указ, принятый в понедельник, следует за рядом шагов, предпринятых Белым домом в последние месяцы для создания пространства для обсуждения темпов развития ИИ, а также предлагаемых руководящих принципов.

С момента вирусного внедрения ChatGPT в ноябре 2022 года, которое, согласно исследованию UBS, за два месяца стало самым быстрорастущим потребительским приложением в истории, широкое внедрение генеративного искусственного интеллекта уже привело к обеспокоенности общественности, юридическим баталиям и вопросам законодателей. Например, через несколько дней после того, как Microsoft включила ChatGPT в свою поисковую систему Bing, ее  раскритиковали за токсичную речь , а популярные генераторы изображений с искусственным интеллектом подверглись критике за расовую предвзятость и распространение стереотипов.

Исполнительный указ президента Байдена предписывает Министерству юстиции, а также другим федеральным ведомствам разработать стандарты для «расследования и судебного преследования нарушений гражданских прав, связанных с ИИ», заявил представитель администрации в воскресенье во время телефонного разговора с журналистами.

«Указ президента требует, чтобы арендодателям, федеральным программам льгот и федеральным подрядчикам были предоставлены четкие инструкции по предотвращению использования алгоритмов искусственного интеллекта для обострения дискриминации», — добавил чиновник.

В августе Белый дом бросил вызов тысячам хакеров и исследователей безопасности, чтобы они перехитрили лучшие модели генеративного ИИ от лидеров отрасли, включая OpenAI,  Google ,  Microsoft ,  Meta  и  Nvidia . Соревнования проводились в рамках DEF CON, крупнейшей в мире хакерской конференции.

«Это можно назвать первой публичной оценкой нескольких программ LLM», — заявил тогда CNBC представитель Управления по науке и технологической политике Белого дома.

Конкурс последовал за июльской встречей Белого дома и семи ведущих компаний в области искусственного интеллекта, включая Alphabet , Microsoft , OpenAI, Amazon , Anthropic, Inflection и Meta . Каждая из компаний покинула встречу, согласившись на ряд добровольных обязательств по разработке ИИ, включая разрешение независимым экспертам оценивать инструменты перед публичной презентацией, исследование социальных рисков, связанных с ИИ, и разрешение третьим сторонам тестировать уязвимости системы, например, в Августовские соревнования DEF CON.

Источник