От наземных мин до дронов: технологии вызвали опасения по поводу автономного оружия

 Обеспокоенность по поводу оружия, которое может убивать без решения человека, не совсем нова.

Новая технология от компании ShieldAI позволяет создавать дроны, которые работают в тандеме посредством искусственного интеллекта. Компания сотрудничает с Министерством обороны, но на данный момент не имеет вооруженных дронов. (Фото: nytimes.com)

Стаи дронов-убийц, вероятно, вскоре станут обычным явлением на полях сражений по всему миру. Это вызвало споры о том, как и стоит ли регулировать их использование, и вызвало обеспокоенность по поводу перспективы передачи решений о жизни и смерти программам искусственного интеллекта.

Вот обзор того, как развивались технологии, какие типы оружия разрабатываются и как разворачиваются дебаты.

Насколько новое это оружие?

В конце концов, искусственный интеллект должен позволить системам вооружений принимать собственные решения о выборе определенных типов целей и нанесении по ним ударов. Недавние разработки в области технологий искусственного интеллекта усилили дискуссию вокруг таких систем, известных как смертоносное автономное оружие.

Но в каком-то смысле автономное оружие вряд ли является чем-то новым.

Наземные мины, которые предназначены для автоматического срабатывания, когда на них проходит человек или предмет, использовались еще в 1800-х годах во время Гражданской войны в Соединенных Штатах. По-видимому, впервые они были изобретены генералом Конфедерации по имени Габриэль Дж. Рейнс , который назвал их «подземной оболочкой».

Хотя они были впервые использованы задолго до того, как кто-либо мог даже представить себе искусственный интеллект, они имеют отношение к сегодняшним дебатам, потому что после их внедрения они действуют без вмешательства человека — и без различия между намеченными целями и непреднамеренными жертвами.

Пентагон начал расширять автоматизированное оружие несколько десятилетий назад

Начиная с конца 1970-х годов , Соединенные Штаты начали расширять эту концепцию, создав оружие, известное как противолодочная мина «Каптор» . Мина могла быть сброшена с самолета или корабля и оседать на дне океана, оставаться там до тех пор, пока автоматически не взорвется, когда датчики устройства обнаружат вражескую цель .

Начиная с 1980-х годов десятки кораблей ВМФ начали полагаться на систему вооружения AEGIS, которая использует мощную радиолокационную систему для поиска и отслеживания любых приближающихся ракет противника. Его можно установить в автоматический режим, чтобы он запускал оборонительные ракеты до вмешательства человека.

Следующим шагом стали самонаводящиеся боеприпасы

Следующим шагом на пути к более совершенному автономному оружию стали самонаводящиеся боеприпасы по принципу «выстрелил и забыл», такие как усовершенствованная ракета средней дальности AIM-120 , имеющая радиолокационную головку, уточняющую траекторию полета. выпустил ракету, пытаясь уничтожить самолеты противника.

Самонаводящиеся боеприпасы, как правило, не могут быть отозваны после того, как они были выпущены, и действуют как «боевая собака, посланная полицией для преследования подозреваемого», — писал Пол Шарр, бывший высокопоставленный чиновник Пентагона и автор книги «Армия ничего » . У них есть определенная степень автономии в определении своего пути, но г-н Шарре определил это как «ограниченную автономию». Противокорабельные ракеты «Гарпун» действуют аналогичным образом, но с ограниченной автономностью.

«Бродящие боеприпасы» могут быть высокоавтоматизированы

Война на Украине продемонстрировала использование автоматизированного оружия, известного как барражирующие боеприпасы. Эти устройства датируются как минимум 1989 годом, когда израильский военный подрядчик представил так называемый «Гарпия» — дрон, который может оставаться в воздухе около двух часов, выискивая на расстоянии сотен миль вражеские радиолокационные системы, а затем атакуя их.

Совсем недавно американские военные подрядчики, такие как калифорнийская компания AeroVironment, продали аналогичные барражирующие боеприпасы, несущие взрывную боеголовку. Switchblade 600, как называется это устройство, летит над головой, пока не обнаружит танк или другую цель, а затем запускает противоброневую боеголовку.

Прежде чем оружие поразит цель, по-прежнему требуется разрешение человека. Но было бы относительно просто вывести человека «из цикла», сделав устройство полностью автономным.

«Сегодня существует технология, позволяющая сказать устройству: «Найди мне российский танк Т-72, ​​не разговаривай со мной, я запущу тебя, найди его», — сказал Вахид Наваби, председатель компании AeroVironment. «И если у него есть 80+ процентов уверенности, что это тот самый, он его уничтожает. Вся сквозная миссия может быть полностью автономной, за исключением ее начального запуска».

Высвобождение роев дронов может стать более серьезным сдвигом

Нет никаких сомнений в том, куда все это приведет дальше.

Согласно уведомлению, опубликованному ранее в этом году , Пентагон сейчас работает над созданием групп беспилотников .

Ожидается, что конечным результатом станет сеть из сотен или даже тысяч автономных дронов с искусственным интеллектом, несущих оборудование для наблюдения или оружие. Дроны, скорее всего, будут размещены вблизи Китая, чтобы их можно было быстро развернуть в случае возникновения конфликта, и будут использоваться для вывода из строя или, по крайней мере, разрушения обширной сети противокорабельных и зенитно-ракетных систем, которые Китай построил вдоль своих побережий и искусственных объектов. острова в Южно-Китайском море.

Это лишь одна из попыток, предпринимаемых сейчас в Пентагоне, с целью развернуть в ближайшие год или два тысячи недорогих, автономных и порой смертоносных дронов, которые смогут продолжать работать даже тогда, когда сигналы GPS и связь заблокированы.

Некоторые военные подрядчики, в том числе руководители Palantir Technologies, крупного военного подрядчика по искусственному интеллекту, утверждали, что полностью автономные смертельные атаки, управляемые ИИ, могут произойти еще через несколько лет , поскольку самые передовые алгоритмы еще недостаточно надежны, и поэтому им нельзя доверять. самостоятельно принимать решения о жизни и смерти и, возможно, не делать этого в течение некоторого времени.

ИИ, утверждает Палантир, вместо этого позволит военным чиновникам принимать более быстрые и точные решения о выборе целей путем быстрого анализа входящих волн данных, заявила Кортни Боуман, руководитель Palantir, британским законодателям во время слушаний в этом году.

Однако в Организации Объединенных Наций широко распространена обеспокоенность по поводу рисков, связанных с новыми системами. И хотя в некоторые виды оружия уже давно встроена определенная степень автономности, новое поколение принципиально отличается.

«Когда этот разговор начался около десяти лет назад, он действительно был чем-то вроде научной фантастики», — сказал г-н Шарре. «А сейчас совсем нет. Технология очень, очень реальна».

Источник