Однако соглашение более 90 говорится о том, что выгода искусственного интеллекта для области биологии превысит любой потенциальный вред.
Дарио Амодеей, исполнительный директор громкого рода А.И. В прошлом году стартап-антроп сказал Конгрессу, что новый А.И. Технология может вскоре помочь неквалифицированным, но злобным людям создают крупномасштабные биологические атаки, такие как высвобождение вирусов или токсичных веществ, которые вызывают широко распространенные заболевания и смерть.
Сенаторы из обеих сторон были встревожены, в то время как А.И. Исследователи в промышленности и академиях обсуждали, насколько серьезной может быть угроза.
Теперь более 90 биологов и других ученых, которые специализируются на А.И. Технологии, используемые для проектирования новых белков-микроскопических механизмов, которые стимулируют все творения в биологии,-подписали соглашение, которое направлено на то, чтобы их исследование A.
Биологи, которые включают нобелевского лауреата Фрэнсис Арнольд и представляют лаборатории в Соединенных Штатах и других странах, также утверждали, что последние технологии будут иметь гораздо больше преимуществ, чем негативы, включая новые вакцины и лекарства.
«Как ученые, занимающиеся этой работой, мы считаем, что преимущества нынешнего А.И. Технологии для дизайна белка намного перевешивают потенциал вреда, и мы хотели бы обеспечить, чтобы наше исследование осталось полезным для всех в будущем », - говорится в соглашении.
Соглашение не стремится подавить разработку или распределение А.И. технологии. Вместо этого биологи стремятся регулировать использование оборудования, необходимого для производства нового генетического материала.
Это оборудование для производства ДНК в конечном итоге позволяет развивать биоуапоны, сказал Дэвид Бейкер, директор Института проектирования белка в Вашингтонском университете, который помог пастушству соглашение.
«Дизайн белка - это только первый шаг в создании синтетических белков», - сказал он в интервью. «Затем вы должны фактически синтезировать ДНК и перемещать дизайн с компьютера в реальное мир - и это подходящее место для регулирования».
Соглашение является одной из многих попыток взвесить риски А.И. против возможных преимуществ. Как некоторые эксперты предупреждают, что А.И. Технологии могут помочь распространить дезинформацию, заменить рабочие места необычным темпом и, возможно, даже уничтожить человечество, технологические компании, академические лаборатории, регуляторы и законодатели, пытаются понять эти риски и находят способы их решения.
Компания доктора Амодея, Anpropic, создает большие языковые модели, или L.L.M.S, новая технология, которая движет онлайн -чат -ботами. Когда он дал показания перед Конгрессом, он утверждал, что технология вскоре может помочь нападавшим построить новые биоапоны.
Но он признал, что сегодня это невозможно. Антропик недавно провел подробное исследование, показывающее, что если кто -то пытался приобрести или разработать биологическое оружие, L.L.M.S был немного более полезным, чем обычная поисковая система в Интернете.
Доктор Амодеэй и другие беспокоятся о том, что, поскольку компании улучшают L.L.M.S и объединяют их с другими технологиями, возникнет серьезная угроза. Он сказал Конгрессу, что это было всего два -три года.
OpenAI, производитель онлайн -чат -бота CHATGPT, позже провел аналогичное исследование, которое показало, что L.L.M.S не были значительно более опасными, чем поисковые системы. Александр Менри, профессор информатики в Массачусетском технологическом институте и главе готовности Openai, сказал, что он ожидает, что исследователи будут продолжать улучшать эти системы, но он еще не видел никаких доказательств того, что они смогут создать новые биоапоны Полем
Сегодняшние L.L.M.S создается путем анализа огромного количества цифрового текста, отобранного через Интернет. Это означает, что они извергают или рекомбинируют то, что уже доступно в Интернете, включая существующую информацию о биологических атаках. (New York Times подала в суд на Openai и его партнера Microsoft, обвинив их в нарушении авторских прав во время этого процесса.)
Но в попытке ускорить разработку новых лекарств, вакцин и других полезных биологических материалов, исследователи начинают строить аналогичные A.I. Системы, которые могут генерировать новые конструкции белка. Биологи говорят, что такая технология также может помочь нападавшим разрабатывать биологическое оружие, но они указывают на то, что на самом деле построение оружия потребуется многомиллионная лаборатория, включая оборудование для производства ДНК.
«Существует некоторый риск, который не требует миллионов долларов в инфраструктуре, но эти риски существуют некоторое время и не связаны с А.И.»,-сказал Эндрю Уайт, соучредитель некоммерческого будущего дома и одного из биологов. кто подписал соглашение.
Биологи призвали к разработке мер безопасности, которые предотвратят использование оборудования для производства ДНК с вредными материалами - хотя неясно, как будут работать эти меры. Они также призвали к обзорам безопасности и безопасности нового А.И. модели, прежде чем их выпустить.
Они не утверждали, что технологии должны быть в бутылках.
«Эти технологии не должны проводиться только небольшим количеством людей или организаций», - сказал Рама Ранганатан, профессор биохимии и молекулярной биологии в Чикагском университете, который также подписал соглашение. «Сообщество ученых должно быть в состоянии свободно исследовать их и внести свой вклад в них».
No comments:
Post a Comment