Джеффри Хинтон, также известный как «Крестный отец искусственного интеллекта», решил, что ему нужно «разоблачить» технологию, которую он помог разработать, после беспокойства о том, насколько умной она становится, сказал он CNN во вторник.
«Я просто ученый, который внезапно понял, что эти вещи становятся умнее нас», — сказал Хинтон Джейку Тапперу из CNN в интервью во вторник. «Я хочу как бы дать свисток и сказать, что мы должны серьезно беспокоиться о том, как мы помешаем этим вещам получить контроль над нами».
Новаторская работа Хинтона над нейронными сетями сформировала системы искусственного интеллекта, лежащие в основе многих современных продуктов. В понедельник он попал в заголовки газет из-за того, что оставил свою должность в Google, где проработал десять лет, чтобы открыто рассказать о своих растущих опасениях по поводу технологии.
В понедельник в интервью газете New York Times, которая первой сообщила о его шаге, Хинтон сказал, что его беспокоит потенциал ИИ по сокращению рабочих мест и созданию мира, в котором многие «больше не смогут знать, что является правдой». Он также указал на ошеломляющие темпы развития, намного превосходящие то, что он и другие ожидали.
«Если он станет намного умнее нас, он будет очень хорош в манипулировании, потому что научился этому от нас, а примеров того, как более разумное существо контролируется менее разумным, очень мало», — сказал Хинтон Тапперу. во вторник.
«Он знает, как программировать, поэтому найдет способы обойти ограничения, которые мы на него наложили. Он найдет способы манипулировать людьми, чтобы они делали то, что хотят».
Хинтон — не единственный технический лидер, который высказывает опасения по поводу ИИ. В марте ряд членов сообщества подписали письмо с призывом к лабораториям искусственного интеллекта прекратить обучение самых мощных систем ИИ как минимум на шесть месяцев, сославшись на «серьезные риски для общества и человечества».
Письмо, опубликованное некоммерческой организацией Future of Life Institute, поддерживаемой Илоном Маском, было опубликовано всего через две недели после того, как OpenAI анонсировала GPT-4, еще более мощную версию технологии, лежащей в основе вирусного чат-бота ChatGPT. В первых тестах и демонстрации компании GPT-4 использовался для составления судебных исков, сдачи стандартных экзаменов и создания работающего веб-сайта из нарисованного от руки эскиза.
Соучредитель Apple Стив Возняк, который был одним из тех, кто подписал письмо, во вторник появился в эфире CNN This Morning, повторив опасения по поводу возможности распространения дезинформации.
«Обман будет намного проще для тех, кто хочет вас обмануть», — сказал Возняк CNN. «Мы на самом деле не вносим никаких изменений в этом отношении — мы просто предполагаем, что законы, которые у нас есть, позаботятся об этом».
Возняк также сказал, что, вероятно, необходимо «какое-то» регулирование.
Хинтон, со своей стороны, сказал CNN, что не подписывал петицию. «Я не думаю, что мы сможем остановить прогресс», — сказал он. «Я не подписывал петицию о том, что мы должны прекратить работу над ИИ, потому что, если люди в Америке остановятся, люди в Китае этого не сделают».
Но он признался, что не имеет четкого ответа, что делать вместо этого.
«Мне не ясно, сможем ли мы решить эту проблему, — сказал Хинтон Тапперу. «Я считаю, что мы должны приложить большие усилия, чтобы подумать о способах решения проблемы. В настоящее время у меня нет решения».
No comments:
Post a Comment