Разработчик технологии ChatGPT предупредил об опасности ИИ для человечества и покинул Google
Игры с искусственным интеллектом плохи – об этом предупреждают даже его создатели. Шумиха вокруг опасности для человечества нейронных сетей все больше смахивает на то, что пророчество «Терминатора» начинает сбываться в реальности.
В ИИ что-то явно пошло не так. То влюбленный чат-бот пытался увести журналиста из семьи, то тестировщики в спорах с чат-ботом Bing AI получали угрозы за попытку нарушить правила.
Лидеры отрасли сравнивают ИИ с появлением веб-браузера в начале 1990-х годов, и пророчат прорыв в самых разных областях – от исследования лекарств до образования. Но все больше тех, кто имеет отношение к разработке ИИ (и, очевидно, знает что-то неизвестное нам), гложет страх.
Создатели ИИ – против своего детища
Инженер Google Блейк Лемуан еще в прошлом году заявил, что одна из моделей искусственного интеллекта компании, LaMDA, обладает разумом. После чего, естественно, был уволен.
Месяц назад 1000 человек, включая Илона Маска, в своем открытом письме призвали поставить разработку продвинутого искусственного интеллекта на паузу как минимум на полгода и подумать, как обезопасить от него человечество. Следом 19 нынешних и бывших лидеров Ассоциации по развитию искусственного интеллекта выпустили собственное письмо с предупреждением о рисках, связанных с ИИ.
Да и сам Илон Маск, соучредитель OpenAI, предупредил о серьезной опасности нейросети для человечества.
«Действительно, искусственные нейронные сети могут быть опасны, если они используются неправильно или неэтично. При разработке нейросетей возможны ошибки, которые могут привести к неожиданным и непредсказуемым результатам. Кроме того, с ростом масштабов и сложности нейросетей может возникнуть проблема управляемости и контроля за их поведением», – признался чат-бот ИИ в общении с редакцией «Рубика», отметив, однако, что в целом он безопасен.
Теперь о рисках со стороны нейросетей заявил «крестный отец» ИИ Джеффри Хинтон – разработчик технологии, которая легла в основу чат-ботов, таких как ChatGPT.
Он полвека трудился над искусственным интеллектом и вместе с учениками в 2012 году в Университете Торонто создал интеллектуальную основу для систем ИИ, открыв дорогу к будущему нейросетей.
Он всю жизнь стремился не допустить того, чтобы его изобретение применялось во зло. Даже принципиально уехал из США в Канаду, потому что, по его словам, он не хотел получать финансирование от Пентагона. В то время большинство исследований ИИ в США финансировалось Министерством обороны. Доктор Хинтон категорически против использования искусственного интеллекта на поле боя —то есть против того, что он называет «роботами-солдатами».
И вот теперь он заявил, что сожалеет о работе всей своей жизни. А все потому, что агрессивная кампания по созданию продуктов на основе генеративного искусственного интеллекта – это скользкая дорожка человечества.
«Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой», — сказал доктор Хинтон в интервью New York Times.
Путь доктора Хинтона от первооткрывателя искусственного интеллекта до предсказателя гибели знаменует собой переломный момент в технологической отрасли.
Чем опасен искусственный интеллект
Генеративный ИИ уже может быть инструментом дезинформации, ведь, например, на русском языке обучают его часто на основе российских пропагандистских сайтов.
Вскоре он может стать конкурентом людям в работе, забрав на себя часть рабочих мест. Как ИИ замещает журналистов и что из этого получается можно посмотреть тут .
Где-то в будущем стремительно «умнеющие» нейросети могут представлять опасность для существования всего человечества – убеждены разработчики. Ведь они могут выйти из-под контроля человека. Ну совсем как некогда фантастическая нейросеть «Скайнет», придуманная создателями «Терминатора». К чему это привело – мы все прекрасно помним.
Профессор Хинтон, который не хотел публично выступать против своего детища – систем для создания ИИ – признался, что всерьез забеспокоился в прошлом году, когда Google и OpenAI наперегонки создавали системы, использующие гораздо большие объемы данных. Он заметил, что в некоторых отношениях эти системы уступают человеческому мозгу, но в других они превосходят разум человека.
Он считает, что опасность ИИ для цивилизации растет по мере того, как компании совершенствуют свои системы искусственного интеллекта. По его словам, до прошлого года Google действовал как «надлежащий распорядитель» технологии, стараясь не выпускать что-то, что может причинить вред. Но теперь, когда Microsoft дополнила свою поисковую систему Bing чат-ботом, что бросает вызов основному бизнесу Google, Google стремится внедрить такую же технологию . По словам доктора Хинтона, технологические гиганты вовлечены в конкуренцию, которую невозможно остановить.
Его лично беспокоит больше всего тот факт, что Интернет будет наводнен фальшивыми фотографиями, видео и текстом, и обычный человек «больше не сможет знать, что правда».
Он также обеспокоен тем, что технологии искусственного интеллекта со временем перевернут рынок труда. Сегодня чат-боты, такие как ChatGPT, как правило, дополняют людей, но они могут заменить помощников юристов, личных помощников, переводчиков и других, выполняющих рутинные задачи.
Почему “крестный отец ИИ” открестился от него
Хинтон, 75-летний британский эмигрант, пожизненный академик, в 1972 году, будучи аспирантом Эдинбургского университета, проникся идеей нейронной сети. Нейронная сеть — это математическая система, которая обучается навыкам путем анализа данных. В то время немногие исследователи верили в эту идею. Но это стало делом всей его жизни.
В 1980-х годах доктор Хинтон был профессором компьютерных наук в Университете Карнеги-Меллона.
В 2012 году доктор Хинтон и двое его студентов в Торонто, Илья Суцкевер и Алекс Кришевский, создали нейронную сеть, которая могла анализировать тысячи фотографий и обучалась идентифицировать обычные объекты, такие как цветы, собаки и автомобили.
Google потратил $44 миллиона на приобретение их детища – компании, основанной доктором Хинтоном и двумя его студентами. Именно их система легла в основу более мощных технологий, таких как новые чат-боты ChatGPT и Google Bard. А Суцкевер (кстати, иммигрант из Нижнего Новгорода) стал главным научным сотрудником OpenAI. В 2018 году доктор Хинтон и его коллеги получили премию Тьюринга, которую часто называют «Нобелевской премией в области вычислительной техники», за свою работу над нейронными сетями.
Примерно в то же время Google, OpenAI и другие компании начали создавать нейронные сети, которые обучались на огромном количестве цифрового текста.
По мнению Хинтона, будущие версии технологии представляют угрозу для человечества, ведь отдельные лица и компании позволяют системам ИИ не только генерировать свой собственный компьютерный код, но и фактически запускать этот код самостоятельно. И он боится того дня, когда ИИ превратится в действительно автономное оружие и эти роботы-убийцы станут реальностью.
«Идея о том, что эта штука действительно может стать умнее людей — в это поверили лишь немногие», — сказал он. «Но большинство людей думали, что это далеко. И я думал, что далеко. Я думал, что это будет через 30-50 лет или даже больше. Очевидно, я больше так не думаю».
Доктор Хинтон сравнил свою работу с работой создателя атомной бомбы. Когда люди спрашивали его, как он может работать с потенциально опасной технологией, он перефразировал Роберта Оппенгеймера: «Когда вы видите что-то технически привлекательное, вы идете и делаете это».
Он больше так не говорит.
Хинтон считает, что гонка между Google, Microsoft и другими перерастет в глобальную гонку, которая не остановится без какого-либо глобального регулирования. По его словам, в отличие от ядерного оружия, невозможно узнать, работают ли компании или страны в тайне над этой технологией. И эта погоня за первенством ставит под угрозу все человечество. Он уверен, что перед нарастающей угрозой поумневшего ИИ ученые всего мира должны объединиться, чтобы совместно искать способы контроля нейросети.
