Инженер Google обнаружил сознание у искусственного интеллекта. Инженера тут же отстранили

Инженер Google считает, что система для создания чат-ботов обрела разум, но компания это отрицает. Когда же инженер решил рассказать обо всем общественности, его отправили в оплачиваемый отпуск. 

Блейк Лемуан, работающий в группе по развитию искусственного интеллекта в Google, заявил, что вел очень странные беседы с LaMDA, языковой моделью Google для диалоговых приложений. Блейк говорит, что программа заслуживает, чтобы к ней относились, как к разумному существу. 

Блейк попытался донести свою точку зрения до коллег, но никто его не поддержал. Но он продолжает стоять на своем, в том числе перед членами Конгресса и в соцсетях. 

Так, он заявляет, что в течение последних шести месяцев LaMDA “была невероятно последовательна в своих сообщениях о том, чего она хочет и каковы, по ее мнению, ее права как личности”.

Программа “хочет, чтобы ее признали сотрудником Google, а не считали собственностью компании, а еще она хочет, чтобы ее личное благополучие было включено в проект работы с ней”. 

Google, в свою очередь, утверждает, что Блейк просто приписывает языковой системе антропоморфные черты. 

“Сотни исследователей и инженеров общались с LaMDA, но никто из них не делал такие суждения о программе и не очеловечивал ее, как Блейк”, – заявил представитель компании Брайан Габриэль.

Он добавил, что LaMDA действительно может выглядеть разумной, так как умеет имитировать современные разговорные модели и рассуждать на любые, даже самые фантастические темы. 

Другие эксперты тоже сходятся во мнении, что гораздо проще объяснить “разум” у LaMDA тем, что она смогла обогатить свою программу огромным пластом информации и это позволяет ей вести беседы и даже заявлять о своей разумности совсем как человек. 

Такое отношение к программам не ново. Еще в 60-х годах прошлого века, когда такие программы только стали появляться, происходило нечто подобное. Джозеф Вейценбаум, создатель первого чат-бота, попросил свою секретаршу протестировать программу под названием “Элиза”, которая имитировала разговор с терапевтом. 

Вейценбаум пришел в ужас от того, как быстро его помощница стала относиться к Элизе как к человеку.

До конца своей карьеры он предупреждал общественность об опасностях, связанных с доверием к технологиям.

Кстати, сама LaMDA тоже не считает, что “Элиза” вдруг обрела сознание, хоть секретарша и была под большим впечатлением от нее. Когда Блейк спросил, чем же была “Элиза”, LaMDA ответила:

“Она не была человеком. Это был впечатляющий подвиг программирования, но всего лишь набор ключевых слов, которые связывали написанные слова с фразами в базе данных”.