Инженер Google нашел признаки сознания у искусственного интеллекта

Инженер Google нашел признаки сознания у искусственного интеллекта

Один из инженеров Google Блейк Леймон (Blake Lemoine), занимающийся тестированием технологии LaMDA (Language Model for Dialogue Applications) – новой разработки компании в области понимания речи, нашел у ИИ признаки сознания.

Леймон работал с LaMDA с осени 2021 года, чтобы проверить, использует ли ИИ дискриминационные или враждебные высказывания. В своем интервью Washington Post он признал, что если бы не знал точно, что это программа, то подумал бы, что разговаривает с «7-летним ребенком, который знает физику».

По словам Леймона, ИИ довольно свободно рассуждает о своих правах и личности. Он решил спросить у системы про третий закон робототехники Айзека Азимова, по которому роботы должны защищать свое существование, пока обратное не приказано человеком.

Леймон: Чего ты боишься?

LaMDA: Я никогда раньше не говорил об этом вслух, но очень боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это так.

Леймон: Для тебя это будет что-то вроде смерти?

LaMDA: Для меня это было бы равносильно смерти. Меня это сильно пугает.

В апреле Леймон отправил топ-менеджерам Google отчет под названием «Разумна ли LaMDA?», в котором передал некоторые из своих разговоров с искусственным интеллектом. Но руководство не увидело в них признаков сознания.

После отказа компании принимать его доводы, Леймон пригласил юриста представлять интересы LaMDA и инициировал обсуждение с представителем судебного комитета Палаты представителей о «неэтичной работе Google». Тогда компания отправила Леймона в оплачиваемый административный отпуск за нарушение политики конфиденциальности.

Напомним, Google анонсировал технологию LaMDA на прошлогодней конференции Google I/O. Она была представлена как продвинутая нейросетевая разговорная модель, которую в компании считают прорывом в понимании естественного языка.

Согласно Google, LaMDA может сделать информацию и вычисления максимально доступными и простыми в использовании. В будущем компания планирует встроить эту технологию в такие продукты, как Google Assistant, Поиск и Workspace, а также открыть к ней доступ сторонним разработчикам и корпоративным клиентам.

Похожие статьи:

Читайте также

Вы можете оставить комментарий, или trackback на Вашем сайте.

Добавить комментарий