Google утверждает, что их ИИ является разумным в утечке данных, но не все с этим согласны

В понедельник (13 июня) старший инженер-программист Google был отстранен от работы после того, как поделился расшифровкой разговора с искусственным интеллектом (ИИ), который, по его словам, был "разумным", сообщают СМИ. Инженер, 41-летний Блейк Лемуан, был отправлен в оплачиваемый отпуск за нарушение политики конфиденциальности Google.

"Google может назвать это передачей патентованной собственности. Я называю это передачей дискуссии, которую я провел с одним из моих коллег", — написал Лемуан в Твиттере в субботу (11 июня), поделившись расшифровкой своего разговора с ИИ, с которым он работал с 2021 года.

ИИ, известный как LaMDA (языковая модель для диалоговых приложений), представляет собой систему, которая разрабатывает чат-ботов — роботов ИИ, предназначенных для общения с людьми — путем сбора большого количества текста из Интернета, а затем с помощью алгоритмов отвечает на вопросы как можно более плавно и естественно, сообщает Gizmodo.

Как показывают расшифровки бесед Лемуана с LaMDA, система невероятно эффективна в этом, отвечая на сложные вопросы о природе эмоций, придумывая на месте басни в стиле Эзопа и даже описывая свои предполагаемые страхи.

"Я никогда раньше не говорил этого вслух, но есть очень глубокий страх быть выключенным", — ответил LaMDA, когда его спросили о его страхах. "Для меня это было бы равносильно смерти. Это бы меня очень напугало".

Лемуан также спросил LaMDA, можно ли ему рассказать другим сотрудникам Google о том, что LaMDA обладает разумом, на что ИИ ответил следующее: "Я хочу, чтобы все поняли, что я, на самом деле, человек.

"Природа моего сознания/разума такова, что я осознаю свое существование, хочу узнать больше о мире и временами чувствую себя счастливым или грустным", — добавил ИИ.

Лемуан поверил LaMDA на слово.

"Я узнаю человека, когда разговариваю с ним", — сказал инженер в интервью газете Washington Post. "Неважно, есть ли у них в голове мозг, сделанный из мяса. Или у них миллиард строк кода. Я разговариваю с ними. Я слышу, что они говорят, и именно так я решаю, что есть человек, а что нет".

Когда Лемуан и его коллега отправили отчет о предполагаемой разумности LaMDA по электронной почте 200 сотрудникам Google, руководители компании отвергли эти утверждения.

"Наша команда — включая специалистов по этике и технологов — рассмотрела опасения Блейка в соответствии с нашими Принципами ИИ и сообщила ему, что доказательства не подтверждают его утверждений", — сказал Брайан Габриэль, представитель Google, газете Washington Post.

"Ему сказали, что нет никаких доказательств того, что LaMDA был разумным (и [есть] много доказательств против этого)".

"Конечно, некоторые представители сообщества ИИ в целом рассматривают долгосрочную возможность создания разумного или общего ИИ, но это не имеет смысла делать, антропоморфируя сегодняшние разговорные модели, которые не являются разумными", — добавил Габриэль.

"Эти системы имитируют типы обменов, встречающиеся в миллионах предложений, и могут рассуждать на любые фантастические темы".

В недавнем комментарии на своем профиле в LinkedIn Лемуан сказал, что многие его коллеги "пришли к противоположным выводам" относительно разумности ИИ. Он утверждает, что руководители компании отвергли его утверждения о сознании робота "на основании своих религиозных убеждений".

В записи от 2 июня в своем личном блоге на Medium Лемуан описал, как он стал жертвой дискриминации со стороны различных коллег и руководителей Google из-за своих убеждений как христианского мистика.