Искусственный интеллект: сооснователь Apple Стив Возняк призывает к регулированию ИИ для защиты от мошенников и безответственного бизнеса

Подпишитесь на нашу рассылку ”Контекст”: она поможет вам разобраться в событиях.

Автор фото, MOD

Сооснователь Apple Стив Возняк в интервью Би-би-си снова предупредил об опасностях, связанных с дальнейшим развитием искусственного интеллекта, и выразил надежду на то, что скоро появятся инструменты регулирования этой отрасли.

По словам Возняка, он, в первую очередь, опасается, что технологии ИИ попадут в руки злоумышленников, которые с их помощью усовершенствуют методы мошенничества и распространения дезинформации.

В беседе с корреспондентом Би-би-си Зое Клейман ветеран индустрии отметил, что такие инструменты, как Chat GPT, дают возможность мошенникам еще более убедительно, чем сейчас, обманывать людей и бизнес.

"Проблема в том, что поскольку искусственный интеллект так продвинут, он открыт для злоумышленников. Тех, которые не хотят, чтобы вы узнали, кем они являются на самом деле. Они могут попытаться продать вам что-то ненужное или выудить информацию о вашем счете. Мы наблюдаем подобные нападки постоянно — как на частных лиц, так и на компании, когда миллионы счетов оказываются в интернете, и так далее. Могу предположить, что эта проблема может только ухудшиться по сравнению с тем, что уже происходит сейчас", — сказал бывший коллега Стива Джобса.

В марте Возняк вместе с Илоном Маском и другими ведущими фигурами мира высоких технологий подписал письмо, призывающее на полгода приостановить обучение систем, более мощных чем чат-бот GPT-4, пока не будут разработаны и применены надежные протоколы безопасности.

Термином "искусственный интеллект" называют компьютерные системы, способные выполнять задачи, обычно требующие человеческого интеллекта. К ним относятся чат-боты, способные понимать вопросы и давать ответы, подобные человеческим, а также системы, способные распознавать объекты на изображениях.

"Искатели наживы обычно выигрывают"

Революцию в области ИИ произвел чат-бот GPT, вышедший в ноябре 2022 года. Он составляет свои ответы таким образом, что у пользователя может создаться иллюзия общения с живым человеком. В марте 2023 года вышла последняя версия бота, GPT-4, с возможностями в несколько раз шире, чем у оригинала.

Этот чат-бот также встроен в Bing — поисковую платформу компании Microsoft, которая недавно вложила в компанию Open AI, разработавшую Chat GPT, 10 млрд долларов.

По словам Возняка, скорость, с которой развиваются технологии в области ИИ, идет на руку искателям наживы, вместо того чтобы помочь человечеству с его проблемами.

"Думаю, что те силы, которые действуют в интересах денег, по сравнению с силами, нацеленными на заботу о людях, любовь, чувства, эмоции… Силы, которые гонятся за деньгами, обычно выигрывают", — отметил Возняк.

Автор фото, Bettmann/Getty Images

При этом сооснователь Apple не верит, что ИИ сможет заменить людей, поскольку искусственному интеллекту не хватает человеческих эмоций.

Но чтобы эти технологии действительно работали во благо человечества, люди должны по-настоящему взять на себя ответственность за все, что они с их помощью создают, считает Возняк.

Вопрос ответственности

Пропустить Подкаст и продолжить чтение.Подкаст

Что это было?

Мы быстро, просто и понятно объясняем, что случилось, почему это важно и что будет дальше.

эпизоды

Конец истории Подкаст

Предприниматель убежден, что должен появиться четкий процесс регулирования, который бы побуждал крупные технологические фирмы проявлять больше ответственности.

"Я очень, очень, очень надеюсь, что мы в конце концов договоримся о мерах регулирования, которые по сути сведутся к следующему: если вы сделаете что-то плохое, пересечете черту, то вас накажут, и особенно это касается больших компаний, чувствующих, что им может сойти с рук что угодно".

О проблемах, связанных с безответственным подходом к развитию искуственного интеллекта, заявил и Джеффри Хинтон — ученый, которого называют "крестным отцом ИИ". На прошлой неделе он ушел из Google, чтобы иметь возможность говорить об этом открыто, без оглядки на политику работодателя.

После этого вопрос ограничений в сфере искусственного интеллекта на прошлой неделе подняли регуляторы рынка в США и Великобритании.

Главы ведущих компаний в этой области — Google, Microsoft и Open AI — были также вызваны в Белый дом для обсуждения вопроса ответственности перед пользователями.

Нынешний глава Apple Тим Кук на прошлой неделе заверил инвесторов, что подход его компании к ИИ — продуманный и ответственный.

"Мы считаем ИИ мощной силой, и мы продолжим вплетать его в наши продукты на тщательно продуманной основе", — заявил Кук.

Чтобы продолжать получать новости Би-би-си, подпишитесь на наши каналы:

Подпишитесь на нашу рассылку "Контекст": она поможет вам разобраться в событиях.