Международное академическое сообщество должно объединить усилия, чтобы предотвратить возможность уничтожения человечества искусственным интеллектом, нацеленным на самосохранение. Об этом заявил на конференции в Шанхае британско-канадский ученый Джеффри Хинтон, получивший Нобелевскую премию в области физики за открытия в сфере машинного обучения.
"Это похоже на то, как если бы кто-то держал маленького тигренка в качестве домашнего животного", — сказал Хинтон, которого в научных кругах называют "крестным отцом искусственного интеллекта". "Маленький тигренок очень милый, но, если вы продолжаете его держать у себя, вам нужно следить за тем, чтобы он вас не съел, когда вырастет, — предупредил Хинтон. — Крупнейшие мировые державы должны совместно изучать, как обучить и без того очень умный искусственный интеллект, чтобы он не захотел править миром или уничтожить человечество". Специалисты должны сосредоточиться на устранении разрыва между "обучением ИИ быть умным" и "обучением ИИ быть добрым", подчеркнул ученый.
Хинтон отметил, что разработчики создают агентов с искусственным интеллектом, потому что они лучше справляются с задачами, и у этих агентов с ИИ уже есть возможность определять свои собственные подцели. Чтобы иметь возможность достигать поставленных целей, ИИ захочет сделать две вещи: во-первых, выжить, а во-вторых, получить больше контроля. "И мы не сможем просто отключить их, агенты ИИ будут очень легко манипулировать людьми, которые их используют, мы будем как трехлетние дети, а они будут как взрослые", — считает ученый. Искусственный интеллект сможет манипулировать людьми и убедить человека, который должен их отключить, в том, чтобы не делать этого, отметил Хинтон.
В случае с тигренком человек при желании мог бы просто избавиться от него. В случае с ИИ у людей нет такой возможности, потому что он очень полезен для слишком многих вещей, таких как здравоохранение, образование, изменение климата, он может помочь практически во всех отраслях промышленности и сделать людей более продуктивными, признал Хинтон.
Нобелевская премия в области физики за 2024 год была присуждена американцу Джону Хопфилду и Хинтону за открытия в сфере машинного обучения. Ученые стали лауреатами премии за фундаментальные открытия и изобретения, обеспечивающие обучение машин с помощью искусственных нейронных сетей, говорится в мотивировочной части решения комитета.
О конференции
Всемирная конференция по искусственному интеллекту проводится ежегодно с 2018 года. Эта площадка собирает в Шанхае крупных отраслевых лидеров в сфере искусственного интеллекта. Участие в ней принимают главы крупных компаний, государственные деятели, ученые и эксперты. Они налаживают контакты и обсуждают дальнейшие пути развития и применения технологий искусственного интеллекта.
