Соучредитель OpenAI Илья Суцкевер приехал на ежегодную конференцию по искусственному интеллекту NeurIPS 2024 по двум причинам: выступить в ряде дискуссий и получить награду за лучшую тематическую статью, «прошедшую испытание временем».
Илья Суцкевер прогнозирует «непредсказуемость» сверхразумного ИИ https://rb.ru/news/suckever-nepredskaz/
Автор: Екатерина Алипова https://rb.ru/author/alipova/ Подписаться на RB.RU в Telegram
Высказывания эксперта привлекли больше внимания, чем престижная награда, поскольку Илья заявил, что сверхразумный интеллект в какой-то момент станет «непредсказуемым» или захочет «получить права», как пишет TechCrunch.
По мнению Суцкевера, как только ИИ достигнет того уровня, на котором будет «качественно отличаться» от существующих сегодня моделей, он «будет обладать агентностью в полном смысле этого слова» (нынешние ИИ — «очень слабо агентные»).
Получив определенную свободу и самосознание, но все еще анализируя ограниченное количество данных, модели начнут по-настоящему «рассуждать», а следовательно, станут непредсказуемыми. Возможно также, что они захотят «получить права».
«Это неплохой конечный результат, если у вас есть ИИ и всё, чего они хотят, — это сосуществовать с нами и просто иметь права», — считает Суцкевер.
Такая позиция звучит особенно остро на фоне других новостей из США. Местные СМИ узнали, что в конце ноября в возрасте 26 лет покончил жизнь самоубийством бывший сотрудник OpenAI Сучир Баладжи.
Исследователь известен своей критикой политики компании в отношении ИИ. По его мнению, «технология принесёт обществу больше вреда, чем пользы».
RB.RU рекомендует лучших поставщиков цифровых решений для вашего бизнеса — по ссылке
Илья Суцкевер стал соучредителем OpenAI в 2015 году, где возглавлял работы над языковыми моделями GPT и участвовал в разработке DALL-E. В 2024 он заявил об уходе из компании. После этого он основал Safe Superintelligence — лабораторию, занимающуюся общей безопасностью ИИ. В сентябре SSI привлекла $1 млрд.
Comments are closed, but trackbacks and pingbacks are open.