Если вы введёте в поиске Facebook «креветка Иисус», то можете столкнуться с десятками изображений, на которых искусственный интеллект (ИИ) создал ракообразных, слитых в различных формах со стереотипным образом Иисуса Христа.
Некоторые из этих гиперреалистичных изображений собрали более 20 000 лайков и комментариев. Так что же здесь происходит?
Теория «мёртвого интернета» даёт объяснение: контент, созданный ИИ и ботами, превзошёл по объёму контент, созданный людьми. Но откуда взялась эта идея, и есть ли у неё основания в реальности?
Что такое теория мёртвого интернета?
Теория мёртвого интернета утверждает, что активность и контент в сети, включая аккаунты в соцсетях, в основном создаются и автоматизируются агентами искусственного интеллекта.
Эти агенты могут быстро генерировать посты вместе с изображениями, созданными ИИ, предназначенными для фарминга вовлечённости (кликов, лайков, комментариев) на таких платформах, как Facebook, Instagram и TikTok. Что касается «креветки Иисус», похоже, ИИ понял, что это очередной вирусный микс абсурда и религиозной иконографии.
Но теория мёртвого интернета идёт ещё дальше. Многие аккаунты, взаимодействующие с таким контентом, также, кажется, управляются агентами ИИ. Это создаёт порочный круг искусственной вовлечённости, у которого нет явной цели и в котором уже не участвуют люди.
Безобидный фарминг вовлечённости или изощрённая пропаганда?
На первый взгляд, мотивация этих аккаунтов может казаться очевидной — вовлечённость в соцсетях приносит рекламный доход. Если человек создаёт аккаунт, который получает искусственно раздутую вовлечённость, он может получать часть рекламных доходов от таких компаний, как Meta.
Но ограничивается ли теория мёртвого интернета безобидным фармингом? Или под поверхностью скрывается изощрённая, хорошо финансируемая попытка поддержать нужные нарративы, атаковать оппонентов и распространять пропаганду?
Хотя феномен «креветки Иисуса» может казаться безвредным (хоть и странным), возможно, за этим стоит долгосрочная игра.
По мере роста числа подписчиков у этих ИИ-аккаунтов (многие из которых фейковые, но некоторые — настоящие), высокое число подписчиков делает аккаунты «легитимными» в глазах реальных пользователей. Это означает, что создаётся армия аккаунтов с большим количеством подписчиков, которые могут быть использованы теми, кто предложит самую высокую цену.
Это крайне важно, поскольку соцсети стали основным источником новостей для многих пользователей по всему миру. В Австралии 46% людей в возрасте 18–24 лет назвали соцсети своим главным источником новостей в прошлом году — по сравнению с 28% в 2022 году, обогнав традиционные СМИ, такие как радио и ТВ.
Дезинформация на бот-топливе
Уже есть веские доказательства, что соцсети манипулируются этими накрученными ботами для влияния на общественное мнение с помощью дезинформации — и это происходит годами.
В 2018 году исследование проанализировало 14 миллионов твитов за 10 месяцев в 2016–2017 годах. Оно показало, что боты в соцсетях активно распространяли материалы из ненадёжных источников. Аккаунты с большим числом подписчиков легитимизировали дезинформацию, заставляя реальных пользователей верить, взаимодействовать и репостить бот-контент.
Такой подход к манипуляции соцсетями наблюдался после массовых перестрелок в США. В 2019 году исследование показало, что бот-генерируемые посты в X (бывший Twitter) сильно влияют на публичную дискуссию, усиливая или искажая нарративы, связанные с экстремальными событиями.
Масштаб влияния значителен. Некоторые отчёты даже показали, что почти половина всего интернет-трафика в 2022 году приходилась на ботов. С развитием генеративного ИИ — таких моделей, как ChatGPT от OpenAI и Gemini от Google, — качество фейкового контента будет только расти.
Соцсети пытаются бороться с злоупотреблениями на своих платформах. Например, Илон Маск рассматривал возможность сделать платную подписку в X, чтобы остановить бот-фермы.
Крупные соцсети способны удалять большую часть обнаруженной бот-активности, если захотят, но пока почему-то не хотят…
Держите теорию мёртвого интернета в уме
Теория мёртвого интернета не утверждает, что большинство ваших личных взаимодействий в сети — фейковые.
Однако она предлагает интересный взгляд на интернет: он больше не создаётся людьми и не для людей — в этом смысле интернет, который мы знали и любили, «мёртв».
Свобода создавать и делиться своими мыслями в интернете и соцсетях — вот что делало его таким мощным инструментом. Естественно, именно эту силу пытаются захватить злоумышленники.
Теория мёртвого интернета напоминает нам о необходимости сохранять скептицизм и критически оценивать контент в соцсетях и других сайтах.
Любое взаимодействие, тренд и особенно «общие настроения» вполне могут быть синтетическими — созданными, чтобы незаметно изменить ваше восприятие мира.
Джейк Рензелла, преподаватель, директор по компьютерным наукам, UNSW Sydney, и Влада Розова, научный сотрудник в области прикладного машинного обучения, Университет Мельбурна.
