Facebook запустила новую систему для помощи в модерации на основе ИИ. Она будет присылать модераторам сообществ оповещения о конфликтах в переписке. Ранее соцсеть уже внедрила подобный алгоритм, но он не смог идентифицировать шутки и сарказм и помечал такие комментарии как потенциально неприемлемые.
ИИ предупредит модераторов Facebook о конфликтах в комментариях Кирилл Билык
Система, пока работающая в тестовом режиме, получила название Conflict Alerts, пишет издание The Verge. Нейросеть будет помечать подозрительные комментарии отметкой «moderation alert» и отправлять их модераторам сообществ. В Facebook сообщили изданию, что для поиска будет использована машинная модель обучения.
Ранее соцсеть уже внедрила похожую систему для помощи в модерации. В ее приоритете стоит поиск контента, связанного с терроризмом, сексуальной эксплуатацией детей и попытках самоубийства. Однако алгоритм не смог идентифицировать шутки и сарказм, в результате чего подобный контент и комментарии попадают к модераторам сообществ.
Подписывайтесь на наш TG-канал, чтобы быть в курсе всех новостей и событий!
Онлайн-галерея «Цифровые двойники». Угадай, что изображено на картинах.
Comments are closed.