Китайские ученые разработали ИИ-«прокурора», который может выдвигать собственные обвинения

Исследователи из Китая утверждают, что им удалось впервые в мире создать машину, которая может обвинять людей в преступлениях с помощью искусственного интеллекта.

По словам исследователей, ИИ-"прокурор" может выдвигать обвинения с точностью более 97 процентов на основе словесного описания дела.

Машина была создана и испытана Шанхайской народной прокуратурой Пудун, крупнейшей и самой загруженной районной прокуратурой страны.

По словам профессора Ши Юна, директора лаборатории больших данных и управления знаниями Китайской академии наук, ведущего научного сотрудника проекта, технология может снизить ежедневную нагрузку прокуроров, позволив им сосредоточиться на более сложных задачах.

"Система может в определенной степени заменить прокуроров в процессе принятия решений", — сказал Ши и его коллеги в статье, опубликованной в этом месяце в отечественном рецензируемом журнале Management Review.

Применение технологии ИИ в правоохранительных органах расширяется по всему миру.

Некоторые немецкие прокуроры используют технологии ИИ, такие как распознавание образов и цифровая криминалистика, для повышения скорости и точности рассмотрения дел.

Прокуроры Китая были первыми, кто начал использовать ИИ в 2016 году. Многие из них сейчас используют инструмент ИИ, известный как System 206.

Этот инструмент может оценивать силу доказательств, условия для ареста и степень общественной опасности подозреваемого.

Но все существующие инструменты ИИ играют ограниченную роль, поскольку "они не участвуют в процессе принятия решений о выдвижении обвинений и [вынесении] приговоров", — говорят Ши и его коллеги.

Принятие таких решений потребует от машины определить и удалить из материалов дела все, что не имеет отношения к преступлению, не удаляя при этом полезную информацию.

Машина также должна будет преобразовать сложный, постоянно меняющийся человеческий язык в стандартный математический или геометрический формат, понятный компьютеру.

Китайские интернет-компании разработали мощные инструменты для обработки естественного языка, но для их работы часто требуются большие компьютеры, к которым у прокуроров нет доступа.

ИИ-прокурор, разработанный командой Ши, может работать на настольном компьютере. Для каждого подозреваемого он будет выдвигать обвинение на основе 1 000 "признаков", полученных из текста описания дела, созданного человеком, большинство из которых слишком малы или абстрактны, чтобы иметь смысл для человека. Затем система 206 оценивает улики.

Машина была "обучена" на более чем 17 000 дел за период с 2015 по 2020 год. На данный момент она может идентифицировать и выдвигать обвинения по восьми наиболее распространенным преступлениям в Шанхае.

Это мошенничество с кредитными картами, организация азартных игр, опасное вождение, умышленное причинение вреда здоровью, препятствование исполнению служебных обязанностей, кража, мошенничество и "разжигание ссор и провоцирование беспорядков" — всеобъемлющее обвинение, часто используемое для подавления инакомыслия.

Ши и его коллеги заявили, что ИИ-прокурор вскоре станет более мощным благодаря модернизации. Он сможет распознавать менее распространенные преступления и выдвигать несколько обвинений против одного подозреваемого.

Неясно, когда и найдет ли технология применение в других областях. После публикации отчета связаться с командой для комментариев не удалось.

Прокурор в южном городе Гуанчжоу сказал, что у него есть некоторые опасения по поводу использования ИИ при выдвижении обвинений.

"Точность в 97 процентов может быть высокой с технологической точки зрения, но всегда будет вероятность ошибки", — сказал прокурор, который попросил не называть его имени из-за деликатности вопроса. "Кто будет нести ответственность, когда это произойдет? Прокурор, машина или разработчик алгоритма?".

Прямое участие ИИ в принятии решений также может повлиять на автономию прокурора-человека. Большинство прокуроров не хотят, чтобы компьютерные ученые "вмешивались" в юридические решения, сказал прокурор из Гуанчжоу.

Другая проблема заключается в том, что ИИ-прокурор может выдвинуть обвинение, основываясь только на своем предыдущем опыте. Он не сможет предугадать реакцию общества на дело в меняющейся социальной среде.

"ИИ может помочь обнаружить ошибку, но он не может заменить человека при принятии решения", — сказал прокурор.

Тем не менее, Китай активно использует ИИ почти в каждом секторе государственного управления, пытаясь повысить эффективность, снизить коррупцию и усилить контроль.

Некоторые китайские города используют машины для мониторинга социальных кругов и деятельности государственных служащих с целью выявления коррупции, по словам исследователей, участвовавших в этой работе.

Многие китайские суды используют ИИ, чтобы помочь судьям обрабатывать материалы дел и принимать решения, например, о принятии или отклонении апелляции.

Большинство китайских тюрем также используют технологию ИИ для отслеживания физического и психического состояния заключенных с целью снижения уровня насилия.