Автоматический «Большой брат». ЕС призвали запретить применение искусственного интеллекта для распознавания лиц

Автор фото, Smith Collection/Gado/Getty

Два ведомства Евросоюза, отвечающие за защиту персональных данных, призвали полностью запретить применение искусственного интеллекта для распознавания лиц и других способов идентификации людей в общественных местах. Ранее Еврокомиссия предложила жестко ограничить, но не запрещать полностью использование ИИ в этой области.

"Если мы хотим сохранить наши свободы и создать ориентированное на человека законодательство об ИИ, то начать следует с общего запрета на системы распознавания лиц в общественных местах", — сказано в совместном заявлении глав Европейского совета по защите данных (The European Data Protection Board, EDPB) и Европейского надзорного органа по защите данных (European Data Protection Supervisor, EDPS) Андреа Елинек и Войцеха Вевёровского.

Европейский надзорный орган по защите данных следит за тем, как соблюдают правила защиты персональной информации учреждения Евросоюза, а Европейский совет по защите данных — это объединение соответствующих надзорных органов стран ЕС.

"Использование биометрической идентификации на расстоянии в общественных местах будет означать конец анонимности людей в подобных пространствах. Программы распознавания лиц и им подобные настолько серьезно вторгаются в сферу основополагающих прав и свобод, что ставят под вопрос саму их суть", — объясняют свою позицию главы этих двух ведомств.

Они призывают запретить в общественных местах программы идентификации людей и по лицу, и по походке, по голосу, отпечаткам пальцев, ДНК и прочим биометрическим и поведенческим признакам.

Кроме того, главы EDPB и EDPS считают, что ЕС должен запретить и системы ИИ, которые классифицируют людей по этническому происхождению, полу, политическим взглядам или сексуальной ориентации. Применение систем, распознающих эмоции человека, они предлагают разрешить только в очень ограниченном наборе случаев — например, в медицине.

Проект Еврокомиссии — ограничения, но не запрет

В начале апреля этого года Еврокомиссия обнародовала свой законопроект — свод правил применения искусственного интеллекта, в котором предложила довольно жестко ограничить использование ИИ в идентификации людей.

Автор фото, Getty Images

Еврокомиссия, например, предлагает запретить властям стран ЕС использование таких систем ИИ, которые позволяют ввести "социальный рейтинг" наподобие китайского, а применение ИИ при найме на работу, охране жизненно важной инфраструктуры, составлении кредитных рейтингов, в сфере миграции и охраны правопорядка Брюссель считает необходимым обставить жесткими правилами и ограничениями.

За нарушение этих правил, если в нем виновна частная компания, Еврокомиссия предлагает штрафовать на сумму до 6% оборота компании, но не меньше чем на 30 млн евро.

Главы двух надзорных органов ЕС, однако, считают, что применение ИИ в определенных областях надо не ограничивать, а полностью запретить. Мнение EDPB и EDPS ни к чему Еврокомиссию не обязывает, но учитывать его ей придется — как и мнение отдельных стран Евросоюза, а также позицию фракций в Европарламенте.

Со всеми ними Еврокомиссия должна будет согласовать свой законопроект, и этот процесс, как говорят специалисты, может занять несколько лет.

О каких технологиях идет речь?

Правозащитников и политиков больше всего беспокоит использование этих технологий полицией и спецслужбами, но распознавание лиц используется еще и, например, в автоматических воротцах в аэропортах, которые сличают лицо с паспортом.

Смартфоны опознают владельца по лицу, соцсети узнают человека на фотографии; все больше распознавание лиц применяется в банковском деле и торговле — при идентификации клиентов онлайн и в технологиях "оплаты лицом" как ключом к счету.

О китайской гигантской системе слежения за гражданами, включающей и системы распознавания лиц в режиме реального времени, мировая пресса пишет довольно много. Китайские города занимают первые пять мест в мировом рейтинге городов с наибольшим числом камер слежения. В Москве в рамках программы "Умный город" на улицах, в транспорте, в подъездах размещено уже больше 100 тысяч камер.

Забота о частных данных

В западных странах полиция и спецслужбы довольно широко применяют системы распознавания лиц, но у общественности возникает много вопросов к этой практике. Правозащитников и политиков беспокоит, во-первых, неприкосновенность частной жизни, а во-вторых, ошибки при распознавании и, как следствие, безосновательные аресты. Критики утверждают, кроме прочего, что особенно часто программы ошибаются при распознавании женщин (из-за косметики) и темнокожих граждан (из-за меньшей контрастности черт лица).

В США гиганты компьютерных технологий Amazon, IBM и Microsoft именно по этим причинам еще в прошлом году решили пока не продавать свои программы распознавания лиц полиции. Но эти программы производят далеко не только они.

Кроме того, по данным компании Thales, распознавание лиц в США запретили шесть городов, включая Сан-Франциско, Бостон и Сан-Диего, и штат Вирджиния, а в штате Массачусетс с мая этого года применение этих технологий ограничено.

В Евросоюзе и только что вышедшей из него Британии сбор, применение и защита личных данных пока регулируется вступившим в силу в 2018 году обширным и строгим "Общим регламентом защиты данных" (General Data Protection Regulation, GDPR).