Разделы

Безопасность Госрегулирование Интеграция ИТ в госсекторе

Европа запрещает распознавание лиц с помощью ИИ

В своей новой резолюции Европарламент предлагает запретить использовать в ЕС незрелые технологии распознавания лиц с применением ИИ и предиктивный подход к охране правопорядка.

Долой сырые технологии

Европарламент проголосовал за резолюцию, призывающую к полному запрету биометрических систем массового слежения, использующих технологии искусственного интеллекта. Речь идет в первую очередь о системах распознавания лица.

В ходе голосования 377 членов парламента проголосовали за принятие данной резолюции, 248 — против, 62 были отмечены как отсутствующие.

Основным мотивом для озабоченности европарламентариев стали риски дискриминации, необъективности и несправедливости при использовании данных систем правоохранительными органами. В ходе обсуждения были представлены многочисленные примеры, доказывающие несовершенство и ошибочность работы систем распознавания лиц.

Поставщики систем распознавания лиц на базе технологий ИИ в целом признают, что их алгоритмы проявляют определенные «дискриминационные наклонности». Бороться с этим пытались посредством повышения разнообразия наборов данных, используемых при обучении системы, и совершенствованием самого процесса обучения, но результаты остались далекими от удовлетворительных.

evro600.jpg
Европарламент призывает запретить автоматизированное распознавание лиц

В резолюции Европарламента указывается на необходимость перманентного запрета на автоматизированные средства распознавания лиц и предиктивные системы поддержания общественного порядка, в основе которых лежат поведенческие данные.

Единственное исключение — подозреваемые в совершении уголовных преступлений; однако и тут данные от систем распознавания лиц должны быть полностью исключены из доказательной базы.

Скандально известная система Clearview AI, много лет поставлявшая свои разработки правоохранительными органам, обозначена как ключевой пример того, чего следует всячески избегать, отмечает Bleeping Computer.

Откройте капот

Кроме этого, в резолюции содержится призыв обеспечить открытость систем распознавания лиц, в частности, использовать открытое ПО для разработки алгоритмов детектирования.

«Фундаментальные права человека должны оставаться безусловными. Впервые в истории мы призываем к мораторию на использование систем распознавания лиц в интересах правоохранительных органов, поскольку технология доказывает свою неэффективность и нередко приводит к дискриминации. Мы также выступаем решительно против предиктивных систем защиты правопорядка на основе технологий ИИ, а также любому использованию биометрических данных в целях массового слежения. Решение Европарламента это большая победа для всех граждан Европы», — заявил член Европейского парламента Петар Витанов (Petar Vitanov).

«Резолюция Европарламента обращена к проблеме незрелости технологий ИИ и того вреда, который из этой незрелости может проистекать, — по крайней мере, с точки зрения Евросоюза, — говорит Георгий Лагода, заместитель генерального директора группы компаний “Программный продукт”. — К сожалению, далеко не везде к этим проблемам относятся так же, как в ЕС. Во многих регионах мира технологии ИИ все более активно используются именно для автоматизации слежки — без оглядки на их несовершенство и потенциальный вред. Но в конечном счете именно Евросоюз может оказаться впереди всех в плане эффективности и зрелости указанных технологий».

Между тем в Европарламенте разрабатывается закон «Об искусственном интеллекте», которым будет регулироваться использование систем на базе технологий ИИ. Нынешняя резолюция Европарламента определяет то, что этот закон будет считать неприемлемым. Это все не означает, однако, что разработки ИИ в целом выпадают из повестки Евросоюза. В новом исследовании, опубликованном Еврокомиссией, указывается, что государства ЕС намерены активно инвестировать в эти технологии: размеры государственных и частных инвестиций предполагается довести до отметки 20 млрд евро в год.

Часть этих инвестиций будет направлена как раз на решение текущих проблем технологий ИИ.

Как ранее сообщали CNews, Microsoft и IBM в 2020 г. последовательно объявили, что отказываются от инвестиций в технологии распознавания лиц. Руководство IBM также предложило обсудить возможность запрета на использование таких технологий правоохранителями.

Роман Георгиев

Короткая ссылка