Европарламент согласовал поправки в законопроект об ИИ

Поправки в законопроект об использовании искусственного интеллекта были поддержаны двумя профильными комитетами Европарламента, которые предлагают запретить широкий спектр вариантов использования технологии.

Согласно сообщению Reuters, к этим поправкам относятся ограничения на использование программ распознавания лиц в общественных местах и алгоритмов предиктивной полицейской деятельности.

Также вносятся требования к прозрачности создателей генеративных моделей, которые должны маркировать контент как созданный искусственным интеллектом, а также раскрывать информацию об используемых материалах для обучения.

«Это голосование является важной вехой в регулировании искусственного интеллекта […]. ИИ должен служить людям, обществу и окружающей среде, а не наоборот», — сказал депутат Европарламента от партии зеленых Ким ван Спаррентак.

Законопроект об искусственном интеллекте, который поддержали два комитета Европарламента, содержит запрет на широкий спектр использования технологии. К ним относятся ограничения на программы распознавания лиц в общественных местах и алгоритмы предиктивной полицейской деятельности.

Поправки также устанавливают требования по прозрачности к создателям генеративных моделей, обязывая их маркировать контент как созданный ИИ и раскрывать информацию об используемых для обучения материалах. Кроме того, закон требует создания общедоступной базы данных систем искусственного интеллекта «высокого риска», используемых государственными органами. Документ охватывает множество областей применения ИИ, таких как распознавание лиц, генеративные алгоритмы и беспилотные автомобили.

Все системы разделены на три категории: с низкими, высокими и неприемлемыми рисками. Первые не попадают под регулирование, вторые обязаны следовать определенным правилам, а третьи полностью запрещены. Европарламентарии привели примеры «неприемлемого» использования ИИ, такие как системы социального рейтинга и технологии манипулирования общественным мнением.

Технологии, включающие беспилотные автомобили, медицинские приборы и другие, которые могут представлять риск для жизни людей, будут отнесены к высокорисковым алгоритмам. Компании, использующие ИИ, будут обязаны оценивать риски, связанные со здоровьем, защитой основных прав, демократией и окружающей средой.

Проект запрещает:

распознавание лиц в режиме реального времени в общественных местах;

сбор биометрических данных для обучения систем идентификации с камер и социальных сетей;

использование технологий распознавания эмоций полицией, работодателями или в учебных заведениях;

эксплуатацию ИИ-систем, разделяющих пользователей по демографическим признакам;

использование систем прогнозирования совершения преступлений.

Законопроект был изменен почти 3000 раз, а теперь его будут рассматривать в Европарламенте для голосования. Если закон вступит в силу, то участникам рынка будет дано около двух лет на приведение своей деятельности в соответствие с новыми правилами. За нарушение этих правил будет взиматься штраф в размере 6% от годовой выручки или 30 млн евро.