Два профильных комитета Европарламента поддержали поправки в законопроект об ИИ, который запретит широкий спектр вариантов использования технологии. Об этом пишет Reuters.
К ним относятся ограничения на программы распознавания лиц в общественных местах и алгоритмы предиктивной полицейской деятельности.
Также поправки устанавливают требования по прозрачности к создателям генеративных моделей. Их обяжут маркировать контент как созданный ИИ, а также раскрывать информацию об используемых для обучения материалов.
«Это голосование является важной вехой в регулировании искусственного интеллекта […]. ИИ должен служить людям, обществу и окружающей среде, а не наоборот», — сказал депутат Европарламента от партии зеленых Ким ван Спаррентак.
Кроме этого, закон требует создания общедоступной базы данных систем искусственного интеллекта «высокого риска», используемых государственными органами.
В целом документ охватывает множество областей применения ИИ, включая распознавание лиц, генеративные алгоритмы и беспилотные автомобили. Все системы разделят на три категории: с низкими рисками, высокими и неприемлемыми. Первые не попадут под регулирование, вторые обяжут следовать определенным правилам, а третьи запретят.
В качестве примера «неприемлемого» ИИ евродепутаты назвали системы социального рейтинга или использование технологии для манипулирования общественным мнением.
К высокорисковым алгоритмам относятся беспилотные автомобили, медицинские приборы и другие технологии, сбой в которых может угрожать жизни человека.
Компании, использующие ИИ, обяжут оценивать риски с точки зрения «здоровья, соблюдения фундаментальных прав, демократии и окружающей среды».
Проект запрещает:
- распознавание лиц в режиме реального времени в общественных местах;
- сбор биометрических данных для обучения систем идентификации с камер и социальных сетей;
- использование технологий распознавания эмоций полицией, работодателями или в учебных заведениях;
- эксплуатацию ИИ-систем, разделяющих пользователей по демографическим признакам;
- использование систем прогнозирования совершения преступлений.
Всего депутаты рассмотрели около 3000 поправок. Теперь документ вынесут на голосование в Европарламент.
После вступления закона в силу у участников рынка будет около двух лет, чтобы привести свою деятельность в соответствие новым правилам.
Нарушителям регламента грозит штраф в размере 6% от годовой выручки или 30 млн евро.
Напомним, в апреле группа европейских законодателей сообщила о планах разработать проект правил для контроля за развитием ИИ-систем.
