ИИ в России: если регулировать, то как?

Изображение от freepik

Профильная рабочая группа из юристов, представителей консалтинговых компаний и участников рынка подготовила законопроект «О регулировании систем искусственного интеллекта (ИИ) в России», стало известно РБК. Документ обсуждался на заседаниях рабочих групп в Госдуме, в «Деловой России», а также на отраслевых дискуссионных площадках.

Инициативы

🔷 Законопроект предлагает ввести следующие понятия: 

• искусственный интеллект (комплекс технологических и программных решений, имитирующий когнитивные функции человека, в том числе самообучение, поиск решений без заранее заданного алгоритма, и обеспечивающий получение результатов, сопоставимых с результатами интеллектуальной деятельности человека);
• технологии ИИ (технологии компьютерного зрения, обработки естественного языка, распознавания и синтеза речи, интеллектуального анализа данных, машинного обучения и др.);
• системы ИИ (информационные системы, которые имитируют когнитивные функции человека, применяя вышеперечисленные технологии);
• разработчик, оператор, пользователь подобных систем и др.

🔷 Предлагается ввести требования к маркировке систем ИИ, то есть к обязательному информационному обозначению, которое будет указывать на применение ИИ при взаимодействии с пользователем. Маркировка должна быть «явной, недвусмысленной и легко идентифицируемой». Ее должен обеспечить оператор системы ИИ до каждого случая ее взаимодействия с пользователем.

Требование не будет распространяться на системы ИИ, используемые в закрытых технологических процессах, для внутренней автоматизации организаций и ряде других случаев.

🔷 Предусматривается классификация систем ИИ по уровню потенциального риска: системы с неприемлемым, высоким, ограниченным и минимальным уровнем риска. 

1. Разработку и эксплуатацию в России систем ИИ с неприемлемым уровнем риска, то есть ставящих под угрозу безопасность личности, общества и государства, а также нарушающих основополагающие права и свободы человека и гражданина, предлагается запретить.
2. Для систем с высоким уровнем риска (применяемых в здравоохранении, транспорте, финансах, правоохранительной деятельности и других сферах, где это может создать существенные риски для жизни, здоровья, основных прав и свобод граждан) предлагается ввести обязательную госрегистрацию и сертификацию, а также обязательное страхование ответственности операторов.
3. Для систем с ограниченным уровнем риска предлагается ввести системы внутреннего контроля качества, добровольную сертификацию.

🔷 Для лиц, участвующих в разработке и эксплуатации систем искусственного интеллекта, предлагается ввести ответственность за причинение вреда жизни, здоровью или имуществу. Но:

• разработчик не будет нести ответственность, если принял все необходимые меры для предотвращения причинения вреда, если вред возник из-за нарушения правил эксплуатации системы и в нескольких других случаях;
• оператор систем ИИ будет освобожден от ответственности, если докажет, что вред возник по вине разработчика, в результате нарушения пользователем правил применения системы и т. п. 

🔷 Для определения, кому принадлежат права на результат интеллектуальной деятельности с использованием ИИ, предлагается ориентироваться на творческий вклад человека. При существенном вкладе (человек определял параметры и критерии создания результата, осуществлял творческий отбор и доработку, принимал творческие решения в процессе) исключительное право на результат должно принадлежать этому человеку, без такого существенного вклада — оператору системы ИИ (действует в течение 50 лет).

🔷 Если документ будет принят в текущем виде, операторы и разработчики систем ИИ должны будут выполнить требования в течение года после его вступления в силу; уже существующие системы ИИ с высоким уровнем риска должны будут пройти обязательную сертификацию в течение двух лет.

Регулирование ИИ: рынок созрел?

В феврале этого года вице-премьер Дмитрий Григоренко говорил, что законодательное регулирование ИИ не планируется в ближайшие два года. Разработанный законопроект в аппарат правительств и в Минцифры, по словам их представителей, не поступал; если поступит — ведомства его рассмотрят.

Рабочая группа по ИИ создана в Госдуме, но для начала она должна «детально изучить все запросы от различных отраслей»; законопроекта в готовой редакции в Госдуме еще нет, законодательные инициативы пока депутатами «всерьез не рассматриваются», рассказал зампред комитета по информационной политике, член рабочей группы по ИИ в Госдуме Андрей Свинцов. По его словам, в ближайшие месяцы должны появиться несколько инициатив, «которые точечно будут регулировать какие-то отраслевые запросы, вводить какие-то пилотные зоны или пилотные режимы». Среди тех сфер, которые предполагается отрегулировать в первую очередь, депутат назвал маркировку.

Концепцию закона о маркировке ИИ-контента начали разрабатывать в Госдуме в 2024 году. 

«Маркировка должна осуществляться при помощи графических или водяных знаков. Главное, чтобы она была ненавязчивой, но при этом четкой и заметной для любого пользователя», — говорил тогда член комитета Госдумы по информполитике Антон Немкин.

⚡ Директор по цифровым технологиям «Ростелекома» Роман Хазеев считает, что введение регулирующих норм целесообразно только после определенной стабилизации процессов и формирования проблематики для законодательного урегулирования. При этом он констатирует, что уже сейчас налицо рост числа дипфейков, а подлинную информацию бывает сложно отличить от выдуманной.

⚡ По мнению одного из собеседников РБК, чрезмерное и поспешное регулирование приведет к замедлению развития отрасли. По его словам, негативное влияние регулирования видно на примере европейских компаний: закон об ИИ в Евросоюзе привел к тому, что лидеры рынка сокращают присутствие в регионе, а собственные конкурентоспособные решения не появляются.