howtocomply_AI: право и ИИ

Друзья, наш мастер-класс о маркировке синтетического контента начнётся уже через час. Ещё есть время зарегистрироваться – приходите 🤩

Подписан российский закон об ИИ: читаем обзор и разбираемся в деталях 26 июля 2026 года был подписан российский вариант закона об ИИ, текст которого за последние полгода претерпел массу метаморфоз. В итоге из попытки комплексного урегулирования отношений в отрасли он превратился в закон с очень расплывчатым названием – «О поддержке развития технологий ИИ в РФ». Однако, несмотря на кажущиеся упрощения в пользу бизнеса, принятый закон сохраняет прежние формы контроля и полномочия органов власти, встраивая их в меры поддержки инноваций для узкого круга разработчиков, сотрудничающих с государством. В июле мы с командой RKS Global подготовили обзор закона. Если хотите глубже разобраться в вопросе, прочитать его можно по ссылке 🐱.

Во вторник проводим мастер-класс «Маркировка синтетического контента: ЕС и международные практики», приходите Друзья, во вторник, 4 августа, в 19:00 (по мск) состоится мастер-класс о маркировке синтетического контента, который мы проведём вместе с Анастасией Сковпень (автор канала «Вычислить по IP»). Детально поговорим про опыт ЕС (кодекс практик, рекомендации, Digital Omnibus) и сравним его с требованиями других юрисдикций (Китай, США, Россия, Южная Корея и др.), чтобы понять, как бизнесу оптимально подойти к маркировке синтетического контента. Подробности по ссылке, всех жду 🤩

Изучаем финальный вариант Европейского Кодекса практик по прозрачности синтетического контента (часть 2: эксплуатанты) Продолжаем разбирать Европейский Кодекс практик по прозрачности синтетического контента: сегодня на очереди второй раздел. Он адресован эксплуатантам (deployers) и посвящён маркировке дипфейков и текстов (ст. 50(4) и (5) Регламента). Что нужно маркировать? Дипфейки, то есть контент, который изображает существующих людей, объекты, места или события и ложно кажется достоверным (ст. 3(60) Регламента). Сгенерированные тексты по общественно значимым вопросам, если они не прошли человеческую проверку и никто не несёт за них редакционной ответственности. Как должна выглядеть метка? Основной визуальный элемент – заглавные буквы «AI» на английском. Национальные языки допустимы в тех случаях, если размещение на них требует законодательство страны. В приложении к Кодексу приведены три готовых значка ЕС (на скриншоте): "AI + GENERATED" для полностью сгенерированного контента, "AI + MODIFIED" для частично изменённого и базовый, который можно дополнить своим текстом или интерактивным слоем. Пользоваться этими значками рекомендуется, но допустимо и собственное обозначение, если оно отвечает требованиям к дизайну и размещению, то есть содержит те же буквы "AI" и подчиняется тем же правилам размещения. Где размещать метку? Метка должна быть заметна без действий пользователя и не позднее первого контакта с контентом. В видео её размещают в начале и как минимум после каждого перерыва, например рекламного. Также метку рекомендуется показывать с регулярными интервалами, чтобы увидели те, кто включился в середине или смотрит вырезанный фрагмент. В тексте метка идёт у заголовка или в начале, а для коротких фрагментов достаточно контекстного уведомления в интерфейсе. В закрытых профессиональных средах хватит предупредить участников заранее. Если визуальная маркировка невозможна (например, только аудио), в начале записи даётся короткое голосовое предупреждение на языке контента или на английском. Как альтернативу можно использовать звуковой сигнал (earcon), но только вместе с информированием аудитории о его значении. В дальнейшем по аудио меткам будут выпущены отдельные рекомендации. Важно отметить, что маркировка должна отвечать европейскому законодательству о доступности интерфейсов и сайтов для людей с ограниченными возможностями. Есть ли исключения? Для дипфейков в составе очевидно художественных, сатирических или вымышленных произведений маркировка не должна мешать восприятию работы. Метку размещают в титрах, описании или интерфейсе рядом с контентом, а вне цифровой среды – на входе, в буклете или на упаковке носителя. Тексты не маркируются, если прошли проверку человеком и конкретное лицо несёт редакционную ответственность. Если организация не обязана законодательно вести редакционные процедуры, то для проверки сгенерированных текстов необходимо разработать отдельные политики. Также важно отметить, что компаниям пропорционально их размерам надлежит осуществлять документирование практик маркировки, обучать персонал и создать каналы для жалоб на неверную маркировку. Сам по себе Кодекс является добровольным для подписания. Его задача не подменять законодательные требования, а объяснить, каким образом бизнесу соблюсти Регламент, чтобы это соответствовало текущему видению правоприменителей. Однако компании могут выбрать и другие способы соответствия.

Изучаем финальный вариант Европейского Кодекса практик по прозрачности синтетического контента (часть 1: поставщики) Друзья, возвращаюсь к вам после летнего перерыва. В июне был опубликован третий и финальный вариант текста Кодекса практик по прозрачности контента, созданного с помощью ИИ. Разборы предыдущих вариантов текста можно найти тут. Структура прежняя: первый раздел о маркировке и детекции синтетического контента поставщиками (providers, ст. 50(2) и (5) Регламента ЕС по ИИ), второй о маркировке дипфейков и текстов эксплуатантами (deployers, ст. 50(4) и (5)). Оба поделены на обязательства и меры. Финальный текст вводит градацию формулировок: "will" – обязательные меры, "encouraged" – добровольные, но рекомендуемые, "may" – гибкие в реализации. Для комплаенса это очень важно: теперь нам понятен минимальный "пакет" требований. Финальная версия в целом лояльнее к бизнесу и предусматривает упрощённое соблюдение некоторых требований для малого и среднего бизнеса (SMEs и SMCs). Правила маркировки Формула простая: если есть технология, обеспечивающая эффективную, совместимую, устойчивую и надёжную маркировку по смыслу ст. 50(2), то достаточно одного уровня маркировки. Пока таких решений нет, применяется многоуровневая маркировка (метаданные и незаметный водяной знак) для аудио, изображений, видео и "контейнеризированного" текста (PDF, DOCX, HTML). Для свободного текста, который физически не может нести метаданные, хватит водяного знака, а для систем ИИ, встроенных в физические товары с замкнутой средой – метаданных. Очень короткий свободный текст (менее 200 токенов) не маркируется. Поставщикам также рекомендуется встроить в интерфейс своих систем функцию, которая позволит пользователю сразу нанести на полученный контент видимую метку по правилам Раздела 2. О самих значках подробно поговорим во второй части поста. Больше внимания уделено цепочкам поставок: маркировка реализуется на уровне модели или системы. Если на уровне модели, для интеграторов (downstream providers) предусмотрен льготный режим документирования. Подписанты обязуются приложить все усилия, чтобы по мере технической возможности сохранять имеющиеся метаданные маркировки на входящем контенте и закрепить это в пользовательском соглашении, а также не выводить на рынок и не продвигать инструменты для обхода маркировки. Правила детекции Обязательство 2 требует от поставщиков бесплатно предоставить пользователям (от конечных до госорганов) решение для детекции синтетического контента. Исключение одно: поставщики с аудиторией менее 1 млн пользователей в месяц, чьё решение несёт существенные операционные издержки, вправе взимать разумную плату при превышении порога запросов от одного пользователя. Для надзорных органов, правоохранителей, СМИ, фактчекеров, исследователей и организаций гражданского общества доступ всегда бесплатен и не ограничен по объёму. Решение можно разработать самому или использовать чужое. По общему правилу оно публично, но при риске снижения качества детекции (например, для водяных знаков в свободном тексте) доступ ограничивается проверенными экспертами. Работа решения должна соответствовать требованиям ЕС о защите персональных данных и кибербезопасности. Оставшиеся обязательства касаются качества и контроля. Четыре требования ст. 50(2) оцениваются по совокупности всех методик, а не по каждой отдельно, причём количественной метрики эффективности нет: достаточно, чтобы человек мог получить и понять результат детекции. Для интероперабельности решений установлен отдельный срок: 2 февраля 2027 года. Решения тестируются до вывода на рынок и регулярно после, а процессы документируются. Важно отметить, что пока в отрасли нет признанных бенчмарков, соответствие подтверждается внутренним тестированием, а интеграторы вправе опираться на документацию поставщика модели (ответственности с них это не снимает).

Поучаствовал в подготовке материала The Bell о российском законе об ИИ The Bell на днях выпустил материал о новой версии российского законопроекта об ИИ, к подготовке которого я приложил руку. Сегодня законопроект был принят Госдумой без поправок, поэтому вероятность того, что он в таком виде дойдет до финальной стадии законотворческого процесса, близится к 100%. Если говорить совсем кратко, то закон теперь нацелен на создание существенных конкурентных преимуществ для тех разработчиков больших фундаментальных моделей (на деле совсем не больших: порог всего 1 млрд параметров), кто готов согласиться на полный контроль со стороны государства, то есть сделать свои модели «суверенными» и «национальными». Среди преимуществ: упрощенный доступ к государственным данным, госфинансирование и право обучать модели на охраняемом контенте без согласия правообладателей. Подтверждение соответствия госорганами и «духовные ценности» при этом никуда не делись. Также под видом поддержки инноваций теперь вся сфера ИИ, а не только большие фундаментальные модели, про которые написан весь текст, отдается президенту, а большая часть применения систем ИИ в публичной сфере фактически выведена из регулирования. Риск-ориентированный подход в тексте остался, но он декларативен: никакого распределения обязанностей и ответственности внутри цепочек поставок не осталось. Равно как и специфических прав человека. Маркировка и вовсе стала делом добровольным. Пока что я нахожусь в летней паузе, но скоро мы вернемся к разбору самых интересных вопросов ИИ-регулирования 🤩.

Для тех, кто хочет отдохнуть от текста, команда проекта подготовила краткое видео 🐱.

MIT AI Risk Repository опубликовал исследование о приоритетных ИИ-рисках Команда проекта опросила 272 международных эксперта и предложила им оценить 24 группы рисков. Это все нужно не для того, чтобы создать перечень страшилок, а понять, какие риски сегодня воспринимаются экспертным сообществом как наиболее существенные в контексте ИИ-регулирования. Ключевой вывод следующий: при сохранении текущей траектории развития ИИ эксперты считают, что 18 из 24 групп рисков имеют не менее 10% вероятности привести к катастрофическим последствиям в течение ближайших пяти лет. Под такими последствиями понимаются, например, более 1 млн смертей, экономический ущерб свыше 100 млрд долларов или сопоставимый по масштабу нематериальный вред, включая подрыв демократических институтов, приватности или общественного доверия. Исследователи также выделяют пять групп рисков, по которым эксперты ожидают наиболее тяжёлые последствия в ближайшие пять лет: • опасные возможности моделей; • конкурентная гонка между разработчиками и государствами; • использование ИИ для разработки оружия, кибератак и причинения массового вреда; • концентрация власти и неравномерное распределение выгод; • распространение ложной и вводящей в заблуждение информации. Интересно, что в верхней части списка находятся не только классические для юристов темы вроде дискриминации, защиты персональных данных или мошенничества. Исследование фиксирует более широкий спектр: наиболее существенные риски всё чаще связываются с системными факторами, такими как гонка за лидерство, концентрация инфраструктуры, масштабируемость вреда и недостаточность существующих механизмов контроля. Для регулирования ИИ из исследования следуют несколько выводов: • ИИ-регулирование должно быть ориентировано не на формальное соблюдение правил, а на реальное управление рисками. Если вероятность катастрофических последствий оценивается как практически значимая уже на горизонте пяти лет, одних рекомендаций недостаточно. Необходимы пропорциональные рискам нормативные требования, обеспеченные силой правоприменения; • одних добровольных мер со стороны разработчиков также недостаточно. Проблема не обязательно в недобросовестности отдельных компаний, а в том, что конкурентная среда сама по себе создаёт стимулы быстрее выпускать более мощные системы, снижая объём и качество контроля. Эту проблему также нельзя решить без комплексной системы нормативного регулирования; • далеко не все риски можно снизить на уровне самой модели ИИ. Регулирование должно охватывать несколько уровней: от технических требований к конкретной системе до инфраструктурных и институциональных условий её разработки и применения, включая распределение ответственности между разными субъектами в цепочках поставок.

Новый указ Президента США: будем проверять передовые модели, но никому не расскажем, какие и как 2 июня 2026 года Президент США подписал новый указ "Promoting Advanced Artificial Intelligence Innovation and Security". Несмотря на то что указ прямо заявляет, что не вводит новых обременительных требований для разработчиков, на деле он добивается того же эффекта — просто завуалированно. Указ относит ряд моделей ИИ к категории "covered frontier model", которым относятся модели, обладающие продвинутыми способностями по взлому информационной инфраструктуры. При этом какие именно модели сюда попадают, определяют силовые органы на основе засекреченного бенчмарка и пороговых значений. А дальше — классическая, знакомая нам всем уловка. С одной стороны, указ прямо запрещает вводить разрешительный порядок или лицензирование для разработки, выпуска и распространения моделей, а все проверки и взаимодействия с госорганами в рамках общего механизма являются исключительно добровольными. Однако государство фактически даёт компаниям сильнейший стимул: применение их моделей в госорганах и критической инфраструктуре, а также допуск в сеть доверенных партнёров. В итоге вместо прозрачных горизонтальных требований мы видим добровольно-принудительный реестр «доверенных моделей», который будет формироваться на основе скрытых от общественности критериев и показателей. Вот вам и дерегуляция 🐱. Ещё интересно, что указ стимулирует использование уже существующих составов преступлений для случаев применения систем ИИ в противоправных целях.

Исследования RKS Global про ИИ-регулирование в Евразии За последние месяцы мы с командой RKS Global подготовили несколько взаимосвязанных материалов, посвящённых ИИ-регулированию в странах Евразии. 1. Исследование «Человек против модели: как государства используют ИИ для цензуры и слежки» направлено на анализ регуляторных и инфраструктурных возможностей государственных органов в девяти юрисдикциях применять системы ИИ в опасных для прав человека целях. В целом ситуация становится тревожной: многие государства выстраивают нормативное регулирование таким образом, чтобы оставить в нём для себя удобные лакуны, которые можно использовать для своей выгоды. Государства всё больше инвестируют в инфраструктуру, а китайские поставщики готовы её поставлять, не особо вдаваясь в этические дилеммы. 2. Обзор первой версии российского законопроекта об ИИ. В текущей версии документ, с одной стороны, получился очень низкого качества с точки зрения здравого смысла и юридической техники, а с другой — просто опасным для прав человека. Документ де-факто вводит необходимость соответствия моделей государственной идеологии и отдаёт широкие полномочия органам власти по применению систем ИИ в сфере безопасности и правопорядка без установления необходимых ограничений и процессуальных мер. Благо большое число организаций и экспертов опубликовали свои замечания к документу. Ждём новый текст законопроекта и надеемся, что к этим замечаниям кто-то прислушается. По итогам данных исследований хотелось бы в очередной раз подчеркнуть важность качественного ИИ-регулирования: сбалансированное законодательство необходимо не только для поддержки инноваций, но и для ограничения государств и бизнеса, которые пытаются использовать системы ИИ для своего блага, нарушая при этом права человека. Не надо так 🐱.

В выходные смотрим подкаст про легендарную AlphaGo На канале Дваркеша Пателя вышло видео с Эриком Джангом, исследователем в сфере ИИ и робототехники (ex 1X Technologies и DeepMind). Эрик с помощью своих знаний и вайбкодинга сам воспроизвёл модель AlphaGo и теперь на пальцах рассказывает, что же у неё под капотом. Чем знаменательна AlphaGo? Это была первая система ИИ, которая выиграла у одного из сильнейших игроков мира в Го. Ранее эта задача считалась практически недостижимой в обозримой перспективе, так как в Го намного больше вариаций, чем в шахматах, и у нас не хватит никаких ресурсов, чтобы всё просчитать. Но, как оказалось, новые архитектурные решения не менее важны, чем вычислительные мощности. Поэтому AlphaGo является одним из важнейших шагов в развитии науки об ИИ: она решила задачу, казавшуюся неразрешимой, привлекла к индустрии общественный интерес и капиталы и окончательно вывела её из скепсиса вокруг второй «зимы ИИ» 🤩.

Как определить, какие методики управления рисками являются «передовыми» для поставщиков GPAISR моделей по смыслу Европейского AI Act и GPAI CoP? Именно таким вопросом задался целый ряд исследователей из ведущих лабораторий и аналитических центров. Результатом данной работы стал исследовательский меморандум Determining the State of the Art in General-Purpose AI Risk Management: From Code to Practice. В чём проблема? Термин state of the art (SOTA) фигурирует в AI Act неоднократно; в данном случае авторы обращают внимание на него именно в контексте ст. 55(1)(a) AI Act, которая требует от всех поставщиков GPAISR моделей (моделей общего назначения, представляющих системный риск) «проводить оценку модели в соответствии со стандартизированными протоколами и инструментами, отражающими современный уровень развития технологий (SOTA), включая проведение и документирование тестирования модели на устойчивость к атакам с целью выявления и снижения системных рисков». Далее этот же термин неоднократно применяется в GPAI CoP, который как раз призван разъяснить, каким образом поставщики могут обеспечить соответствие требованиям AI Act. В частности, он присутствует в нескольких ключевых мерах, связанных с системными рисками и управлением ими. Данный термин по большей части был введён из-за фактической невозможности законодателей определить исчерпывающий перечень необходимых методик и критериев оценки, которые в быстро развивающейся индустрии меняются практически непрерывно. В связи с этим законодатели указали, что поставщики передовых моделей должны использовать наиболее передовые решения, которые имеются на рынке в данный момент, но при этом выходят за рамки лучших практик индустрии. Авторы исследования как раз и пытаются понять, каким образом с юридико-технической точки зрения определить, что именно следует относить к таким решениям. Что предлагают авторы? Во-первых, необходимо выработать три критерия для SOTA: доступность (availability) — мера должна быть технически реализуемой и экономически достижимой для соответствующего класса операторов; соразмерность (proportionality) — общий принцип права ЕС (SOTA размещается на парето-границе: для соответствующего уровня эффективности не существует менее обременительной альтернативы); проверяемость (verifiability) — так как данные методы находятся за границами лучших практик индустрии, то основой для их валидации должно быть решение AI Office при участии Scientific Panel (независимая научная панель экспертов, поддерживающая имплементацию Регламента, ст. 68 AI Act). Таким образом, авторы предлагают сместить логику валидации от исключительно индустриального консенсуса к привлечению широкой экспертной экосистемы. Во-вторых, авторы предлагают цикл, состоящий из трёх этапов: мониторинг — непрерывное отслеживание событий, требующих пересмотра SOTA (скачки в возможностях моделей, новые архитектуры, серьёзные инциденты, ранее не известные векторы атак, квалифицированные предупреждения от Scientific Panel); исследование и обмен доказательствами — создание новых методов любыми участниками экосистемы с последующим обменом доказательственной базой через защищённые каналы; оценка и коммуникация — анализ AI Office при поддержке Scientific Panel с последующим доведением решений напрямую до подписантов GPAI CoP или через отдельный реестр SOTA. Что рекомендуют авторы регулятору? 1) AI Office совместно со Scientific Panel должны разработать рекомендации, которые детально объяснят широкие требования к SOTA через конкретные методики и критерии оценки. 2) Создать защищённые каналы коммуникации для передачи информации о SOTA методиках в AI Office. 3) Формализовать роль Scientific Panel в подготовке научно обоснованных ответов на возникающие вопросы. 4) Вовлекать в эту работу специализированные научные учреждения, институты, лаборатории и аналитические центры. 5) Создать единый реестр SOTA методов, который будет содержать разные уровни доступа для общества и поставщиков передовых моделей (например, чтобы избежать утечки передовых методов обеспечения безопасности).

Американский CAISI теперь будет иметь предварительный доступ к большему числу передовых моделей ИИ Еще в 2024 году американский Институт безопасности ИИ (AISI) заключил соглашения с OpenAI и Anthropic, в соответствии с которыми компании добровольно согласились предоставлять свои передовые модели для тестирования и оценки до предоставления к ним публичного доступа. С приходом текущей администрации AISI был переименован в Центр стандартов и инноваций в сфере ИИ (CAISI), а его основной фокус сместился с AI safety повестки на проверки отечественных и иностранных моделей на угрозы национальной безопасности. Позднее эти функции были закреплены за CAISI в AI Action Plan. Теперь же аналогичные соглашения были подписаны и с другими компаниями, разрабатывающими передовые модели — Google DeepMind, Microsoft и xAI. Также в пресс-релизе указано, что CAISI уже провел более 40 оценок моделей (важно отметить, что отчеты и методики, как правило, не публичны) и в перспективе должен стать связующим звеном между бизнесом и госорганами. Таким образом, мы видим три основных подхода, определяющих способ вмешательства государств в деятельность разработчиков передовых моделей: • де-факто режим лицензирования моделей в Китае при наличии регулирования и обязательных технических стандартов; • прозрачные горизонтальные требования для всех поставщиков, которые размещают GPAI модели на рынке ЕС; • добровольно-принудительное сотрудничество с государством без надлежащих правовых и процессуальных требований в США. Идем к успеху в борьбе со Скайнет? 🤩

CAIDP опубликовал AI and Democratic Values Index 2026 По традиции в апреле вышел ещё один индекс – AI and Democratic Values Index 2026 от Center for AI and Digital Policy, который включает 90 стран и содержит более 1,7 тыс. страниц. Лидерами в этом году стали Канада, Япония, Нидерланды, Норвегия, Швейцария и Великобритания. А вот США, наоборот, из лидеров выпали. Какие выводы авторы делают за прошлый год? Во-первых, Рамочная конвенция Совета Европы по ИИ подписана 45 странами, но ещё не ратифицирована. Поэтому уровень её влияния на глобальные процессы пока остаётся под вопросом. Во-вторых, в государствах-членах ЕС продолжается имплементация Регламента ЕС по ИИ. Вместе с тем и другие страны за его пределами имплементируют отдельные концептуальные положения регламента в свои законы. Например, выделение запрещённых практик и распределение систем ИИ по группам риска характерны для корейского и казахстанского актов. В-третьих, на глобальные тенденции негативно влияет подвешенная ситуация в США: с одной стороны, на федеральном уровне акты предыдущей администрации отменены, а новые не разработаны; с другой – текущая администрация продолжает воевать со штатами в попытках ограничить их предметы ведения в сфере ИИ-регулирования. В-четвёртых, были сделаны некоторые шаги от ООН: запущен диалог по AI Governance и создана международная научная панель. Какие рекомендации на 2026? На самом деле всё повторяется из года в год: выработать международно-правовое регулирование в сфере ИИ (или хотя бы присоединиться к Конвенции СЕ), определиться с запрещёнными практиками, обеспечить прозрачность функционирования систем ИИ и человеческий контроль, эффективно распределить ответственность между разными субъектами в цепочках поставок. Ещё есть отдельная интерактивная карта по странам.