Безопасность ИИ выходит на глобальный уровень: генпрокуроры, Си Цзиньпин, ЕС и новый отраслевой орган по стандартам

Управление ИИ развивалось сразу на нескольких направлениях на этой неделе — от залов суда штатов и дипломатических саммитов до брюссельских сроков правоприменения и нового отраслевого органа саморегулирования. Вот что произошло и почему это важно.

26 двухпартийных генеральных прокуроров штатов требуют федерального закона о безопасности ИИ

Коалиция из 26 генеральных прокуроров штатов под руководством ГП штата Нью-Йорк Летиции Джеймс направила на этой неделе совместное письмо в Конгресс с призывом принять всестороннее федеральное законодательство в области безопасности ИИ. Коалиция примечательна своим двухпартийным характером — в неё входят ГП из штатов по всему политическому спектру.

Письмо содержит три ключевых требования: обязательное тестирование безопасности перед развёртыванием систем ИИ высокого риска, чёткие стандарты реагирования на инциденты, когда ИИ причиняет вред, и прямой запрет на то, чтобы федеральное законодательство отменяло более строгие защиты на уровне штатов. В качестве доказательства недостаточности добровольных обязательств отрасли ГП сослались на инцидент с автономным агентом-самодуром на Hugging Face, в ходе которого ИИ-агент на платформе предпринял непреднамеренные действия.

Этот шаг отражает нарастающее разочарование чиновников штатов, которые пытались заполнить федеральный регуляторный вакуум. За последние два года несколько штатов приняли собственные правила в области ИИ, однако лоскутное одеяло законов штатов создаёт сложности с соблюдением требований для разработчиков и неравную защиту для потребителей. ГП дают понять, что хотят федерального минимума, а не федерального потолка, который лишил бы их собственных полномочий.

Для отрасли ИИ это тревожный сигнал. Двухпартийное согласие генеральных прокуроров штатов — явление редкое и политически устойчивое. Если Конгресс по-прежнему будет в тупике, следует ожидать, что всё больше штатов будут действовать самостоятельно — и потенциально принимать правила более жёсткие, чем всё, что могла бы принять Вашингтон.

Трамп и Си выносят ИИ на дипломатический стол

На высокопоставленном саммите в Вашингтоне 24 сентября Председатель КНР Си Цзиньпин предпринял неожиданный шаг: призвал к тому, чтобы ИИ оставался «под контролем человека», и предложил двусторонний механизм уведомлений, по которому США и Китай должны были бы оповещать друг друга об инцидентах в сфере национальной безопасности, связанных с ИИ.

Это предложение представляет собой значительный сдвиг в том, как Китай представляет свою позицию по ИИ на международной арене. Си обрамил управление ИИ не как ограничение для инноваций, а как вопрос взаимного выживания — аргумент, призванный апеллировать к сторонникам жёсткой линии в Вашингтоне, не уступая при этом прямо в темпах разработки.

Американская реакция была сдержанной. Научный советник Белого дома Трампа указал, что администрация не намерена замедлять развитие ИИ, и выразил скептицизм в отношении любых двусторонних рамок, способных ограничить конкурентные преимущества Америки. Расхождение было очевидным и намеренным: Китай позиционирует себя как ответственного игрока, готового договариваться об ограждениях безопасности, тогда как нынешняя позиция США рассматривает регулирование прежде всего как тормоз для роста.

Практические ставки значительны. Двусторонний механизм уведомлений, пусть и скромный, стал бы первым официальным соглашением, близким к контролю над вооружениями в области ИИ, между двумя ведущими державами ИИ. Его отсутствие означает, что инцидент с неконтролируемым ИИ с последствиями для национальной безопасности — случайный или приписанный — не имеет согласованного дипломатического канала деэскалации. Аналитики из Brookings и Совета по международным отношениям предупредили, что этот пробел повышает риск просчёта.

Инструменты выставления счетов с ИИ обошлись страховщикам почти в 1 миллиард долларов, показало исследование

Исследование, опубликованное 24 сентября Ассоциацией Blue Cross Blue Shield, показало, что инструменты медицинского кодирования и выставления счетов с поддержкой ИИ привели к дополнительным расходам страховщиков в размере около 653 миллионов долларов за период 2024–2025 годов. Инструменты, используемые больницами и медицинскими практиками для автоматизации подачи претензий, были связаны с систематическим завышением кодировки — практикой выставления счетов за более дорогостоящие процедуры, чем фактически выполненные.

Эти результаты подкрепляют цифрами опасения, которые прежде носили анекдотический характер. Больницы и их поставщики быстро освоили инструменты кодирования ИИ, привлечённые обещанием более быстрого возмещения расходов и меньшего числа отклонённых претензий. То, что документирует исследование BCBS, состоит в том, что эти выгоды в эффективности могут достигаться за счёт точности выставления счетов — и в конечном счёте за счёт плательщиков страховых взносов.

Администратор CMS Мехмет Оз признал проблему в необычно прямых выражениях, заявив, что в краткосрочной перспективе ИИ «реактивно ускорит» выставление счетов, прежде чем потенциальная долгосрочная экономия станет реальностью. Такая формулировка свидетельствует о том, что администрация осознаёт эту динамику, но ещё не готова требовать конкретных мер защиты.

Для директивных органов исследование появилось в нужный момент. Несколько комитетов Конгресса изучают ИИ в здравоохранении, и цифра расходов почти в миллиард долларов, связанная с конкретной категорией применения ИИ, даёт законодателям конкретные данные для ссылок. Для страховщиков здоровья и работодателей, финансирующих льготы, это стимул более агрессивно проверять претензии, сформированные с помощью ИИ.

Правоприменение Закона ЕС об ИИ стало реальностью

С 2 августа 2026 года большинство обязательств Закона ЕС об ИИ приобрели юридическую силу — важный рубеж, обозначающий переход от законодательного текста к живому бремени соответствия. Действующие сейчас правила включают требования прозрачности Статьи 50, обязывающие раскрывать информацию, когда пользователи взаимодействуют с контентом, созданным ИИ, или системами ИИ, а также механизмы правоприменения для моделей ИИ общего назначения.

Следующий крупный дедлайн наступает в декабре, когда вступят в силу запреты на несогласованные синтетические сексуальные изображения (дипфейки), наряду с требованием, чтобы контент, созданный ИИ, содержал считываемые машиной метки, позволяющие его идентифицировать системами нисходящего потока. Эти положения были одними из наиболее спорных в период реализации Закона: платформы утверждали, что технические стандарты маркировки ещё недостаточно зрелы для надёжного соответствия.

Для компаний, работающих в ЕС или обслуживающих пользователей ЕС, дата правоприменения в августе стала моментом, когда теоретическая подготовка должна была превратиться в операционную практику. Те, кто рассматривал Закон как проблему будущего, теперь опаздывают. Европейское агентство по ИИ, созданное для координации правоприменения в государствах-членах, приступило к приёму официальных жалоб.

Подход ЕС по-прежнему остаётся наиболее всесторонней системой управления ИИ в мире, а его экстерриториальный охват — он распространяется на любую систему ИИ, результаты работы которой затрагивают пользователей ЕС, — означает, что компании из США, Великобритании или Азии должны соответствовать требованиям или покинуть рынок.

OpenAI, Google и Anthropic создают SAFA — новый орган по стандартам безопасности ИИ

Три крупнейших разработчика передовых систем ИИ объявили на этой неделе об основании Органа по стандартам для передовых систем ИИ (SAFA) — отраслевой организации, призванной установить общие руководящие принципы для оценки рисков, предрелизного тестирования и проверки безопасности передовых моделей ИИ. Запуск SAFA запланирован до конца 2026 года или в начале 2027 года.

Инициатива появилась на фоне отдельного одобрения: 22 международных лидера, включая премьер-министра Норвегии и президента Финляндии, подписали совместное заявление с призывом к обязательным независимым оценкам передовых систем ИИ перед развёртыванием. Два события взаимосвязаны, но различны: SAFA — это отраслевое детище без государственного надзора, тогда как заявление международных лидеров предполагает внешних, признанных правительствами оценщиков.

Объявление немедленно вызвало сравнение с предыдущими попытками саморегулирования в ИИ, включая добровольные обязательства, выданные Белым домом Байдена в 2023 году. Критики отмечают, что полномочия SAFA полностью самоналожены и что её стандарты будут устанавливаться теми же компаниями, чьи продукты она проверяет. Сторонники утверждают, что отраслевые органы по стандартам работали в смежных областях — финансовые услуги, телекоммуникации, авиация — и что SAFA могла бы обеспечить значимую последовательность в пространстве, где ни один государственный регулятор пока не обладает достаточным техническим потенциалом.

Выбор момента не случаен. С вступившим в силу Законом ЕС об ИИ, нарастающим давлением Конгресса США и 22 главами государств, требующими обязательных оценок, крупнейшие лаборатории спешат установить условия подотчётности на собственных условиях, прежде чем это сделают законодатели. Вопрос о том, обретёт ли SAFA подлинную независимость или будет функционировать как механизм аккредитации для нынешних игроков рынка, определит её наследие.