Ведущие ИИ-лаборатории создают орган по безопасности на фоне распада глобального управления ИИ

Новости ИИ этой недели сосредотачиваются на одном разломе: кто, если вообще кто-либо, будет управлять самой мощной технологией в мире — и разрыв между теми, кто требует действий, и теми, кто им сопротивляется, стремительно растёт.

Крупнейшие ИИ-лаборатории создают независимый орган саморегулирования

OpenAI, Anthropic и Google DeepMind сотрудничают в создании совместно финансируемого независимого органа, который будет оценивать передовые модели ИИ перед их публичным выпуском — по образцу FINRA, американского отраслевого саморегулятора финансовой индустрии. Согласно предложенной структуре, мощные новые модели будут проходить стандартизированные оценки безопасности у внешних экспертов перед развёртыванием, добавляя уровень ответственности между внутренним тестированием компании и публичным доступом. Инициатива последовала за серией публичных предупреждений о безопасности от исследователей тех же организаций и сигнализирует о том, что сами лаборатории признают: внешний контроль теперь считается само собой разумеющимся. Главный вопрос остаётся: будет ли орган обладать подлинной независимостью от финансирующих его компаний. Предложения о саморегулировании в других отраслях нередко терпели неудачу именно в этом пункте.

Трамп называет опасения по безопасности ИИ «мистификацией»

На публичном мероприятии 16 сентября Дональд Трамп отверг экзистенциальный риск ИИ как «мистификацию» и заявил, что единственный нужный США надзор за ИИ — это «сильный президент». Его высказывания ставят его в прямое противоречие с исследователями OpenAI и Anthropic, которые публично предупреждали, что всё более мощные модели могут причинить серьёзный вред без надлежащих защитных механизмов. Трамп также повторил своё несогласие с федеральным законодательством об ИИ, отдав предпочтение саморегулированию отрасли — позиция, поддержанная некоторыми крупными технологическими инвесторами, но расходящаяся с большинством опубликованных оценок рисков ИИ и с теми самыми стандартами безопасности, которые лаборатории сейчас поддерживают. Высказывания углубляют и без того значительный политический раскол в США по вопросу о том, как и нужно ли вообще регулировать передовой ИИ.

Генеральный секретарь ООН предупреждает о «гонке на понижение» в области безопасности ИИ

Генеральный секретарь ООН Антониу Гутерреш предупредил 16 сентября, что конкурентное давление между государствами толкает правительства к ослаблению требований безопасности ИИ, а не к их укреплению, назвав эту динамику «гонкой на понижение». Выступая в Нью-Йорке, Гутерреш призвал к срочному международному соглашению об общих принципах защиты мирных жителей от вреда, причиняемого ИИ, указав на автономное оружие и слежку с помощью ИИ как на области, требующие немедленных многосторонних правил. Он отметил, что сегодня не существует обязательной глобальной нормативной базы для ИИ и что разрыв между возможностями ИИ и инфраструктурой управления им растёт быстрее, чем государства-члены движутся к его устранению. Генеральный секретарь включил вопросы управления ИИ в повестку дня ООН с 2023 года; его прямая риторика на этой неделе отражает нарастающую срочность по мере того, как крупнейшие державы наращивают инвестиции.

Соперничество в сфере ИИ ожидаемо займёт центральное место на вашингтонском саммите Си-Трамп

Когда председатель КНР Си Цзиньпин и Дональд Трамп встретятся в Вашингтоне в ближайшие недели, искусственный интеллект ожидаемо окажется в числе ключевых пунктов повестки. Китайские компании, в том числе DeepSeek и Moonshot AI, за последний год существенно сократили разрыв в производительности с ведущими американскими моделями, что осложнило прежние американские расчёты на сохранение явного технологического превосходства. Переговоры, по ожиданиям, охватят доступ к передовым полупроводникам — где американские экспортные ограничения неоднократно проверялись на прочность и обходились — а также обвинения в копировании интеллектуальной собственности и возможность двусторонних соглашений по надзору за ИИ. Итог встречи способен переформатировать как международный ландшафт управления ИИ, так и мировые правила в отношении наиболее мощного аппаратного обеспечения технологии.

Конгресс США добавляет в законопроект об ИИ механизмы экстренного отключения; голосование на пленарном заседании переносится на 2027 год

Американские законодатели обсуждают добавление обязательных аудитов безопасности перед развёртыванием, механизмов аварийного отключения высокорискованных систем ИИ и постоянного запрета на создание искусственного сверхинтеллекта в Закон о безопасности передового ИИ — наиболее всеобъемлющий федеральный законопроект об ИИ, находящийся сейчас на рассмотрении. Новые положения отражают растущую обеспокоенность Конгресса как краткосрочными злоупотреблениями, так и долгосрочными рисками, связанными с возможностями систем. Однако председатель профильного комитета Палаты представителей сообщил, что законопроект вряд ли выйдет на полное пленарное голосование до 2027 года, сославшись на сопротивление отраслевых групп и разногласия среди членов комитета по вопросам охвата. Задержка оставляет США без федерального закона об ИИ, тогда как отдельные штаты — прежде всего Калифорния — продолжают принимать собственные нормы, создавая всё более запутанный лоскутный набор требований в отсутствие национальных стандартов.