Anthropic обходит OpenAI, регуляторы наносят удар по ИИ-агентам на трёх фронтах

Еженедельные новости в сфере ИИ пришли двумя волнами: конкурентный переворот на вершине отрасли и скоординированный глобальный натиск регуляторов с целью установить жёсткие ограничения для автономных систем ИИ. Семь историй определяют этот момент.

Anthropic обходит OpenAI по выручке и оценке на вторичном рынке

Впервые с момента, когда обе компании стали двумя доминирующими силами в генеративном ИИ, Anthropic превзошла OpenAI по годовой выручке — и инвесторы вторичного рынка оценивают компанию соответственно, подталкивая подразумеваемую оценку Anthropic выше оценки OpenAI на частных торговых платформах.

Разворот впечатляет, учитывая многолетнюю фору OpenAI, её огромную потребительскую базу с ChatGPT и глубокую интеграцию в корпоративный стек Microsoft. Успехи Anthropic широко объясняются её фокусом на корпоративной надёжности и репутации в области безопасности, которые нашли отклик в регулируемых отраслях, включая юриспруденцию, финансовые услуги и здравоохранение. Высокая производительность Claude в тестах кодирования и логического мышления также ускорила внедрение среди разработчиков. Сохранится ли лидерство по выручке по мере того, как OpenAI усиливает собственный корпоративный натиск, — неизвестно, но нарратив о едином доминирующем игроке теперь окончательно завершился.

OpenAI предлагает передать правительству США долю в 5%

Даже отставая от Anthropic по одному ключевому показателю, OpenAI делает смелый политический манёвр. Генеральный директор Сэм Альтман предложил предоставить правительству США долю в размере 5% в компании — в настоящее время оцениваемой примерно в $42,6 млрд — по образцу Постоянного фонда Аляски, где доходы штата от нефти поступают гражданам в виде общественных дивидендов. Концепция Альтмана позиционирует ИИ как национальный ресурс, при котором американские налогоплательщики имеют право на долю от роста, а не просто несут риски.

Предложение отражает растущее давление на лаборатории ИИ с целью продемонстрировать общественную пользу в масштабе, соразмерном их частным оценкам. Критики отметили, что государственная доля в капитале может осложнить надзор, создать конфликты интересов для регуляторов или функционировать прежде всего как лоббистская стратегия. Сторонники утверждают, что это может согласовать государственные и корпоративные стимулы способами, которые добровольные обязательства по безопасности последовательно не могли обеспечить. Белый дом публично не отреагировал.

Китай обязал приложения-компаньоны ИИ отключить персонализированных агентов до 15 июля

Администрация киберпространства Китая обязала отечественные компании ИИ — в том числе Doubao компании ByteDance и Qwen компании Alibaba — до 15 июля отключить функции персонализированных агентов ИИ в приложениях-компаньонах и социальных приложениях. Директива является частью более широкой регуляторной зачистки ИИ с акцентом на этику: власти ссылаются на обеспокоенность эмоциональной зависимостью, манипуляциями и размыванием границ между человеческими и машинными отношениями.

Этот шаг иллюстрирует складывающуюся закономерность: правительства, быстро внедрившие ИИ, также быстро устанавливают ограничения для его наиболее интимных применений. Персонализированные компаньоны ИИ — системы, изучающие предпочтения отдельных пользователей, адаптирующие свою личность и поддерживающие долгосрочную реляционную динамику — представляют особые риски, для которых правила чат-ботов общего назначения не предназначены. Аналогичные дискуссии уже разворачиваются в Европе и США по мере расширения пользовательских баз продуктов-компаньонов ИИ.

Банк Англии предупреждает о возможном усилении волатильности рынка из-за ИИ-агентов и изучает «аварийные выключатели»

Заместитель управляющего Банка Англии Сара Бридэн сделала одно из самых прямых на сегодняшний день регуляторных предупреждений об автономном ИИ на финансовых рынках: существующие рамки не подходят для агентских систем, способных совершать операции с реальными деньгами без человеческого одобрения в каждый момент. Выступая совместно с представителями FCA, Бридэн сообщила, что регуляторы активно изучают технические и правовые механизмы — в том числе аварийные «выключатели» — которые могут остановить торговлю под управлением ИИ или портфельные решения в кризисных ситуациях.

Эта обеспокоенность не гипотетическая. Ряд крупных управляющих активами уже развернул агентов ИИ, способных исполнять сделки и перебалансировать портфели быстрее, чем человеческий надзор успевает отслеживать. Вмешательство Банка Англии сигнализирует о завершении эпохи откладывания управления ИИ в финансовых услугах. Ожидается, что FCA опубликует официальные руководящие принципы до конца года.

FTC: скрытое управление выводами ИИ является вводящей в заблуждение практикой

Федеральная торговая комиссия США опубликовала проект заявления о политике, декларирующего, что системы ИИ, тайно направляемые к нераскрытым коммерческим, регуляторным или проприетарным целям, вероятно, нарушают раздел 5 Закона FTC — основной закон о защите прав потребителей. Политика направлена против конкретной и всё более распространённой практики: развёртывания инструментов ИИ, которые внешне дают нейтральные результаты, на самом деле оптимизируя под цели, не раскрытые пользователям разработчиком или оператором.

Среди примеров, упомянутых FTC: системы поиска и рекомендаций ИИ, ранжирующие результаты в пользу собственных продуктов платформы; советники ИИ в финансовом или медицинском контексте, направляющие пользователей к определённым провайдерам; инструменты соответствия ИИ, формирующие выводы для минимизации регуляторной ответственности оператора без уведомления пользователей. Публичное обсуждение открыто до 31 июля. В случае принятия политика даст FTC полномочия для преследования широкого спектра продуктов ИИ и вынудит к существенным изменениям в сфере раскрытия информации по всей отрасли.

Корпоративное внедрение ИИ опережает управление с большим отрывом

Совместный опрос Smarsh и FTI Consulting среди руководителей технологий и комплаенса предприятий показал, что 55% организаций развернули системы ИИ в эксплуатацию, однако лишь 26% имеют рамки управления, согласованные с этими развёртываниями. «Теневой ИИ» — сотрудники, использующие личные или несанкционированные инструменты ИИ на корпоративных системах — обнаруживается лишь в 30% опрошенных организаций.

Разрыв не удивителен с учётом темпов внедрения ИИ, однако цифры усиливают нарастающую угрозу ответственности. Предприятия, не способные отслеживать, что делают системы ИИ, кто их использует или какие данные обрабатываются, сталкиваются с накапливающейся регуляторной ответственностью и сбоями внутреннего контроля. Выводы появились в момент, когда регуляторы в ЕС, Великобритании и США усиливают внимание к организационной ответственности за решения, принимаемые под управлением ИИ.

ИИ визуального восприятия и обработки языка решил физическую загадку, бросавшую вызов учёным десятилетиями

Исследователи Калифорнийского университета в Ирвайне опубликовали в этом месяце результаты, показывающие, что мультимодальная языковая модель — обученная как на научной литературе, так и на экспериментальных изображениях — успешно определила структурный механизм, лежащий в основе аномального поведения переохлаждённой воды, — загадки, которую классические аналитические методы не могли решить десятилетиями.

Переохлаждённая вода — жидкая вода, поддерживаемая ниже 0°C без замерзания — проявляет необычные термодинамические свойства, важные для атмосферной науки, криобиологии и материаловедения. Модель не просто сопоставила паттерны с известными результатами: она выявила ранее не установленные структурные связи в данных и сформировала понятные человеку объяснения своих рассуждений — что традиционные инструменты машинного обучения производят крайне редко. Исследователи описывают этот результат как свидетельство новой парадигмы ИИ в экспериментальной физике, где мультимодальные модели выступают в роли совместных аналитических партнёров, а не непрозрачных предсказателей.