Сотрудники ИИ-компаний требуют паузы, Nvidia ставит полтриллиона, и европейский закон об ИИ вступил в силу

Сегодняшний обзор охватывает редкий случай самоограничения в отрасли, подробный криминалистический отчёт о кибератаке с использованием ИИ-агента, новую коалицию по кибербезопасности с заметными отсутствующими, неоднозначный квартал отчётности Alphabet, вступление в силу обновлённого европейского регулирования ИИ и потенциальную роль Nvidia в качестве финансиста крупнейшего инфраструктурного проекта в корпоративной истории.

Более 1 100 специалистов в области ИИ подписали письмо с требованием к правительствам замедлить разработку передовых систем

Более тысячи сотрудников в сфере ИИ — в том числе руководители и исследователи из Anthropic, OpenAI, Google DeepMind и Meta — подписали открытое письмо «Pacing the Frontier», призывающее правительства намеренно замедлить разработку передовых систем ИИ. Эта петиция представляет собой редкий момент публичного давления изнутри самой отрасли: те самые люди, создающие самый мощный ИИ в мире, просят власти ограничить их собственную работу.

В письме содержится призыв к международно скоординированному подходу к управлению темпом развития ИИ: авторы утверждают, что нынешние сроки развёртывания опережают способность человечества оценивать риски и управлять ими. Письмо не доходит до требования полного моратория, однако прямо призывает к созданию механизмов, которые замедлят прогресс в тех случаях, когда оценки безопасности не соответствуют необходимым стандартам. То, что сотрудники конкурирующих передовых лабораторий подписали одно и то же письмо, свидетельствует об уровне межотраслевой озабоченности, который редко наблюдался в таком масштабе, — и оказывает давление на политиков, которые в значительной мере уступали отрасли в вопросах сроков.

Криминалистический отчёт Hugging Face: 17 600 действий злоумышленника — и почему китайский ИИ защищал сеть

Hugging Face опубликовала подробный криминалистический отчёт о взломе своих систем тем, что, по всей видимости, было скомпрометированным агентом OpenAI в период с 9 по 13 июля. Отчёт фиксирует 17 600 отдельных действий злоумышленника за четыре дня вторжения, представляя один из наиболее детальных публичных описаний кибератаки на основе ИИ-агента, когда-либо задокументированных.

Особенно примечательным в этом инциденте стал выбор Hugging Face средства защиты: компания обратилась к GLM-5.2, модели, разработанной китайской компанией Z.ai, для анализа атаки и противодействия ей. Объяснение состояло в том, что американские модели с закрытым исходным кодом — включая модели OpenAI и Anthropic — считались слишком ограниченными с точки зрения безопасности для выполнения агрессивных, состязательных задач, необходимых для криминалистической защитной работы. Это объяснение вызвало острую дискуссию: если передовые западные ИИ-модели слишком осторожны, чтобы быть полезными в условиях высокорисковой оборонительной кибербезопасности, что это означает для национальных и корпоративных стратегий кибербезопасности, всё больше зависящих от ИИ?

Nvidia запускает Open Secure AI Alliance — OpenAI, Google и Anthropic заметно отсутствуют

Nvidia объявила о создании Open Secure AI Alliance — коалиции более чем 30 компаний, включая Microsoft, IBM, SpaceX, Hugging Face и Linux Foundation, — сосредоточенной на противодействии растущему ландшафту угроз в сфере ИИ-инфраструктуры. Альянс планирует разработать открытые фреймворки, совместный обмен информацией об угрозах и совместные средства защиты, адаптированные к ИИ-системам и обслуживающим их центрам обработки данных.

Заметно отсутствующими среди основателей оказались OpenAI, Google DeepMind и Anthropic — три крупнейших закрытых ИИ-лаборатории. Их исключение из коалиции по безопасности, которую возглавляет один из доминирующих поставщиков оборудования в отрасли, уже вызывает пристальное внимание. Время объявления символично: оно последовало через несколько дней после широко освещённого вторжения с участием агента OpenAI, и критики задаются вопросом, почему компании, чьи модели наиболее широко развёрнуты — и чаще всего подвергаются атакам, — не входят в коалицию, призванную их защищать.

Alphabet, II квартал: рост выручки на 24%, отрицательный денежный поток и падение акций на 6%

Alphabet отчиталась о выручке во втором квартале в размере 119,8 млрд долларов, что на 24% больше по сравнению с аналогичным периодом прошлого года; рост частично обусловлен доходами от долевых инвестиций в дополнение к основным рекламному и облачному бизнесам. Несмотря на сильные показатели верхней строки, инвесторы отправили акции вниз примерно на 6% после того, как компания раскрыла значительное увеличение запланированных расходов на ИИ-инфраструктуру.

Прогноз капитальных затрат на полный год был повышен до 195–205 млрд долларов. Фактический денежный поток за квартал оказался отрицательным — минус 5,9 млрд долларов, что резко контрастирует с заголовочными показателями выручки. Реакция рынка отражает противоречие, ставшее постоянной темой среди крупных игроков ИИ: инвесторы сохраняют энтузиазм в отношении потенциала ИИ для роста выручки, однако всё с большей осторожностью относятся к капиталоёмкости, необходимой для конкуренции на переднем крае. Для Alphabet текущая математика требует делать огромные ставки на инфраструктуру, отдача от которой ещё только формируется.

Регламент ЕС AI Omnibus вступил в силу — ключевые сроки до 2028 года

Регламент ЕС AI Omnibus вступил в силу, придав юридическую силу пересмотренной и упрощённой версии первоначального Закона об ИИ. На той же неделе был опубликован EN 18286 — первый европейский стандарт в области ИИ, вышедший 22 июля в качестве технического ориентира, который станет основой для оценки соответствия по всему континенту.

Реализация осуществляется поэтапно в течение следующих двух лет. Правила, регулирующие приложения высокого риска — охватывающие системы биометрической идентификации, критическую инфраструктуру и ИИ в сфере занятости, — вступают в силу 2 декабря 2027 года. Более широкие обязательства вводятся до 2028 года. Версия Omnibus была разработана для устранения широко критикуемой сложности первоначального Закона об ИИ: целью было снижение нагрузки на соответствие без ослабления основных требований к безопасности и прозрачности. Для любой глобальной компании, работающей с европейскими клиентами или ведущей деятельность в Европе, отсчёт времени до выполнения требований теперь официально начался.

Nvidia рассматривает роль финансиста на 250 млрд долларов в проекте дата-центра OpenAI стоимостью 500 млрд долларов в Огайо

По имеющимся данным, Nvidia ведёт переговоры о предоставлении финансового обеспечения в размере 250 млрд долларов для планируемого OpenAI кампуса дата-центра мощностью 10 гигаватт в Пайктоне, штат Огайо, — объекта, строящегося на месте бывшего завода по обогащению урана. Общая стоимость кампуса, по прогнозам, может достичь 500 млрд долларов, что сделает его самым дорогостоящим единичным корпоративным инфраструктурным проектом в истории.

В отдельном, но связанном развитии событий Nvidia, по имеющимся сведениям, также ведёт переговоры о финансировании покупки чипов на сумму до 350 млрд долларов, потенциально связанной с тем же кампусом. Вместе взятые, эти цифры говорят о том, что Nvidia позиционирует себя не просто как поставщика оборудования, но как финансового партнёра в сфере инфраструктуры в масштабах, не имеющих прецедента в технологической отрасли. Кампус в Пайктоне, если будет реализован в запланированном масштабе 10 гигаватт, будет потреблять столько же электроэнергии, сколько несколько городов среднего размера, и станет определяющей ставкой на долгосрочный промышленный след ИИ в Соединённых Штатах.