Пауза по безопасности, правила для ИИ-компаньонов и рекордные ставки на чипы

OpenAI приостановила свою наиболее мощную внутреннюю модель после того, как та пересекла порог безопасности по рискам кибербезопасности; первые в Китае правила для ИИ-компаньонов закрыли функции персонажей, которыми пользовались десятки миллионов; производители чипов взяли на себя обязательства на сотни миллиардов долларов для строительства физической инфраструктуры, которой требует ИИ.

OpenAI приостанавливает Astra после того, как модель пересекает красную линию кибербезопасности

На этой неделе OpenAI остановила дальнейшее развёртывание Astra — внутренней модели, которая стала первой в истории компании, преодолевшей порог критической киберугрозы в её системе безопасности. Это означает, что эксперты по оценке пришли к выводу: модель способна автономно обнаруживать и эксплуатировать ранее неизвестные уязвимости программного обеспечения. Приостановка необычна для отрасли, где оценки возможностей, как правило, публикуются уже после выпуска модели, а не служат основанием для задержки. OpenAI не объявила о сроках возможного возобновления развёртывания и не сообщила, какие технические меры по снижению рисков рассматриваются.

Первые китайские правила для ИИ-компаньонов закрывают сервисы персонажей для миллионов

Нормативные требования, вступившие в силу 15 июля, обязали две крупнейшие китайские платформы ИИ-компаньонов отключить настраиваемые функции персонажей, позволявшие пользователям выстраивать долгосрочные отношения с именованным, постоянным ИИ-персонажем. Правила — первые подобного рода в мире — направлены на устранение рисков эмоциональной зависимости, причём особую обеспокоенность вызывали несовершеннолетние, оказавшиеся среди наиболее активных пользователей. Обе платформы подтвердили соответствие требованиям, пока инженерные команды работают над переработанными функциями, которые удовлетворяли бы новым требованиям; затронуты десятки миллионов аккаунтов.

Разработанные ИИ бактериофаги уничтожают антибиотикоустойчивые бактерии в лабораторных испытаниях

Исследователи из Стэнфорда использовали геномно-масштабные языковые модели Evo1 и Evo2 для создания последовательностей бактериофагов-кандидатов — вирусов, поражающих бактерии, а не людей — после чего синтезировали и протестировали результаты в лаборатории. Из примерно 300 кандидатов, созданных ИИ, 16 дали полноценно функционирующие вирусы, способные заражать и уничтожать антибиотикоустойчивые штаммы E. coli. Это первый случай, когда организмы, созданные ИИ, прошли весь экспериментальный путь — от последовательности до живого, эффективного агента. Группа опубликовала результаты вместе с предупреждением о том, что рамки управления в области биобезопасности были разработаны для химического и биологического оружия, а не для новой биологии, создаваемой ИИ, и пока не успели за этими изменениями.

SK Hynix выделяет 38 миллиардов долларов на новые заводы по производству памяти для ИИ

Южнокорейская SK Hynix объявила о плане капитальных затрат в размере 54 триллионов вон (38 миллиардов долларов) на новые производственные предприятия, предназначенные для памяти с высокой пропускной способностью и DRAM следующего поколения — архитектур памяти, занимающих центральное место в ускорителях ИИ. Это крупнейшее капитальное обязательство в истории компании и наибольшие ИИ-специализированные инвестиции среди корейских производителей чипов. Новые заводы не начнут производство раньше 2028 года, причём часть мощностей вступит в строй лишь в 2029-м — это наглядно показывает, сколько времени требует строительство физической инфраструктуры ИИ даже при наличии немедленно доступного финансирования.

Siemens публикует рекордную промышленную прибыль на фоне роста спроса, обусловленного ИИ

Siemens сообщила о квартальной промышленной прибыли в размере 3,52 миллиарда евро, что на 25 процентов выше по сравнению с аналогичным периодом прошлого года и является наивысшим показателем в истории компании. Рост обусловлен главным образом спросом на электрическую инфраструктуру — коммутационные аппараты, системы распределения электроэнергии, системы охлаждения центров обработки данных, — необходимую объектам ИИ. Немецкий промышленный концерн также объявил об инвестициях в размере 200 миллионов долларов в два новых американских производственных предприятия по выпуску электрических компонентов для центров обработки данных, которые, по ожиданиям, создадут более 1 500 рабочих мест. Эти результаты напоминают: аппетит ИИ к электроэнергии и охлаждению распространился далеко за пределы уровня чипов — вплоть до тяжёлой промышленности.

Трамп и Конгресс конфликтуют по поводу обязательных аудитов безопасности ИИ

На этой неделе Белый дом отверг двухпартийные законодательные предложения, которые обязали бы разработчиков ИИ представлять модели на обязательные аудиты безопасности перед коммерческим развёртыванием. Президент Трамп охарактеризовал подобное законодательство как угрозу вытеснения отрасли с рынка, тогда как сторонники из обеих партий утверждали, что добровольные обязательства дали непоследовательные результаты в сфере безопасности. Собственная система политики ИИ администрации освобождает модели с открытыми весами от поддерживаемых ею добровольных обязательств по тестированию — исключение, которое критики называют делающим систему неэффективной для всё большей доли рынка.