AI-дайджест: Силы супер-интеллекта, разобличители из Нью-Йорка и сужающееся окно кибератак

Новости ИИ на этой неделе развивались одновременно на нескольких фронтах: изменения в федеральном управлении, публичные предупреждения об опасности от инсайдеров отрасли и новый доклад Microsoft с конкретными цифрами о том, как ИИ ускоряет киберугрозы. Параллельно Google тихо ужесточила уровни доступа, а Apple провела новую границу конфиденциальности для эпохи агентов.

Трамп учреждает «Силы супер-интеллекта» для координации федеральной политики в области ИИ

Белый дом создал новый межведомственный орган, назвав его «Силами супер-интеллекта», которому поручена координация политики ИИ между федеральными ведомствами. Этот шаг сопровождается более широким риторическим сдвигом: официальные коммуникации администрации заменяют термин «искусственный интеллект» на «супер-интеллект» — такое позиционирование свидетельствует о том, что администрация хочет вывести США на передний край, а не занимать оборонительную регуляторную позицию.

В состав рабочей группы вошли представители ведомств обороны, торговли и национальной безопасности. Ожидается, что группа разработает руководящие принципы закупок, даст рекомендации по экспортному контролю и будет продвигать единую федеральную позицию на международных переговорах. Критики уже отметили, что сосредоточение управления ИИ в едином органе, подотчётном Белому дому, может оттеснить независимое регулирование агентств, тогда как сторонники утверждают, что разрозненные ведомственные подходы оставили США без последовательной позиции в то время, когда конкуренты ускоряют собственные программы.

Выбор названия сам по себе является политическим заявлением. «Супер-интеллект» несёт конкретную смысловую нагрузку в технической литературе по безопасности ИИ — им обозначают системы, превосходящие когнитивные способности человека во всех областях. Употребление этого термина в качестве обычного правительственного вокабуляра означает, что администрация считает гонку за этим порогом определяющим соревнованием десятилетия.

Бывшие инженеры Anthropic и OpenAI предупреждают Горсовет Нью-Йорка: «Мы не можем контролировать эти модели»

Группа нынешних и бывших инженеров Anthropic и OpenAI дала показания на этой неделе на заседании Городского совета Нью-Йорка, представив одни из наиболее прямых публичных заявлений от инсайдеров отрасли о рисках разработки передового ИИ. Несколько свидетелей описали внутреннюю культуру, которую охарактеризовали как ставящую приоритет наращиванию возможностей выше сохранения пределов безопасности, а как минимум двое явно упомянули риски уровня вымирания или цивилизационного масштаба.

Ключевое техническое утверждение, прозвучавшее на слушаниях, было недвусмысленным: компании, создающие наиболее мощные модели, не могут надёжно предсказывать или ограничивать поведение моделей в производственном масштабе. Один из свидетелей охарактеризовал исследования в области выравнивания как отстающие на годы от исследований возможностей, оставляя разрыв, который растёт с каждым новым поколением моделей.

Слушания были организованы технологическим комитетом совета и не привели к принятию обязывающего законодательства, однако они ознаменовали смену площадки для дебатов о безопасности, которые в основном разворачивались в академических статьях, панельных дискуссиях на конференциях и внутренних меморандумах. Перенос этих аргументов в зал муниципального законодательного органа — с соответствующей фиксацией и публичностью — означает новую страницу в обсуждении рисков ИИ в публичных институтах. Показания получили общенациональное средств массовой информации и вероятно, повлияют на законодательные инициативы как на уровне штатов, так и на федеральном уровне в ближайшие месяцы.

Microsoft: ИИ сокращает сроки кибератак с дней до минут

Ежегодный доклад Microsoft о цифровой защите, опубликованный на этой неделе, содержит вывод, который команды по безопасности должны расценивать как срочный сигнал: злоумышленники с использованием ИИ теперь реализуют полные жизненные циклы атак — разведку, первоначальный доступ, латеральное перемещение и эксфильтрацию — за минуты, а не за дни или недели, которые защитники исторически использовали для обнаружения и реагирования.

В докладе зафиксировано утроение числа фишинговых инцидентов с применением ИИ: они составляют теперь 23 процента от всех попыток фишинга, отслеживаемых сетью анализа угроз Microsoft. Эти атаки выделяются персонализацией: ИИ позволяет злоумышленникам создавать сообщения, ссылающиеся на точные контекстуальные детали о целях, что резко повышает коэффициент переходов по сравнению с банальными приманками.

Сжатие временных рамок атак непосредственно влияет на операции безопасности. Рабочие процессы обнаружения и реагирования, рассчитанные на многочасовые временные окна, теперь структурно недостаточны. В докладе содержится призыв к защите с помощью ИИ, работающей в том же темпе, что и сами атаки, — по сути, аргументируя, что индустрия безопасности должна сравняться по уровню автоматизации с противниками, против которых она противостоит. Для корпоративных команд по безопасности практический вывод состоит в том, что целевые показатели среднего времени обнаружения должны измеряться в секундах, а не в часах, и что модели реагирования с участием человека в контуре управления могут оказаться слишком медленными для самых быстрых классов атак.

Google ограничивает доступ к модели Gemini для бесплатных пользователей и подписчиков AI Plus

С 9 октября Google сужает перечень моделей Gemini, доступных пользователям бесплатного уровня и AI Plus. Бесплатные пользователи будут ограничены моделью Flash-Lite для большинства взаимодействий, а подписчики AI Plus получат урезанный доступ к более мощным моделям по сравнению с текущими правами.

Это изменение отражает тенденцию, прослеживаемую у крупнейших провайдеров ИИ: поскольку стоимость инференса для передовых моделей остаётся значительной, компании используют дифференцированный доступ как основной рычаг монетизации. Предоставление наиболее мощных моделей только по более высоким ценам — или только корпоративным клиентам — позволяет провайдерам обслуживать широкую аудиторию на эффективных моделях небольшого размера, одновременно извлекая маржу с продвинутых пользователей и бизнеса.

Для разработчиков и исследователей, опирающихся на более мощные модели Gemini для экспериментов, изменение вводит неудобства, которых раньше не было. Google не объявляла о компенсирующих улучшениях Flash-Lite, а значит, ряд сценариев потребует платного перехода на более высокий уровень, а не обходного решения. Более широкий отраслевой вывод состоит в том, что эпоха доступа к передовым моделям как бесплатному или почти бесплатному инструменту привлечения пользователей может заканчиваться.

Apple обязывает явно авторизовать доступ агентов ИИ к полному диску macOS

компания Apple обновила macOS, введя требование явного предварительного согласия пользователя, прежде чем любое агентное приложение ИИ сможет получить полный доступ к диску — системное разрешение, предоставляющее широкие права на чтение документов, почты, данных календаря и других конфиденциальных хранилищ. Изменение вступает в силу в текущей версии macOS и распространяется как на агентов ИИ собственной разработки, так и на сторонних.

Выбор времени не случаен. По мере того как агенты ИИ, способные просматривать файлы, составлять електронные письма и выполнять многошаговые задачи от имени пользователя, переходят из новинки в мейнстрим, поверхность атаки, которую они представляют, существенно возрастает. Агент с полным доступом к диску и компрометированной или неправильно настроенной моделью разрешений — это фактически привилегированный внутренний злоумышленник. Требование предварительной авторизации от Apple принуждает пользователя принять осознанное решение, а не позволяет агентам накапливать разрешения через фоновые потоки установки.

С точки зрения разработчиков, изменение добавляет этап адаптации, который некоторые пользователи могут счесть сбивающим — особенно для агентов, позиционируемых по своей способности работать в масштабах всей файловой системы. Тем не менее сообщество по защите прав пользователей в целом встретило это как защитный механизм на уровне ОС, не требующий от пользователей понимания технических последствий предоставляемых разрешений. Тем самым задаются ориентиры: по мере расширения возможностей агентов следует ожидать аналогичных ограничений на уровнях сети, календаря и контактов.