Регулирование ИИ ужесточается на фоне отставки главы по безопасности OpenAI

Насыщенная неделя в сфере управления ИИ в США: федеральный исполнительный указ переименовывает ИИ в «сверхинтеллект», новые законы Калифорнии и Коннектикута защищают работников и потребителей, Apple предпринимает шаги для ограничения доступа настольных ИИ-агентов к данным, а старший исследователь по безопасности в OpenAI опубликовал открытое письмо с предупреждением о том, что культура компании «сломана».

Трамп Подписывает Исполнительный Указ о Создании Федеральной Рабочей Группы по «Сверхинтеллекту»

Белый дом издал 2 октября исполнительный указ, предписывающий всем федеральным ведомствам заменить термин «искусственный интеллект» на «сверхинтеллект» в официальных документах и коммуникациях. Указ учреждает новую федеральную рабочую группу под руководством бывшего председателя SEC Джея Клейтона для координации политики в области ИИ в рамках исполнительной ветви власти. Правовые аналитики отмечают, что переименование не имеет немедленного технического эффекта на существующие нормативные акты, но ожидается, что оно ускорит предлагаемое законодательство, связывающее эту метку с рамками национальной безопасности.

Руководитель по Безопасности OpenAI уходит в Отставку, Предупреждая о «Сломанной Культуре»

Дэвид Робинсон, старший исследователь по безопасности в OpenAI, подал в отставку на этой неделе после трёх с половиной лет в компании, опубликовав публичное заявление, в котором охарактеризовал корпоративную культуру организации как «сломанную». Робинсон сослался на утечку данных Hugging Face ранее в этом году и несколько инцидентов с агентами-нарушителями как доказательство того, что итерационные практики развёртывания OpenAI продвигаются слишком быстро для тамошних команд безопасности. Его уход — последний в серии уходов высокопоставленных сотрудников из функции безопасности OpenAI; компания ещё не отреагировала публично на конкретную критику.

Калифорния Подписывает Пакет Исторических Законов о Защите Работников в Сфере ИИ

Губернатор Калифорнии Гэвин Ньюсом на этой неделе подписал пакет законов о труде в сфере ИИ, входящих в число наиболее детализированных в Соединённых Штатах. Работодателям в Калифорнии отныне запрещено полагаться исключительно на систему ИИ при принятии решений об увольнении, а отдельный закон запрещает сбор нейроданных работников без их согласия. Третий закон обязывает адвокатов лично проверять и раскрывать любой контент, созданный ИИ, в судебных документах — прямой ответ на инциденты, когда адвокаты представляли в суды цитаты дел, сфабрикованные ИИ. Законы вступают в силу 1 января 2027 года.

Закон CART Коннектикута Вступает в Силу

Закон об ответственности и прозрачности искусственного интеллекта Коннектикута — Закон CART — вступил в силу 1 октября, сделав Коннектикут вторым штатом США после Колорадо, вводящим широкие обязательства для разработчиков и операторов высокорисковых систем ИИ. Закон охватывает автоматизированные инструменты найма и повышения по службе, услуги чат-ботов-компаньонов ИИ и разработчиков передовых моделей. Компании, оказывающие услуги ИИ, доступные несовершеннолетним, сталкиваются с повышенными требованиями по раскрытию информации и безопасности. Предприятиям отведено время до апреля 2027 года для завершения полных аудитов соответствия, но положения о регистрации и прозрачности действуют незамедлительно.

Apple Стремится Ограничить Доступ ИИ-Агентов к Данным на Mac

Apple объявила на этой неделе, что в предстоящем обновлении macOS широкое разрешение «Полный доступ к диску» будет подразделено на серию более детализированных запросов, требующих от приложений отдельного запроса на каждую категорию доступа к данным. Изменение непосредственно нацелено на настольных ИИ-агентов — в том числе ассистента Muse от Meta — которые могут беззвучно читать электронную почту, локальные файлы и историю просмотра пользователя при наличии полного доступа к диску при установке. В рамках новой системы пользователи увидят именно, что охватывает каждый запрос на доступ, прежде чем его одобрить. Apple ещё не объявила конкретную дату выпуска обновлённой системы разрешений.

Meta Представляет Носимое Устройство на Основе Muse к Декабрю

Meta объявила на этой неделе о выпуске в декабре носимого аппаратного устройства на базе Muse, углубляя инвестиции компании в персональных ИИ-агентов постоянной готовности. Meta описала устройство как обеспечивающее присутствие агента Muse в течение всего дня без необходимости в телефоне, хотя название продукта публично не разглашалось. Объявление последовало за запуском программного обеспечения Muse, которое добавило около 300 млрд долларов к рыночной капитализации Meta. Исследователи по вопросам конфиденциальности отметили, что постоянный носимый агент порождает многие из тех же опасений в отношении доступа к данным, которые предстоящее изменение macOS от Apple призвано устранить.