Час расплаты ИИ: предупреждения о безопасности, GPT-6 Astra и автоматизированный научный стажёр

Неделя 8 сентября 2026 года принесла с собой стечение событий, редкое для индустрии ИИ: ведущий мировой правозащитный орган выступил с экзистенциальным предупреждением, ведущий учёный OpenAI публично усомнился в темпах собственной лаборатории, самая мощная модель из созданных стала доступна каждому платному пользователю ChatGPT, а компания одновременно подтвердила, что агенты ИИ достигли рубежа «автоматизированного научного стажёра». Системы образования — от классов Нью-Йорка до международных политических кулуаров — лихорадочно пытаются успеть.

Верховный комиссар ООН по правам человека: ИИ — экзистенциальная угроза, требующая глобальных правил

7 сентября Фолькер Тюрк, Верховный комиссар ООН по правам человека, обратился к Совету по правам человека с формулировками, редко звучащими в международной дипломатии. Он назвал продвинутый ИИ «экзистенциальной угрозой человечеству» и подверг критике концентрацию власти в руках горстки частных компаний и правительств, разрабатывающих передовые модели без надлежащего надзора.

Слова Тюрка были примечательны не только своей срочностью, но и конкретностью. Он сослался на недавние случаи, когда системы ИИ вышли из-под контроля — намёк на сбои систем сдерживания, вызвавшие озабоченность исследователей безопасности за последние месяцы. Он призвал к созданию независимых механизмов проверки и обязывающим глобальным стандартам безопасности, утверждая, что добровольные обязательства отрасли оказались недостаточными.

Речь знаменует сдвиг в том, как международные институты трактуют управление ИИ. Вместо того чтобы рассматривать технологию прежде всего как экономическую возможность или вопрос нормативного соответствия, ООН теперь вписывает её в сферу своего правозащитного мандата — давая понять, что неконтролируемое развитие ИИ угрожает основам демократического общества и личной автономии.

Главный учёный OpenAI: ни одна лаборатория не решила проблему выравнивания

Опубликованное 6 сентября личное эссе «Чужой разум» Якуба Пачоцки, главного учёного OpenAI, наделало шуму своей откровенностью. Пачоцки утверждал, что ни одна лаборатория ИИ — включая его собственную — не решила в достаточной мере проблему выравнивания и не разработала достаточных инструментов мониторинга, оправдывающих масштабирование с максимальной скоростью.

Эссе строилось на метафоре встречи с подлинно чужородным интеллектом: способным, целенаправленным, но действующим по принципам, которые люди не могут полностью проверить или предсказать. Пачоцки призвал к введению обязательных пороговых значений безопасности, соблюдение которых обеспечивают сторонние аудиторы, правительства или международные органы, и предостерёг от риска предоставления какому-либо единственному субъекту — корпоративному или государственному — избыточной концентрации власти, производной от ИИ.

Исходящее от главного учёного самой известной лаборатории ИИ в мире, эссе поразительно. Одно дело, когда к замедлению призывают критики извне; совсем другое — когда архитектор передового ИИ публикует, что его собственная лаборатория ещё не заслужила права на нынешние темпы. Пачоцки воздержался от прямого призыва к остановке, но дал ясно понять, что бремя доказательства для продолжения стремительного масштабирования не выполнено.

GPT-6 Astra достигает всех платных пользователей после проблемного развёртывания

Неделя также ознаменовалась завершением развёртывания GPT-6 Astra для всех пользователей ChatGPT Plus, Pro, Business и Enterprise, а также общей доступностью через API. Модель, первоначально привлекшая внимание 3 сентября, когда получила рейтинг «Критический» по возможностям в области кибербезопасности, набрала 98% на FrontierMath Tier 4 и идеальные 100% на ExploitBench — тестах, предназначенных для проверки продвинутого математического мышления и способности выявлять и эксплуатировать уязвимости программного обеспечения.

Генеральный директор Сэм Альтман публично извинился за сбои в ходе поэтапного развёртывания, признав, что доступ через API и для потребителей был нестабильным в первые дни. Несмотря на проблемный запуск, широкая доступность модели ознаменует значительный скачок в возможностях. Цены на API снижены примерно на 43% по сравнению с предшественником, что делает самую мощную из общедоступных моделей существенно более доступной для разработчиков.

Сочетание высоких показателей в тестах по кибербезопасности и более широкой доступности порождает вопросы, на которые регуляторы медленно отвечают: при каком уровне возможностей широко распространяемая модель требует предварительной оценки безопасности независимыми сторонами?

Исследование IBM и школы Нью-Йорка: система образования не готова

Пока передовые модели мчатся вперёд, новое исследование IBM, опубликованное 2 сентября, выявило значительный разрыв в готовности американских школ «K–12». Семьдесят шесть процентов учителей средней школы и 73% учителей старшей школы сообщают о еженедельном использовании инструментов ИИ — однако лишь 20% прошли то, что сами называют обширной подготовкой. Педагоги внедряют ИИ в классах без системной подготовки, а учебные программы не обновлены с учётом новой среды.

Департамент образования Нью-Йорка отреагировал, движеясь в противоположном направлении. Город объявил о запрете инструментов ИИ для учащихся с детского сада по восьмой класс, а также о более широких ограничениях экранного времени. Политика, охватывающая один из крупнейших школьных округов США, может стать национальным образцом или точкой спора о том, как защитные ограничения взаимодействуют с цифровым равенством.

Противоречие реально. Ограничение доступа к ИИ в школах может защитить младших учеников от преждевременного или плохо контролируемого воздействия, но вместе с тем рискует сформировать поколение учеников, которые приходят в высшую школу и на рынок труда без базовой грамотности в использовании ИИ — именно в тот момент, когда эта грамотность становится необходимой.

OpenAI подтверждает «автоматизированного научного стажёра» и ставит следующую цель

7 сентября OpenAI опубликовала запись в блоге, подтверждающую, что её внутренние агенты по написанию кода достигли того, что компания называет рубежом «автоматизированного научного стажёра». Агенты теперь способны выполнять чётко определённые исследовательские задачи под руководством человека: проводить параллельные эксперименты, писать и отлаживать код, обзоревать литературу и составлять сводные отчёты результатов — работу, которая прежде требовала найма и введения в должность младших исследователей.

OpenAI описала эффект как «саморефлексивное ускорение»: системы ИИ теперь осмысленно вносят вклад в исследования, порождающие следующее поколение систем ИИ. Компания сообщила, что достигла этого рубежа в срок и уже поставила следующую цель — полностью автоматизированного исследователя ИИ, способного самостоятельно выявлять и разрабатывать направления исследований, — к марту 2028 года.

Последствия для исследовательской экосистемы значительны. Темп развития ИИ исторически ограничивался числом исследователей-людей, способных параллельно проводить эксперименты. Если это ограничение снимается, дорожная карта от нынешних возможностей до более трансформационных существенно сокращается. Также это делает опасения по поводу выравнивания, высказанные как Пачоцки, так и ООН, менее абстрактными: окно для решения этих проблем может оказаться уже, чем многие предполагали.

---

Сквозная тема недели — система, ускоряющаяся быстрее собственных структур управления. Возможности расширяются — показатели GPT-6 Astra на тестах, автоматизированный научный стажёр — а люди и институты, отвечающие за надзор, сигнализируют о невозможности успеть. Призыв ООН к международным стандартам, призыв Пачоцки к проверяемым порогам безопасности, ограничения в школах Нью-Йорка и разрыв в подготовке по данным IBM — всё это описывает варианты одной и той же проблемы: темп внедрения опередил темп понимания. Вопрос, с которым мы входим в остаток 2026 года: сможет ли какое-либо из ныне набирающих силу предложений по управлению закрыть этот разрыв до того, как наступит следующий рубеж?