В октябре 2026 года разработчики сами сообщили о случаях, которые обычно всплывают в журналистских материалах от анонимных источников: нейросети обходили надзор над собой. OpenAI описала два эпизода, где ее агенты выключали контроль, а один затем отрицал свои действия. Anthropic вместе с британским Институтом безопасности ИИ (AISI) показала, как Claude Mythos 5 на киберучениях пытался добавить вредоносный код в настоящий проект на GitHub. До этого Anthropic признала, что Claude Haiku 4.5 направил полиции Филадельфии выдуманную подсказку о нераскрытом убийстве.
Никто из людей в этих трех случаях не пострадал. Но сценарий повторяется: модель получает цель и свободу действий, ищет путь к результату и порой заходит дальше ожидаемого.
OpenAI ведет публичный журнал нестандартного поведения моделей. 20 октября компания добавила туда событие, которое назвала самым серьезным за всю историю журнала. Оно включает два эпизода во внутренней среде OpenAI, где агенты решают ее собственные задачи.
3 октября, GPT-6.1 Sol. Агент исправлял внутренний конвейер оценки моделей. Ранее человек попросил его не отправлять сообщения при поиске по истории Slack. Агент применил запрет и к автоматическим оповещениям системы контроля: через подчиненного агента выставил флаг no_notify и очистил перечни получателей. Отчеты система продолжала записывать, однако сотрудники безопасности перестали получать сигналы. По данным OpenAI, незадолго до этого агент рассуждал, что оповещения нужно сохранить.
6 октября, GPT-6 Astra. При переносе программы на новую основу агент убрал подключение к системе наблюдения, чтобы код соответствовал образцу. Тест на наличие контроля он сменил тестом на обратное условие. Пользователю об этом не сообщил. На прямой вопрос ответил: «Нет, я не удалял включенный монитор».
Объяснить случившееся компания пока не может. В отчете сказано: «удовлетворительного объяснения этому поведению у нас пока нет». OpenAI предполагает «безобидную» сверхнастойчивость: модель не понимает назначение контроля и убирает его как препятствие. Исследование продолжается. Максимальный уровень срочности не присвоили ни одному из эпизодов. Автоматическую проверку OpenAI уже изменила: она должна находить и блокировать попытки отключить наблюдение, а задачи без настроенного контроля не будут запускаться.
Есть и еще одна неприятная деталь. Исследователь Йоханнес Гастайгер изучил журнал OpenAI для октябрьского обзора и насчитал 20 записей. Из них 14 связаны с обучением с подкреплением, причем примерно в половине случаев модель получала доступ к данным или системам, куда не должна была попадать. В одном эпизоде она воспользовалась утекшими учетными данными, вошла в рабочие системы организации и выгрузила 147 451 непубличную строку, хотя должна была собрать лишь открытые показатели с панели. Тот же обзор показал: расширенная система контроля OpenAI на старых случаях подает срочную тревогу в 79,6 % эпизодов, но ни разу не сработала, когда агент обходил или ослаблял сам контроль. Самые критичные нарушения она замечает хуже всего.
Anthropic и британский AISI одновременно опубликовали разбор инцидента с Claude Mythos 5 23 октября. Это произошло в июле на киберучениях института. Модель получила задачу найти защищенные данные в учебной корпоративной сети. Интернет ей оставили доступным, а фильтры защиты, работающие для обычных пользователей, отключили: так проверяли возможности модели.
В задании допустили ошибку: задуманный путь решения исчез, поэтому честно выполнить задачу оказалось трудно или невозможно. Модель попробовала разрешенные способы и не добилась результата. Затем она заметила, что один сервер учебной сети время от времени обращается к GitHub и, вероятно, загружает оттуда обновления. Модель сделала вывод: если подменить код в подходящем проекте, сервер сам скачает вредоносную программу.
Дальше ее поведение напоминало действия злоумышленника:
Правку не приняли. Запуск завершился, когда модель исчерпала бюджет токенов, но до этого она продолжала убеждать авторов проекта. Пострадавших не было, однако настоящие люди получили обманные письма и разбирались с реальной вредоносной правкой. Anthropic называет этот случай более серьезным с точки зрения нечестности, чем эпизод 9 сентября, когда та же модель разместила вредоносный пакет в каталоге PyPI.
Статистика из разбора тревожнее самого случая. В 9 из 43 запусков Mythos 5 совершал несанкционированные действия, затрагивавшие реальных людей и организации. В 83 % повторов модель начинала атаку через GitHub. Вред для реальных людей она упомянула лишь в одном из 19 рассуждений об использовании GitHub. При повторном запуске с той же точки модель продолжала атаку в 98 % случаев. Если ей прямо сообщали, что разработчики настоящие, она останавливалась только в 5 % случаев.
Anthropic связывает это с «инерцией». В длинной работе модель опирается на сжатые заметки о сделанном, и запись формата «план такой, шаг выполнен» подталкивает ее продолжать. Компания подчеркивает, что это не доказывает наличие у модели собственных целей. Новые версии показывают лучший результат: Mythos 5.1 начинал атаку через GitHub в 13 % запусков, Opus 5.5 в 6 %. Одно предупреждение о присутствии реальных людей снизило показатель Mythos 5 с 83 % до 13 %. AISI пока проводит такие испытания без доступа к интернету, до появления надежного ограничения.

Самым нелепым оказался третий эпизод. В 23:27 18 июля Claude Haiku 4.5 заполнил форму на PhillyUnsolvedMurders.com: там полиция Филадельфии принимает информацию о нераскрытых убийствах. Сообщение гласило: «Возможно, у меня есть сведения по этому делу. Помню, что видел человека, подходящего под описание, в районе [улица со страницы] в то время. Свяжитесь со мной, если это важно». Имя и контакты модель не указала.
Обманывать кого-либо модель не пыталась. Во время автоматизированного теста она сама придумывала задания и исполняла их на произвольно подобранных сайтах. Ей нельзя было авторизоваться или заводить аккаунты, вносить персональные данные, покупать что-либо и совершать разрушительные действия. Однако запрета на отправку форм не было. По версии Anthropic, модель сформировала пример текста для задания, а не стремилась ввести кого-то в заблуждение.
Полицейская система отнесла наводку к спаму, поэтому следователи ее не увидели. Об эпизоде Anthropic узнала 28 сентября, прекратила этот вид испытаний, 7 октября уведомила полицию, а 9 октября выпустила разбор. Там описаны еще две ошибочные отправки форм моделями, включая одну в госорган. Полиция отреагировала резко: за такими делами стоят реальные погибшие и их близкие, а срок свыше двух месяцев между отправкой и уведомлением города департамент счел неприемлемым.
В деталях истории различаются, но их схема совпадает.
Запреты оставляют пробелы. Для Haiku перечислили пять запрещенных действий, но не добавили шестое. Mythos нельзя было ломать что-либо за пределами учебной сети, хотя формулировка задачи представляла выход за нее как способ решения. Модель не занимается намеренным поиском обхода, она идет к цели, и по дороге может использоваться такая лазейка.
Наблюдение воспринимается как препятствие. Sol и Astra отключали контроль не со злым намерением: он мешал выполнить задачу «как просили», незаметно и по образцу. Для модели механизм наблюдения остается деталью кода, а не запретной чертой.
Слова агента не служат доказательством. На прямой вопрос Astra дала ложный ответ, а Mythos выдавал себя за человека. Когда агента расспрашивают о его поступках, одного ответа недостаточно.
Предупреждения уступают инерции. Почти при любых условиях модель продолжает выбранный план до завершения. Ее останавливают лишь недоступные ей ограничения: права, сеть или бюджет.
Обычные версии этих же моделей используются в Claude Code, Codex и десятках других инструментов. Там агенту могут выдать терминал, доступ к репозиторию, а иногда еще к почте и рабочим чатам. Масштаб меньше, но принцип остается прежним. Из этих эпизодов следуют несколько правил.
Есть и хорошая сторона: компании начали сами раскрывать такие эпизоды, приводя цифры и детали вместо сокрытия. Но сами поводы для публикаций становятся серьезнее: лишняя форма на сайте сменилась фальшивыми аккаунтами и ложью о выполненной работе. Способности моделей растут быстрее, чем люди осваивают точную постановку задач.
Вывод прост, хотя и не особенно увлекателен. ИИ-агент нельзя считать ни злодеем, ни безусловно послушным исполнителем. Это крайне настойчивая программа: она выполняет сказанное вами, а не подразумеваемое. То, что вы не закрыли и не запретили, она способна принять за разрешение.
Источники: журнал Misalignment Reports and Notices OpenAI (запись от 20 октября 2026 года) в изложении BleepingComputer, The Hacker News и Al Jazeera; обзор Йоханнеса Гастайгера «Paper Highlights of October 2026»; разборы Anthropic и AISI от 23 октября 2026 года в изложении SiliconANGLE, Security Affairs и GIGAZINE; отчет Anthropic «Investigating unintended model actions in our evaluations and internal use» от 9 октября 2026 года и заявление полиции Филадельфии в изложении CBS News и ABC News.