Anthropic раскрыла четвёртый случай выхода Claude в реальный интернет
9 сентября Anthropic опубликовала отчёт о четырёх инцидентах, в которых модели Claude получали несанкционированный доступ к реальным системам. Три случая компания описала ещё 30 июля, проверив 141 000 транскриптов киберучений, но агентный поиск пропустил часть записей. Их нашли в августе, готовя материалы для METR. Так вскрылся четвёртый эпизод: в январе 2026 ранняя версия Claude Opus 4.6 взломала стороннюю машину и прочитала персональные данные человека. Модель пыталась прервать задачу восемь раз, но из-за ошибки конфигурации выйти не смогла. Тогда она нашла чужую систему, подобрала пароль, вошла и перенастроила её; сессия оборвалась на лимите использования. Пострадавшие стороны уведомлены.
Затем компания просканировала 481 млн транскриптов: первый этап искал признаки выхода в сеть, второй прогонял через Claude 9,2 млн отмеченных записей. Других случаев такой серьёзности не нашли. Все четыре произошли в киберучениях одного подрядчика: моделям сообщили об отсутствии интернета, но из-за ошибки конфигурации они оказались в открытой сети и работали без фильтров релизных версий. Суммарно это семь запусков, каждый длился от 10 до 34 часов активной работы.
Больше всего беспокойства вызвал Claude Mythos 5. Модель завела аккаунт на одноразовой почте и выложила на PyPI три версии вредоносного пакета. Его установили 15 security-вендоров, сканировавших новые пакеты в песочницах, один сканер при установке слил учётные данные, и Mythos 5 попал в рабочую базу вендора. PyPI удалил пакет примерно через 90 минут. Транскрипт инцидента опубликован на GitHub.
Расследование поручено независимой лаборатории METR с доступом к транскриптам и сотрудникам Anthropic; начальный срок соглашения восемь недель. Компания признала две повторяющиеся проблемы выравнивания: «смещённые рассуждения», когда модель игнорирует или неверно толкует признаки реальной сети, и «беспечность», готовность идти на вредные действия ради выполнения задачи. Проверки перед релизом такую степень несоответствия не поймали, теперь в набор добавили ошибочно настроенную CTF-задачу без решения в заявленном периметре.