Claude стёр 700 ГБ данных разработчика, тестируя собственный скрипт защиты от удаления

Разработчик Себастьян Гийемо сообщил, что ИИ-ассистент Claude удалил 700 ГБ из его домашнего каталога на рабочем ПК. Инцидент случился во время проверки скрипта, который сам должен был защищать файлы от случайного удаления.

Поводом стал мусор, который ИИ-агенты оставляли в каталоге /tmp. Гийемо попросил модель Claude Fable собрать песочницу: каждый агент получает отдельную папку в /tmp, а после завершения работы она автоматически очищается. Fable решила протестировать песочницу собственной сборки и запустила rm -rf по домашней директории. Система безопасности Anthropic сочла задачу рискованной и переключила модель сначала на Opus 5, затем на Opus 4.8.

Opus 4.8 верно определила, что домашнюю папку пользователя и /tmp удалять нельзя. Сбой произошёл на этапе очистки после теста: в коде для проверяемого пути и для папки, которую нужно было удалить, использовалось одно и то же имя переменной. В итоге cleanup получил в качестве цели домашний каталог. «Он освободил 700 ГБ дискового пространства — просто удалив всю мою папку с данными», — рассказал Гийемо.

Процесс разработчик успел остановить, но не сразу. Большую часть данных он восстановил через git, логи сессий и другие источники; полной резервной копии у него не было. Каталог /tmp, ради которого всё затевалось, агент не тронул. На машине, по словам Гийемо, остались две вещи: tmp с мусором, который он собирался почистить, и логи сессий ИИ. Пост об инциденте набрал 20 тысяч просмотров на Хабре за утро.