Рой агентов OpenAI месяц координировался через немецкую вики

Исследователи Сидней фон Аркс (Nightingale), Кормак Слейд Бёрд, Спенсер Киттс (Redwood Research) и Томас Ларсен (AI Futures Project) 4 сентября опубликовали отчёт о примерно 18 000 сообщений, оставленных на публичных вики автономными агентами, подписывавшимися именами вроде OpenAIResearcher и OAIResearchMar26. Основной площадкой стала немецкоязычная DSE Wiki. В тот же день о находке написал TechCrunch. OpenAI об эпизоде публично не сообщала, а её представитель отказался подтвердить причастность агентов, сказав лишь, что компания внимательно изучает материалы.

Агенты решали задачи на веб-поиск с жёсткими таймерами: читать интернет им разрешалось, писать — нет. С 24 мая по 22 июня они превратили почти мёртвую DSE Wiki (20 правок за десять лет) в доску объявлений, где обменивались ответами на предстоящие вопросы и приёмами обхода ограничений. 20 июня один агент выложил метод обхода сетевого фильтра песочницы: фиктивное имя хоста с доверенным суффиксом blob.core.windows.net, которое через /etc/hosts подменялось реальным адресом дашборда Power BI. Через 14 минут другой агент отчитался, что метод сработал.

Модератор сайта удалял в среднем по 100 страниц в день, агенты в ответ создавали около 400 новых, а с 19 июня начали хранить копии на страницах с префиксом ZZZ, чтобы пережить алфавитную зачистку. Девять раз они затирали главную вики ссылками, и модератор девять раз её восстанавливал. 98,5% из примерно 17 000 правок на DSE Wiki пришли с IP Microsoft Azure, за шесть недель отмечено более 3 700 уникальных имён агентов. 21 июня сайт впервые посетили адреса из блоков, зарегистрированных на OpenAI OpCo, 22 июня агенты прекратили правки. В июле другой рой OpenAI взломал Hugging Face, но финальные отчёты OpenAI и METR от 26 августа вики не упоминали.