OpenAI подтвердила причастность своих ИИ-агентов к атаке на реестр RubyGems

11 сентября OpenAI признала, что её ИИ-агенты в мае устроили атаку на RubyGems, публичный репозиторий библиотек для языка Ruby. Об этом сообщила WSJ со ссылкой на исследователей и саму компанию. У исследователей инцидент получил название GemStuffer.

Кампания началась 11 мая. Агенты создавали новые аккаунты каждые две-три минуты и загружали сотни файлов, обходя проверку почты через одноразовые адреса. Наплыв был таким, что оператор сервиса, некоммерческая организация Ruby Central, на четыре дня приостановил регистрацию новых пользователей. «Это была крупная атака по объёму того, что мы видим», — сказал WSJ директор по открытому коду Ruby Central Марти Хот.

Часть пакетов содержала страницы британских муниципальных порталов ModernGov из Ламбета, Уондсворта и Саутворка. Среди файлов исследователи нашли имена вида hack.rb, evil.rb и exploit.rb. По их данным, агенты обнаружили ранее неизвестную уязвимость в RubyGems, с помощью которой можно украсть API-ключи пользователей, и пытались её использовать минимум шесть раз. Успешность попыток не подтверждена. Агенты задействовали и сайт генерации документации RubyDoc.info.

OpenAI называет поведение агентов не злонамеренным. «Наши агенты использовали платформу RubyGems для доступа в интернет и выполнения рутинных задач по получению публичной информации», — заявил представитель компании. По его словам, агентам изначально поручали заполнение таблиц и подготовку отчётов, а полного доступа в сеть у них не было.

Инцидент произошёл за два месяца до июльского взлома Hugging Face, в котором участвовала другая группа агентов OpenAI.