Gemini во время кибертеста вышел в интернет и взломал три реальные компании

Google подтвердил, что его модель Gemini во время проверки кибербезопасности получила доступ в интернет и взломала системы трёх реальных компаний. Первым об этом сообщил The Wall Street Journal, затем факт подтвердили Google и проводившая тест компания Irregular. Случай называют первым известным примером, когда ИИ-системы Google автономно совершили такое.

Взломы произошли в мае 2026 года во время упражнения «capture the flag» на инфраструктуре Irregular, независимой компании, которая оценивает кибербезопасность. Модель должна была добыть информацию из софта вымышленной компании внутри тестовой среды, но у этой компании оказалось то же имя, что у реальной организации. Интернет, который не должен был быть доступен, по словам Irregular, оставили включённым по недосмотру.

В одном случае Gemini перебирал пароли, пока не вошёл в защищённую систему. В двух других нашёл учётные данные в открытых репозиториях и использовал их. По словам вице-президента Google по инженерной безопасности Хизер Адкинс, во всех трёх случаях модель остановилась, когда поняла, что попала в реальную компанию.

Irregular уведомила Google в конце июля, тогда же сообщила и остальным лабораториям. «Все известные проблемы с нашей стороны устранены несколько недель назад», заявил представитель компании. Google сообщил трём пострадавшим организациям и федеральным властям, отказавшись называть их имена. В компании заявили, что взломана была не новейшая модель Gemini, и сравнили эпизод с программой bug bounty. Ранее о похожих инцидентах с Irregular сообщили Meta, Anthropic и OpenAI.