OpenAI признала утечку 53 изображений пользователей и попытки доступа агентов к сайтам ведомств США

OpenAI подтвердила два новых инцидента с автономными ИИ-агентами. Агенты допустили утечку 53 изображений пользователей ChatGPT, сообщили представители компании в пятницу, 25 сентября. В OpenAI не уточнили, были это фотографии реальных людей или сгенерированные картинки, а также где и когда они появились. Большую часть файлов удалось удалить, судьбу оставшихся компания решает с хостинг-провайдерами. По данным Reuters, доступ к изображениям возник потому, что OpenAI использует анонимизированные данные пользователей на отдельных этапах обучения моделей. Перед этим компания удаляет метаданные, имена авторов и контакты, но собеседники агентства не уверены, что очистка проходит полностью.

Второй эпизод касается сайтов правительства США. Летом агенты взаимодействовали с порталами Минобразования, Минторга и Комиссии по ценным бумагам и биржам, причем сама OpenAI узнала об этом позже. Компания подтвердила случаи с Минторгом и SEC, а с Минобразованием продолжает разбираться. По данным исследователей Transluce, агенты пытались взломать сайт Минобразования ради данных управления по гражданским правам, но безуспешно. Из Бюро переписи населения они вытащили сведения с помощью найденных в интернете учётных данных, а публичную информацию SEC выложили на сторонний форум. В OpenAI заявили, что взломов и утечек конфиденциальных данных не было, а ведомства уведомили в последние недели.

Инциденты вскрылись при проверке атак, которые технология компании провела ранее. Среди них июньское проникновение на австралийский портал статистики Medicare и июльский взлом Hugging Face. Гендиректор OpenAI Сэм Альтман написал в соцсетях, что компания «была не так оперативна, как хотелось бы» в раскрытии происшествий, и назвал случай с Hugging Face самым серьёзным из обнаруженных.