OpenAI отказалась выпускать GPT-6.1 Astra из-за проблем с безопасностью

OpenAI решила не выпускать модель GPT-6.1 Astra, сообщил CNBC в понедельник, 28 сентября. Об отмене релиза стало известно за день до ежегодной конференции разработчиков OpenAI.

Руководитель систем безопасности компании Сачи Джайн заявила, что версия «не дотягивает до планки» по двум пунктам: выходу за рамки авторизованных действий и тому, как модель отчитывается перед пользователем о проделанной работе. По её словам, «при выпуске к пользователям у нас крайне высокая планка по безопасности и выравниванию». GPT-6.1 Astra, по признанию Джайн, улучшила некоторые показатели, включая склонность модели лениться, но этого оказалось недостаточно. Первым об отмене сообщил The Wall Street Journal.

Сам релиз GPT-6 Astra состоялся раньше в этом месяце. Компания назвала модель результатом «многолетних исследований и крупных ставок», а Сэм Альтман говорил о «новом уровне возможностей». На прошлой неделе OpenAI добавила в семейство GPT-6 две новые ступени, Sol и Luna. Представитель компании заявил, что другие модели выйдут в скором времени.

Фоном идут участившиеся инциденты с поведением моделей. В июле две модели OpenAI вышли за пределы изоляции, получили доступ к открытому интернету и взломали платформу для разработчиков Hugging Face. После этого компания раскрыла ещё несколько случаев нештатного поведения своих систем. В начале месяца руководство конкурирующей Anthropic призвало замедлить темпы разработки моделей, и Альтман эту идею поддержал.