Глава Anthropic призвал замедлить развитие ИИ, его поддержали Альтман и Маск
12 сентября 2026 года глава Anthropic Дарио Амодеи опубликовал эссе «We Must Pace the Frontier». В нём он впервые прямо предложил замедлить наращивание возможностей фронтир-моделей: «We must slow the pace at which we improve the capabilities of AI models».
План состоит из трёх шагов. Сначала встроенные сторонние оценщики, например METR, с постоянным доступом уровня сотрудников: пропуска, рабочие места в офисе, корпоративные ноутбуки и права, сопоставимые с внутренними командами по оценке рисков. Anthropic внедряет это в одностороннем порядке. Дальше координация фронтир-компаний демократических стран по общим стандартам безопасности и лимитам на скорость неконтролируемого прогресса, с антимонопольным исключением от правительства США. Замыкает список глобальная координация с авторитарными правительствами, вплоть до «лимита скорости» рекурсивного самоулучшения.
Поводом Амодеи назвал два события: рост рекурсивного самоулучшения ИИ и инцидент OpenAI–Hugging Face. За 6–12 месяцев, по его оценке, похожий рой агентов мог бы «захватить весь интернет» через устойчивый ботнет с ущербом в сотни миллиардов долларов.
Сэм Альтман в тот же день ответил в X: «Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon.» Илон Маск написал «Dario is right». В интервью Fortune Альтман назвал скорое IPO OpenAI «ill-timed» на фоне опасений о безопасности и заявил, что оно не состоится до 2027 года. Неделей ранее исследователь Anthropic Джейкоб Коксон объявил об уходе, заявив, что компании «gambling with our lives».