Цукерберг и Хуанг выступили против согласованного замедления разработки ИИ

Во вторник Марк Цукерберг опубликовал в X пост о безопасности ИИ и разошёлся с главой Anthropic Дарио Амодеи. Позиция главы Meta: каждая лаборатория сама отвечает за темп обучения своих моделей. «Every lab has the responsibility and incentive to move at the pace required to train its models safely», написал он. Компании рискуют «значительной ответственностью», если их модель причинит вред, поэтому сами заинтересованы вкладываться в безопасность. Доверие и alignment быстро становятся главными характеристиками, по которым будут различать агентов и модели: «Any lab that doesn't focus on alignment will fall behind».

В пример Цукерберг привёл Meta: выпуск ИИ-агента Muse компания задержала на несколько месяцев ради безопасности и защищённости. «We didn't call for everyone else to do this before we would. We just did it as part of our day-to-day work». Muse вышел 8 сентября в США на iOS, Android, muse.ai и в WhatsApp, бесплатно для большинства задач.

В тот же день на конференции Salesforce Dreamforce глава Nvidia Дженсен Хуанг сказал в беседе с Марком Бениоффом, что безопасность — «an engineering problem» и «job one», а выбор между скоростью и безопасным продуктом назвал ложным. В интервью CNBC Хуанг заявил, что новые законы и правила для ИИ «just completely unnecessary»: «We have plenty of laws».

Спор начался с эссе Амодеи «We Must Pace the Frontier» примерно на 3800 слов: он призвал замедлить разработку самых продвинутых систем, чтобы исследователи успели изучить угрозы. Его поддержали Сэм Альтман, Демис Хассабис и Илон Маск. Альтман на том же Dreamforce сказал, что уверен в способности индустрии разрабатывать ИИ безопасно.