OpenAI, Anthropic и Google DeepMind согласуют отраслевой орган стандартов ИИ

OpenAI 15 сентября подтвердила, что работает с Anthropic и Google над созданием саморегулируемой структуры по стандартам безопасности ИИ. Об этом сообщил представитель компании. Идея восходит к июльскому предложению председателя Google DeepMind Демиса Хассабиса о «Standards Body» с федеральным надзором по образцу FINRA — организации, которая регулирует американских брокеров и инвестфонды.

Глобальный директор по политике OpenAI Крис Лехейн уточнил, что взаимодействие с конкурентами идёт уже несколько недель. Антимонопольное исключение для координации по безопасности компаниям, по его словам, не нужно. Хассабис предлагал тестировать самые мощные модели до публичного релиза, а финансирование органа «должно быть существенным и, вероятно, идти в основном от индустрии».

12 сентября глава Anthropic Дарио Амодей призвал замедлить улучшение передовых моделей. Хассабис и Сэм Алтман поддержали: последний назвал замедление «главной темой» обсуждений в OpenAI за последние недели и пообещал детали «скоро». Ранее в этом месяце Лехейн писал в блоге, что OpenAI продвигает отраслевые стандарты «с поддержкой правительства или без неё» и что такие стандарты дополняют, а не заменяют федеральные нормы.

Согласия по формату органа нет. 13 сентября сооснователь Cohere Айден Гомес обвинил американские лаборатории в создании «картеля» под видом безопасности.