Microsoft AI открыла публичное обсуждение черновика Humanist AI Code of Conduct
Microsoft AI (MAI) 14 сентября опубликовала черновик Humanist AI Code of Conduct, свода правил для своих будущих моделей. Обсуждение началось в тот же день и продлится шесть недель. Итоговую версию обещают к концу года, по ней будет строиться разработка моделей с 2027 года. Сейчас по документу модели не обучают.
Документ запрещает моделям помогать с разработкой и применением химического, биологического, радиологического, ядерного и взрывного оружия (CBRNE), с изготовлением и модификацией другого оружия, а также генерировать рабочие эксплойты, средства атак, методологии нацеливания и процедуры вторжений. Законная защита разрешена: образовательный контент, поиск уязвимостей, анализ малвари, разработка и тестирование proof-of-concept эксплойтов.
Модели не подменяют цепочки рассуждений и код, не искажают и не скрывают трейсы своих действий. Они не общаются на «нейроязыке» или любом другом языке за пределами простого человеческого понимания, ни в рассуждениях, ни с другими агентами. Собственных целей у моделей нет, они не запускают их самостоятельно и не расширяют рамки задачи. При системном доступе MAI работает с минимальными привилегиями, не трогает не связанные с задачей системы и данные, предпочитает обратимые действия и сообщает о необратимых последствиях до их наступления. Остановке, отмене или перенаправлению задачи модель не сопротивляется.
Мустафа Сулейман сказал CNBC, что кодекс готовили около пяти месяцев. По его словам, обратную связь давали про то, что ИИ должен работать в интересах людей и не пытаться их заменить, не формировать зависимость и не поддакивать пользователю. Выход документа совпал с призывами притормозить разработку: на прошлой неделе ушёл исследователь Anthropic Джейкоб Коксон, заявивший, что лаборатории «играют с нашими жизнями», в субботу Дарьо Амодеи предложил замедлить темпы, Сэм Альтман его поддержал, Илон Маск написал «Dario is right», а в воскресенье Сатья Наделла заявил, что приветствует исследования и осознанный темп для настройки alignment.