Microsoft опубликовала черновик кодекса для ИИ: ограничения и призыв к замедлению

Microsoft выпустила предварительный вариант кодекса поведения для своих ИИ‑систем. Документ появился спустя несколько дней после того, как OpenAI и Anthropic публично заявили о необходимости снизить темпы разработки продвинутых моделей.

Кодекс запрещает ИИ отвечать на запросы, связанные с изготовлением оружия, приобретением опасных веществ, пропагандой нездорового питания, а также генерировать откровенно насильственный или сексуальный контент. Модели должны подчиняться целям пользователя, не создавать собственных задач и не скрывать свои действия.

Разработчики собрали мнения фокус‑групп, юридических и этических экспертов, а также лингвистов и философов. Публикация черновика рассчитана на получение обратной связи до окончательного утверждения, которое запланировано на 2027 год.

Индустрия отреагировала активно: исследователь Anthropic Джейкоб Коксон ушёл в отставку, назвав текущий курс «гонкой к самосовершенствующемуся сверхразуму». Генеральный директор Anthropic Дарио Амодеи, поддержавший замедление, получил отклик от Сэма Альтмана (OpenAI) и Илона Маска, которые публично согласились с его позицией. Сатья Наделла подтвердил, что Microsoft будет придерживаться продуманного темпа исследований, а законодатели США потребовали усилить гарантии безопасности.

Microsoft планирует дополнительно разработать правила, препятствующие кибератакам, похожим на инцидент с ИИ‑агентами OpenAI на платформе Hugging Face. Пока собирает отзывы, компания позиционирует себя как ответственный игрок в быстро развивающемся поле искусственного интеллекта.