Microsoft опубликовала предварительную версию кодекса ограничений для будущих ИИ-моделей

Microsoft представила предварительную версию кодекса ограничений для будущих ИИ-моделей компании. Ранее компания опубликовала свод этических принципов разработки искусственного интеллекта, в котором закрепила приоритет человека над технологиями и отказала ИИ-моделям в правах, сознании и свободе. Там же Microsoft пообещала не создавать сверхразум.

Документ стал ответом на растущие опасения специалистов по поводу скорости прогресса в сфере машинного обучения и рисков потери контроля над ИИ-системами.

Глава ИИ-подразделения Microsoft Мустафа Сулейман заявил, что компания получила отзывы от людей, которые хотели видеть более явное обязательство того, что ИИ всегда работает на благо людей и не пытается их заменить. По его словам, поступало много отзывов о том, что ИИ не должен создавать зависимость и льстить, а должен способствовать суждениям, автономии и свободе воли человека. Сулейман добавил, что предварительная версия опубликована именно сейчас из-за обострения дискуссии о безопасности ИИ, хотя рекомендации готовились около пяти месяцев.

Публикация совпала с тем, что OpenAI и Anthropic признали необходимость замедлить разработку передовых алгоритмов. По данным 3DNews, Microsoft стремится к тому, чтобы её воспринимали как ответственного игрока в сфере ИИ, где она является одним из крупных поставщиков облачных услуг.

Других подробностей компания не раскрыла: конкретные формулировки ограничений, сроки их внедрения и механизм контроля в сообщении не названы.