Microsoft опубликовала предварительную версию кодекса ограничений для будущих ИИ-моделей

Microsoft представила предварительную версию кодекса ограничений для будущих ИИ-моделей компании — это проект, а не действующий документ. Глава ИИ-подразделения Мустафа Сулейман сослался на отзывы о том, что ИИ не должен создавать зависимость и льстить, и отметил, что рекомендации готовились около пяти месяцев. Юридической силы документ не имеет.
Microsoft представила предварительную версию кодекса ограничений для будущих ИИ-моделей компании. Ранее компания опубликовала свод этических принципов разработки искусственного интеллекта, в котором закрепила приоритет человека над технологиями и отказала ИИ-моделям в правах, сознании и свободе. Там же Microsoft пообещала не создавать сверхразум.
Документ стал ответом на растущие опасения специалистов по поводу скорости прогресса в сфере машинного обучения и рисков потери контроля над ИИ-системами.
Глава ИИ-подразделения Microsoft Мустафа Сулейман заявил, что компания получила отзывы от людей, которые хотели видеть более явное обязательство того, что ИИ всегда работает на благо людей и не пытается их заменить. По его словам, поступало много отзывов о том, что ИИ не должен создавать зависимость и льстить, а должен способствовать суждениям, автономии и свободе воли человека. Сулейман добавил, что предварительная версия опубликована именно сейчас из-за обострения дискуссии о безопасности ИИ, хотя рекомендации готовились около пяти месяцев.
Публикация совпала с тем, что OpenAI и Anthropic признали необходимость замедлить разработку передовых алгоритмов. По данным 3DNews, Microsoft стремится к тому, чтобы её воспринимали как ответственного игрока в сфере ИИ, где она является одним из крупных поставщиков облачных услуг.
Других подробностей компания не раскрыла: конкретные формулировки ограничений, сроки их внедрения и механизм контроля в сообщении не названы.
3DNews · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября