Moonshot убрала кибернетические данные из обучающей выборки Kimi K3.1 Pro

Moonshot AI удалила все кибернетические данные из обучающей выборки и среды с подкреплением модели Kimi K3.1 Pro, об этом компания сообщила перед релизом открытых весов. Веса выйдут 4 ноября, после этого модель сможет скачать и запускать на собственной технике любой желающий. Базовые задачи по программированию в обучении сохранили.

Открытая публикация весов означает, что ограничения, заложенные в модель при обучении, дальше никто не контролирует: скачавший получает файлы и запускает их локально, без обращений к серверам разработчика.

Цена фильтров — девять с половиной процентных пунктов

Во внутреннем тесте на поиск эксплойтов версия с фильтрами справилась с 81% заданий, версия без фильтров — с 90,5%. Разница в 9,5 процентных пункта, то есть урезание кибернетических навыков обошлось модели примерно в десятую часть результата.

Конкурент Moonshot, открытая модель DeepSeek V4.1-Flash, получила по тому же тесту 85,7% баллов. Это выше результата Kimi K3.1 Pro с фильтрами, но ниже версии без них.

Почему Бутерин выбрал фильтры, а не запрет для пользователей

Сооснователь Ethereum Виталик Бутерин поддержал решение Moonshot. Свою позицию он изложил в соцсети X: дискриминация сценариев использования наносит меньший ущерб, чем дискриминация пользователей.

По его мнению, атаки с применением ИИ неизбежно обрушатся на рынок. Разработчикам осталось немного времени, чтобы усилить защиту, проверить старый код и убедиться в безопасности новых программ.

Бутерин предупредил и о другом сценарии. Если первая волна атак вызовет серьёзные проблемы, появятся закрытые модели, проверки Know Your Customer (KYC, принудительная идентификация личности) для всех и тотальный надзор. В таком мире доступ к ИИ будет зависеть от гражданства и документов, а пользователей разделят на второй, третий и даже четвёртый сорт.

На вопрос пользователя, создадут ли другие лаборатории такие же возможности, Бутерин ответил утвердительно.

Он давно выступает за запуск открытых моделей ИИ на собственном оборудовании, об этом свидетельствуют и его эксперименты с локальным запуском ИИ на ноутбуке.

ИИ уже ищет уязвимости лучше людей

Весной Binance Research выяснила, что ИИ эксплуатирует уязвимости в смарт-контрактах примерно вдвое эффективнее, чем находит их. Для держателей токенов и ликвидности в DeFi это значит, что окно между появлением ошибки в коде и её использованием сокращается.