Математики из России нашли способ передавать знания ИИ-моделей без слов

Российские математики из стартапа Mostik разработали способ, позволяющий ИИ-моделям обмениваться информацией без текстовых сообщений — с помощью математических значений, заложенных в их весах. На практике это означает, что возможности более крупной модели можно передать меньшей, чтобы гораздо эффективнее повысить её интеллектуальный уровень.

Метод основан на передаче не текстовых данных, а числовых параметров — весов нейросети, которые хранят в себе обученные знания. Такой подход сокращает объём передаваемой информации и упрощает процесс настройки меньших моделей под конкретные задачи.

В стартапе не раскрыли, насколько удалось улучшить показатели малых моделей и когда технология выйдет на рынок. Там отметили, что разработка может быть полезна компаниям, которые хотят использовать сильные стороны больших моделей, но не могут позволить себе дорогие вычисления.