Автор дообучил модель на 4 млрд параметров для русских задач за несколько сотен рублей
Разработчик дообучил открытую модель на 4 млрд параметров для задач классификации русскоязычных обращений, потратив несколько сотен рублей на аренду GPU. На своих задачах модель показала 84,5% точности, на чужих — верхнюю группу, но не лидерство. Код и веса открыты.
Разработчик дообучил открытую модель на 4 млрд параметров для русскоязычных задач выбора варианта ответа — например, куда направить обращение, кто согласует заявку, срочная ли жалоба. Аренда видеокарты обошлась в несколько сотен рублей.
Проверка шла на своих задачах и на тех, которых не видела ни одна модель. На собственных задачах точность составила 84,5%, почти две трети потока ушло на автоматику при 95% правильных решений. На чужих задачах модель попала в верхнюю группу, но лидером не стала.
Автор отдельно описал грабли, на которые не стоит наступать, и метрики, которые стоит требовать от подрядчика. Модель и код открыты.
Хабр ИИ · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Kioxia представила серверные SSD LD4 объемом до 122,88 ТБiXBT · 9 октября
- ▪Атака на IDC Frontier нарушила работу 495 клиентов и органов власти ЯпонииCNews · 9 октября
- ▪Астрофизик с помощью ИИ-агентов Claude собрал полную карту неба в ультрафиолетеiXBT · 9 октября
- ▪OpenAI раскрыла приведённую годовую выручку в $50 млрд и рассчитывает довести её до $70 млрд к концу года3DNews · 9 октября