TF-IDF обогнал трансформер на задаче классификации русских отзывов

Авторы сравнили три подхода к классификации текстов на русском корпусе отзывов: счетный бейзлайн на TF-IDF, сверточную сеть TextCNN и дообученный трансформер. Бейзлайн обучился за три секунды и показал качество на уровне трансформера, который обучался восемь минут. Стандартный рецепт дообучения трансформера сначала привел к проигрышу.
При классификации текстов стандартный подход в 2026 году — взять предобученный трансформер и дообучить его. Метод TF-IDF часто воспринимается как устаревший: он работал в эпоху до BERT, и сейчас его редко воспринимают всерьез. Обычно этот выбор никто не проверяет на собственных данных, полагая, что исход очевиден.
Авторы решили проверить это предположение. Они взяли одну задачу, один корпус текстов и одну метрику, после чего прогнали три подхода подряд: счетный бейзлайн на TF-IDF, сверточную сеть TextCNN и дообученный русский энкодер. Учитывалось не только качество, но и стоимость — время обучения и скорость предсказания на обычном процессоре.
Краткий вывод: на этой задаче счетный бейзлайн обучается за три секунды и по честной метрике держится вровень с трансформером, который дообучался восемь минут. Трансформер, взятый по стандартному рецепту, сначала вообще проиграл — и проиграл поучительно.
Далее в материале — как так вышло и что из этого можно забрать.
Хабр ИИ · права на исходный материал принадлежат автору.
Материал носит информационный характер и не является индивидуальной инвестиционной рекомендацией. Операции с криптовалютами связаны с риском полной потери вложенных средств. Подробнее — «Отказ от ответственности».
Разборы событий, итоги дня и то, что двигает рынок. Без сигналов и обещаний — только факты и что они значат.
Читать в Telegram →По теме
- ▪Microsoft сделает Copilot средством диагностики неполадок Windows3DNews · 18 ноября
- ▪Google открыла бесплатный доступ к ИИ-агенту Gemini Tasks в шести странахiXBT · 18 ноября
- ▪OpenAI выпустила GPT-6.2 Astra и Sol: Astra в API подешевела на 20%Tproger · 17 ноября
- ▪Сбер оценил выручку ОМК в 2,569 трлн рублей до 2036 годаiXBT · 17 ноября