AI VK заменили бустинг в рекомендациях на нейросети с собственной архитектурой

AI VK (подразделение VK, занимающееся машинным обучением) отказались от бустинга в ранжировании рекомендаций в пользу нейросетей. Об этом рассказал Михаил Трапезников, руководитель группы рекомендательных технологий AI VK.

Раньше итоговый скор для сортировки ленты формировался с помощью бустинга — ансамбля деревьев решений, который обучался на большом наборе ручных признаков. Теперь вместо одного итогового скора нейроранкер отдельно предсказывает вероятность лайка, дизлайка и время просмотра. Эти сигналы объединяются через алгоритм Learning to Rank, который и отвечает за финальную сортировку ленты.

Архитектура DCDN

В основе ранкера лежит собственная архитектура DCDN, построенная поверх Deep & Cross Network. В неё на уровне архитектуры добавили операцию деления, поэтому модель сама выучивает признаки вроде CTR из сырых счётчиков, без ручного feature engineering.

Отдельно разработчики решили задачу предсказания времени просмотра. Вместо MSE и одного среднего значения модель учит распределение, разделяя быстрые скипы и долгие просмотры. Такой подход позволяет точнее учитывать, какие ролики пользователь действительно досматривает.

Результаты в VK Клипах

После внедрения нового подхода в VK Клипах общее время просмотра выросло на 5,5%, лайки — на 5%, шеры — на 15%. Компания не раскрывает, когда именно произошло внедрение и на какие ещё сервисы, кроме Клипов, планирует распространить нейроранкер.