GrocLM: языковая модель подняла добавления в корзину на 7,5% в продуктовой рознице
Онлайн-торговля продуктами питания растёт, а классические рекомендательные системы, работающие на уровне отдельных товаров, плохо справляются с масштабом каталога и точностью: покупательское поведение здесь цикличное (одни и те же товары докупаются регулярно) и разнообразное по намерениям. Авторы работы предлагают решать задачу не на уровне конкретных товаров, а на уровне категорий товаров, это структурнее и практичнее для крупного каталога.
Для этого построена модель GROCLM, языковая модель, дообученная под задачу рекомендации категорий для пополнения продуктовой корзины (restocking). Обучение идёт в два этапа с использованием LoRA (метод эффективной дообучаемой адаптации весов модели без полного переобучения): такой подход, по заявлению авторов, позволяет закодировать цикличные паттерны покупок (сигналы повторной покупки, «rebuying signals») прямо в параметрах модели, это работает лучше, чем просто подавать историю покупок в промпт. Чтобы модель выдавала только допустимые категории из заранее заданного списка, а не произвольный текст, добавлен механизм ограниченной генерации на основе префиксного дерева (trie): он на каждом шаге отсекает невозможные продолжения, оставляя только реальные категории каталога. При этом все категории для пользователя генерируются одним проходом модели, а не по очереди, что экономит вычисления.
Модель проверили как на собственных производственных данных компании, так и на публичном бенчмарке, и в обоих случаях GROCLM обошла сильные базовые методы. Главный результат получен в реальном продакшене на задаче пополнения корзины (restocking): относительный прирост числа добавлений товара в корзину на один показ рекомендации составил 7,5% по сравнению с прежним подходом. Название компании, проводившей эксперимент, и авторы работы в доступном тексте не указаны.
Ключевые факты
- GROCLM, языковая модель, дообученная для рекомендации категорий товаров (а не отдельных товаров) в онлайн-продаже продуктов питания
- Обучение в два этапа на основе LoRA кодирует цикличные паттерны повторных покупок прямо в параметрах модели, а не через промпт
- Ограниченная генерация на основе префиксного дерева (trie) гарантирует, что модель выдаёт только реальные категории из заданного каталога
- В реальном продакшен-тесте на задаче пополнения корзины (restocking) GROCLM дала относительный прирост добавлений в корзину на показ на 7,5%
- Модель генерирует все рекомендованные категории для пользователя за один проход, что делает вывод эффективным по вычислениям
Почему это важно
Онлайн-продажа продуктов питания растёт, а классические рекомендательные системы уровня отдельных товаров упираются в масштаб каталога и точность из-за цикличности покупок (одни и те же товары докупаются регулярно) и разнородности намерений покупателей. Работа показывает, что переход на уровень категорий товаров и дообученную под эту задачу языковую модель, рабочий путь: результат подтверждён не только на бенчмарке, но и в реальной продакшен-среде.
Кому это важно
Прежде всего командам, которые строят рекомендательные и поисковые системы для онлайн-ритейла продуктов питания и товаров повседневного спроса, а также ML-инженерам, которые дообучают языковые модели под структурированные задачи с ограниченным набором допустимых ответов (categorical/structured output).
Как это применить
Ключевые технические решения переносимы на похожие задачи: двухэтапное дообучение через LoRA для встраивания цикличных пользовательских сигналов в веса модели вместо передачи истории в промпт, и ограниченная генерация на основе префиксного дерева (trie) для того, чтобы модель гарантированно выдавала только допустимые категории из заранее заданного списка, а не произвольный текст. Такая связка снижает риск некорректного вывода и одновременно ускоряет генерацию, так как все категории выдаются за один проход.
Можно ли доверять
Работа опубликована на arXiv и проверена на двух наборах данных, собственных производственных данных компании и публичном бенчмарке, а ключевой результат (прирост 7,5%) получен именно в живом продакшене, а не только в лабораторных условиях, что повышает доверие к цифре. При этом в доступном тексте не указаны ни название компании, ни авторы работы, работа пока не прошла независимое рецензирование, а детали производственных данных не раскрыты, проверить результат сторонними силами нельзя.
Риски и подводные камни
Результат 7,5%, самоотчёт авторов на собственных, нераскрытых данных одной компании, без независимой верификации; неизвестно, насколько он переносится на другие категории товаров, другие ритейл-платформы или другие рынки. Ограниченная генерация по префиксному дереву решает проблему валидности вывода, но требует заранее заданного и поддерживаемого в актуальном состоянии списка категорий, при его устаревании или неполноте система будет систематически упускать новые категории.