LEARN: LLM在快手电商广告推荐场景的应用

文章预览

作者 | Lukan   整理 | NewBeeNLP 今天继续分享一篇大模型在推荐系统中的落地应用工作，是快手今年5月份发表的论文《Knowledge Adaptation from Large Language Model to Recommendation for Practical Industrial Application》。 太长不看版 这篇文章主要做了两个工作： 工作1：使用冻结的LLM提取文本embedding后，设计了一个基于transformer的双塔结构，用对比学习的方式训练用户行为序列数据，以提取更适用于推荐任务的user embedding和item embedding， 工作2：在排序模型中加一个CVR辅助任务，使用1学习到user embedding和item embedding接入一个MLP网络和推荐目标做进一步对齐，然后取出中间层特征供排序模型使用 方法其实和上次介绍的小红书的NoteLLM（ NoteLLM: 大语言模型在小红书推荐系统的落地应用 ）有点类似的地方，都是想用大模型作为特征提取器来提取item文本中的语义信息来弥补推荐 ………………………………