博客

推荐系统在帮助用户发现相关和个性化的项目或内容方面发挥着至关重要的作用。随着大语言模型（Large Language Models, LLMs）在自然语言处理（Natural Language Processing, NLP）领域的崛起，人们越来越关注如何利用这些强大的模型来增强推荐系统的性能。

大语言模型的优势

大语言模型的核心优势在于它们能够提取高质量的文本特征表示，并利用其中编码的广泛外部知识。这些模型经过大规模数据的自监督学习，能够有效捕捉上下文信息，理解用户查询、项目描述以及其他文本数据，从而提高推荐的准确性和相关性，提升用户满意度。

高质量文本特征表示

与传统推荐系统不同，基于大语言模型的推荐系统在捕捉上下文信息和理解用户查询方面表现出色。这得益于这些模型在大规模数据集上的预训练，使得它们能够生成高质量的文本表示，这些表示可以更好地反映用户的兴趣和偏好。

外部知识的广泛覆盖

大语言模型预训练过程中包含了大量的事实信息、领域知识和常识推理能力，这使得它们能够在面对数据稀疏问题时提供零样本或少样本推荐。通过利用这些外部知识，推荐系统可以在没有特定项目或用户的历史记录的情况下提供合理的推荐。

大语言模型推荐系统的分类

为了全面理解现有基于大语言模型的推荐系统，本次综述将这些模型分为两大类：判别式大语言模型推荐（DLLM4Rec）和生成式大语言模型推荐（GLLM4Rec）。

判别式大语言模型推荐

判别式模型，主要以BERT系列为代表，擅长于自然语言理解任务，通常被用作下游任务的嵌入骨架。在推荐系统中，这些模型通过微调，将预训练模型的表示与特定领域数据对齐，从而提高推荐性能。常见的方法包括微调和提示调优（prompt tuning）。

微调

微调是利用预训练语言模型的一种通用技术，通过在推荐特定的数据集上进一步训练模型，从而使其适应特定任务。例如，Qiu等人提出了U-BERT模型，通过在丰富的内容域上预训练用户表示来补充那些行为数据不足的用户特征。

提示调优

提示调优通过硬提示或软提示以及标签词转换器来对齐推荐任务与预训练损失。例如，Penha和Hauff利用BERT的掩码语言模型（MLM）头揭示其对项目类型的理解，并通过提示学习进行对话推荐。

生成式大语言模型推荐

生成式模型具有更强的自然语言生成能力，能够直接生成推荐结果。近年来，随着ChatGPT等生成模型的兴起，这类工作获得了更多关注。根据是否需要调整模型参数，生成式大语言模型推荐可以进一步细分为非调优范式和调优范式。

非调优范式

非调优范式假设大语言模型已经具备推荐能力，通过引入特定的提示来触发这些能力。例如，Liu等人系统评价了ChatGPT在五个常见推荐任务上的表现，并提出了一种通用的推荐提示构建框架。

调优范式

调优范式通过进一步微调或提示学习来增强大语言模型的推荐能力。这类方法包括微调、提示调优和指令调优。例如，Bao等人提出的TALLRec模型通过两阶段的调优来对齐大语言模型与推荐任务。

关键挑战与未来方向

模型偏差

• 位置偏差：大语言模型在输入顺序上可能存在偏差，例如在推荐候选项时，模型可能优先推荐顺序靠前的项目。
• 流行度偏差：由于预训练过程中流行项目被广泛讨论和提及，模型在推荐时可能倾向于推荐这些项目。
• 公平性偏差：预训练语言模型在处理敏感属性时可能存在公平性问题，可能导致推荐结果的偏倚。

推荐提示设计

• 用户/项目表示：在实际应用中，推荐系统通常使用大量离散和连续特征来表示用户和项目，而现有的LLM-based工作大多仅使用名称来表示项目，这不足以准确建模用户和项目。
• 上下文长度限制：大语言模型的上下文长度限制会限制用户行为序列的长度和候选项目的数量，从而导致推荐性能不佳。

有前途的能力

• 零样本/少样本推荐能力：实验结果表明，大语言模型在各种推荐任务中表现出色的零样本/少样本能力，尤其是在应对冷启动问题时。
• 可解释能力：生成式大语言模型具有卓越的自然语言生成能力，可以用于生成解释性推荐。

评估问题

• 生成控制：确保LLM的输出严格遵循给定的指令格式是一个紧迫的问题。
• 评估标准：现有的评估标准可能不足以全面评估生成式推荐系统的性能。
• 数据集：现有的数据集可能无法充分反映LLM的推荐能力，亟需更合适的基准数据集。

结论

大语言模型在推荐系统中的应用前景广阔，但仍处于早期阶段。未来，随着计算能力的提升和人工智能领域的不断进步，LLM在推荐系统中的应用将更加复杂和精细。我们期待看到更多融合多模态输入、实时个性化推荐的应用，同时也希望在公平性、责任和透明度方面取得更多进展。

在这篇综述中，我们对大语言模型在推荐系统中的应用进行了系统回顾，分类了现有工作并详细介绍了不同的域适应方式。我们希望这篇综述能够为研究人员提供一个全面的理解大语言模型推荐系统的资源，并激发进一步的研究和创新。

---

参考文献：

Wu, Likang, et al. “A Survey on Large Language Models for Recommendation.” 2023.

问题背景

大型语言模型（LLMs）在自然语言处理（NLP）任务中表现出色，但是训练这些模型所需的时间和计算资源成本较高。为了提高模型性能和遵循人类指令的能力，这些模型通常需要进行额外的训练，如持续预训练和监督式微调。然而，由于模型参数众多，这些额外训练过程的成本非常高昂。

提出的解决方案：稀疏加速训练（Sparsity-Accelerated Training, SAT）

为了解决大型语言模型训练成本高昂的问题，研究人员提出了一种名为”Sparsity-Accelerated Training”（SAT）的框架。SAT的核心思想是利用预训练LLMs中的结构稀疏性来加速额外的训练过程。通过观察前向迭代中激活的神经元的稀疏性，SAT框架可以确定哪些神经元是不活跃的，从而排除这些不活跃的神经元，减少计算量，加快训练速度。

实现方法：神经元重要性评估和选择

为了实现SAT框架，研究人员首先需要评估每个神经元的重要性，并选择重要的神经元进行训练。评估神经元重要性的方法是观察前向迭代中激活的神经元的稀疏性，并计算每个神经元的重要性得分。通过选择重要性得分高的神经元，并在训练过程中仅更新这些神经元，可以减少计算量，加快训练速度。

SAT框架在Transformer架构中的应用

SAT框架主要针对基于Transformer架构的LLMs进行研究。在Transformer架构中，SAT框架可以应用于多头注意力（MHA）和多层感知机（MLP）模块。对于MHA，SAT框架选择重要性得分高的头部进行优化；对于MLP，SAT框架选择重要性得分高的通道进行优化。通过稀疏化这些组件中的神经元，SAT框架可以减少计算量，加快训练速度。

梯度遗漏率调度器（LORS）的应用

为了缓解剪枝神经元可能导致的过拟合问题，研究人员在SAT框架中引入了梯度遗漏率调度器（Ladder Omission Rate Scheduler, LORS）。LORS将训练过程分为两个阶段：第一阶段使用恒定的遗漏率进行稀疏训练，第二阶段逐渐降低遗漏率，使模型逐渐变得更密集，直到完全恢复为密集模型。LORS的引入可以提高训练的稳定性和鲁棒性。

实验验证和结果

研究人员在Llama-2模型上进行了实验，验证了SAT框架在持续预训练和监督式微调方面的性能。实验结果表明，SAT在这些任务中取得了与标准训练相媲美甚至更好的性能，同时显著加快了训练速度。此外，研究人员还对SAT框架的效率进行了分析，包括吞吐量、训练时间、内存消耗和浮点运算（FLOPs）等指标。实验结果显示，SAT框架能够在减少计算量的同时保持高效。

相关研究和未来展望

在加速大型语言模型训练的领域，已经有一些相关研究工作，如变换器剪枝、稀疏微调和参数高效微调等。这些研究为SAT框架的提出提供了理论和技术基础。然而，仍然有一些潜在的探索方向可以进一步研究，例如探索更大规模和多样化的模型结构、更多的神经元重要性度量方法、计算资源和环境影响等。此外，还可以考虑与其他模型优化技术的结合、深入分析稀疏性对模型性能的影响以及实际部署和应用等方面的研究。

结论

Sparsity-Accelerated Training（SAT）框架提出了一种利用预训练LLMs中的结构稀疏性来加速大型语言模型训练的方法。通过评估神经元重要性并选择重要的神经元进行训练，SAT框架能够减少计算量、加快训练速度，并在保持或提高模型性能的同时提高训练效率。SAT框架为大型语言模型的训练提供了一种简单、硬件无关且易于部署的解决方案。

参考文献：

• Da Ma, Lu Chen, Pengyu Wang, Hongshen Xu, Hanqi Li, Liangtai Sun, Su Zhu, Shuai Fan, Kai Yu. “Sparsity-Accelerated Training for Large Language Models.” 2024.