分类： AGI

当我们在浩瀚的信息海洋中航行时，AI技术的飞速发展无疑是我们的罗盘和风帆。最近，复旦大学和上海人工智能实验室的研究团队带来了一股劲风，他们的新发现让AI模型在理解长篇上下文方面能力大幅跃升，这对自然语言处理（NLP）领域可谓是一场革命。

💡RoPE位置编码的魔法

首先，我们得知道一个概念——RoPE（Rotary Position Embedding）。简而言之，位置编码就是在AI模型中嵌入位置信息的一种技术，而RoPE则是一种特殊的位置编码方式。它透过旋转的方式，将位置信息编入模型。你可以想象成，每一个单词都通过旋转一个角度来表示其在句子中的位置，这样模型就能理解单词之间的顺序关系。

🚀上下文长度暴涨至100万tokens

复旦的研究团队发现，通过微调RoPE位置编码中的一个超参数——旋转角底数（base），可以显著提升模型的上下文长度。简单来说，就是让AI能够一口气理解长达100万tokens（语言处理中的基本单位）的内容。想象一下，这就好比原本阅读能力仅限于一篇短文的AI，突然能够流畅地阅读整部《红楼梦》。

🔍RoPE外推缩放法则

研究团队还提出了一套RoPE外推的缩放法则。这套法则能够帮助我们预测模型在不同长度的文本上的表现，并据此调整旋转角底数来提升模型的外推能力。这就像是为AI模型装上了一个可以根据不同海域调整的舵，无论是平静湖面还是波涛汹涌的大海，它都能稳稳地航行。

🌟LLaMA2模型的革新

复旦的研究不仅理论上让人兴奋，还在实践中展现了成果。他们的这项技术被用于LLaMA2模型，将其上下文长度从原本的1.6万tokens扩展到了100万tokens，这为处理更复杂的语言任务提供了可能。

📚更多潜力的解锁

这项技术的潜力是巨大的。在自然语言处理领域，无论是机器翻译、文本摘要还是问答系统，长篇上下文的理解能力都是关键。复旦研究团队的这一突破，为我们打开了新的大门，让AI在理解和生成自然语言方面，更加像人类。

🔗研究资源链接

对这项技术感兴趣的朋友，可以通过以下链接进一步探索：

• 论文地址：https://arxiv.org/abs/2310.05209
• Github仓库：https://github.com/OpenLMLab/scaling-rope

这篇论文探索了使用8位浮点数(FP8)来有效训练大型语言模型(LLM)。论文的主要贡献和要点总结如下:

1. 提出了一个新的FP8混合精度训练框架,可以分阶段地引入8位梯度、优化器状态和分布式训练,逐步发挥FP8的优势,降低训练成本。
2. 在这个框架下,实现了8位梯度交流、8位优化器和8位并行训练。具体来说:

• 为FP8梯度交流设计了自动缩放技术,解决了低位交流中的上下溢问题。
• 实现了FP8优化器,通过精度解耦找到哪些变量更适合低精度表达。
• 在张量并行、流水线并行和序列并行中支持FP8,降低激活传递的通信量。

1. 在7B到175B参数规模的GPT模型上验证了该FP8训练方案的效果。结果显示,相比BF16训练,FP8训练可以显著降低GPU内存占用(29%~39%)、权重相关通信量(63%~65%),并提高吞吐量。模型性能不受影响。
2. 将FP8训练应用到GPT模型的微调上,包括教学调整和强化学习。结果同样展现出计算和内存上的节约。
3. 通过大量的分析实验对FP8训练的设计选择进行了验证,为后续研究提供了指导性结论。
4. 本文是第一个将FP8计算、存储和通信全面渗透到大模型训练 entire pipeline 的工作,可视为推动下一代低精度训练系统的重要一步。

本文对利用FP8进行大规模语言模型的高效低精度训练做出了重要探索,在减少训练成本方面展现出令人鼓舞的潜力。论文的贡献具有重要的理论和实践价值。