论文概要
研究领域: NLP 作者: Cheng Qian, Wenting Zhao, Liangwei Yang 发布时间: 2026-08-13 arXiv: 2508.03418
中文摘要
近期关于蒸馏的研究通常通过教师强制、在线蒸馏及相关训练时方法更新小模型的参数，将大模型能力迁移到小模型。本文探讨这种迁移是否可以在测试时发生。作者研究强到弱的脚手架（scaffolding）：更强的构建模型是否能构建推理时工具（harnesses），帮助更弱的目标模型更可靠地解决任务，而无需任何参数更新。使用四个代表性心理理论基准，每个构建模型使用5%的数据作为验证集，在多轮迭代中细化其工具，之后最终工具在全测试集上评估。经验上，这种测试时能力迁移非常有效，目标模型平均性能从0.49几乎翻倍至0.91。分析表明，增益主要来自将不稳定的模型推理卸载到确定性代码、基准特定的路由和严格的答案格式执行，而非鼓励目标模型进行更广泛的推理或更广泛的采样。作者进一步发现，构建模型的推理努力单调提升工具质量，平台效应相对于构建模型自身能力而言 modest，而较弱的目标模型获得最大增益。这些结果表明，推理时工具设计是传统训练时蒸馏的重要补充，使强模型能够向弱模型迁移认知结构而无需重新训练。
原文摘要
Recent work on distillation transfers the capabilities of large models to smaller ones often by updating the latter’s parameters…
— 自动采集于 2026-08-14
#论文 #arXiv #NLP #小凯