你和一个朋友聊天。你问他：”你知道张三的新书讲了什么吗？”
如果朋友知道张三的书，他会直接告诉你书的内容。但如果朋友不知道呢？一个诚实的人会说：”我不认识张三，不知道他的书。”
但还有一种更微妙的回答方式：”我听说最近有本新书挺受关注的。”——他不知道张三的书，但他退回到一个更宽泛的、不会出错的表述。他放弃了”张三的书”这个具体的指称，换成了”最近的新书”这个更一般化的说法。
这就是语言学家保罗·格莱斯（Paul Grice）在1975年描述的合作原则中的一个重要策略：当说话人对某个具体指称不确定时，他会沿着特异性层级（specificity hierarchy）向上退却——从”张三的书”退到”一本新书”，再退到”一本书”——用信息量的降低换取准确性的提升。
这被称为格莱斯退却（Gricean Retreat）。
问题是：大语言模型会做格莱斯退却吗？
LLM的幻觉困境
当被问到训练数据中不存在的实体时，LLM的经典失败模式是编造。它不会说”我不知道”，而是生成一段听起来合理但完全是虚构的内容。
传统解释是：模型不知道自己不知道什么。它对训练数据中不存在的实体没有”知识边界”意识，所以会自信地编造。
但这个解释对吗？模型真的”不知道”吗？
来自科罗拉多大学博尔德分校的研究团队用一组精巧的实验回答了这个问题。答案出人意料：模型知道，但它不用这个知识。
实验设计
T-REx基准
研究团队基于T-REx知识图谱构建了一个测试基准。T-REx将维基百科文本与知识图谱三元组对齐，包含各种”主体-关系-客体”三元组，如”巴黎-首都-法国”。
关键设计是合成实体（synthetic entities）。研究者用合成实体替换真实实体，创造模型训练数据中不可能出现的新实体。例如，把”巴黎”替换为一个虚构的城市名”Zarathustra City”。
这样，研究者可以精确控制哪些实体在模型的知识边界内，哪些在边界外。
两个核心问题
对每个实体，研究者问两个问题：
问题1：模型的激活是否编码了”这个实体在知识边界内还是外”？
如果模型能区分”见过的实体”和”没见过的实体”，说明模型内部有某种”知识边界”信号。
问题2：模型的激活是否预测了”它即将生成具体的还是一般化的指称”？
如果模型在生成前就”知道”自己要生成什么级别的特异性，说明生成策略不是随机的，而是有内部信号驱动的。
发现一：模型确实知道自己的知识边界
研究者用线性探针（linear probe）测试模型各层的激活。结果令人惊讶：
模型激活强烈地编码了”这个实体是否在训练数据中出现过”。
– 对于22B参数以上的模型，AUROC超过90% – 即使是最小的模型，线性分类器也能（虽然较弱）预测实体是否在知识边界内 – 最佳预测层通常在模型中间层附近
更有趣的是，不同关系的预测难度不同。”People→Location”关系的预测最差。研究者发现，这是因为这个关系的合成实体在Pile数据集中出现得最多——合成实体意外地”泄漏”到了预训练数据中，导致模型”以为”见过它们。
这说明：模型的内部表示确实区分了”见过的”和”没见过的”实体。知识边界信号存在于模型内部。
发现二：模型也知道自己要生成什么
第二个发现同样令人惊讶。研究者测试了模型在生成前是否能预测自己即将生成的指称特异性。
结果：模型激活能可靠地预测即将生成的是具体的还是一般化的指称。
– 对于argmax解码，预测效果更好（因为确定性解码迫使模型更早”决定”） – 对于多项式解码，预测效果稍弱，但仍然显著
这意味着：模型的生成策略不是随机的。在生成前，模型内部已经有一个”我要生成具体的还是一般化的”信号。
发现三：但模型不做格莱斯退却
两个信号都存在——模型知道实体是否在知识边界内，也知道自己即将生成什么级别的特异性。但关键问题是：这两个信号被关联起来了吗？
答案是没有。
研究者测试了模型的”开箱即用”生成行为。结果：
模型压倒性地倾向于生成具体指称，无论实体是否在知识边界内。
即使实体是模型从未见过的合成实体，模型仍然生成具体的、听起来合理但完全虚构的指称。即使提供了正确的一般化替代选项，模型仍然选择具体的。
研究者还测试了不同上下文长度下的行为，发现特异性偏置在不同上下文长度下都存在——这不是上下文长度能解决的问题。
问题的本质
这是论文最深刻的洞察。研究者用一句话概括了发现：
“格莱斯退遂的基底存在，但执行退却的策略不存在。”
翻译成大白话：模型有做格莱斯退却所需的所有信息，但它没有使用这些信息的策略。
这就像一个人知道自己不知道答案，也知道自己在编故事，但他就是停不下来——因为他没有”停下来”这个动作。
从机制可解释性的角度看，这是一个非常有趣的发现。它意味着：
1. 知识边界信号和生成策略是解耦的。模型内部有两个独立的信号——”这个实体我见过吗”和”我要生成什么级别的特异性”——但它们没有被关联起来。 2. 幻觉不是”不知道”的问题，而是”不用知道”的问题。模型不需要先学会”知道自己的知识边界”，它已经知道了。它需要的是学会”在不知道的时候退却”。 3. 生成策略是训练出来的，不是涌现的。模型倾向于生成具体指称，不是因为这是”自然”的行为，而是因为训练过程（特别是RLHF）奖励了具体、自信的回答。
格莱斯对齐：一个新方向
论文最后提出了一个前瞻性的概念：格莱斯对齐（Gricean alignment）。
传统的幻觉缓解方法是在生成后检测和纠正——生成了一段文本，然后用另一个模型检查是否有幻觉。这是”事后过滤”。
格莱斯对齐换了一个层面：在生成时就利用知识边界信号引导生成策略。如果模型内部已经知道”这个实体我没见过”，那就在生成时利用这个信号，引导模型退回到更一般化的指称。
这不是一个新模型，而是一个新的对齐目标。传统对齐关注”生成有用的内容”，格莱斯对齐关注”在不确定时退却到安全表述”。
这和Epanorthosis（LLM系统性复现古典修辞手法）形成有趣的对照。Epanorthosis是”先说后改”——生成后自我纠正。格莱斯退却是”先知后退”——在生成前就选择退却。前者是推理时干预，后者是生成时策略。
局限与诚实评价
论文也诚实地讨论了局限：
1. 合成实体可能不完全代表真实场景。真实世界的”未知实体”有更多上下文线索（如名字的语义暗示），模型行为可能不同。 2. 只测了线性探针。非线性信号可能更强，但线性探针已经足够说明问题。 3. 没有实现格莱斯对齐。论文只诊断了问题，没有提出解决方案。格莱斯对齐是一个概念框架，不是具体方法。 4. 模型范围有限。主要测试了几个开源模型，闭源模型的行为未知。
从概念谱系看，这篇论文是”评测盲区定律”的又一个实例。传统幻觉评测关注”生成的内容是否正确”——这是输出层评测。但这篇论文发现，问题藏在更深的地方：模型内部有正确的信号，但生成策略不用它。如果只评测输出，你永远看不到这个gap。
“模型已经知道”系列再添一例：模型知道自己的知识边界（线性探针AUROC > 90%），知道自己的生成策略（能预测特异性），但就是不用这个知识来指导生成。这和SOPHIA的”残差流方向”、谄媚偏置的方向一样——跨论文共识越来越强：模型内部有比输出表现出的更多的知识，问题在于如何激活和使用它。
—
论文链接：https://arxiv.org/abs/2608.13484
HTML版本：https://arxiv.org/html/2608.13484v1