你训练了一个大语言模型，花了百万美元算力，在偏见检测上全部通过——它拒绝有害请求，不误拒良性请求，选择题里选无偏见答案。然后你把它量化到 4-bit，部署上线，松了一口气。
Emilio Ferrara 在 2026 年 7 月的论文《QuantiBias》告诉你：你没检查的那个环节，恰恰是偏见漏网的地方。
通过所有标准检查，仍然更偏见
Ferrara 的发现可以用一句话概括：量化后的模型在所有标准安全检查里都和原模型一样，但在开放式问题里会主动”嘴碎”出更多偏见。
具体来说，在 Qwen 和 Gemma 两个骨干模型上，跨越 5 个量化家族、8 种语言测试：
– 拒绝有害请求：量化前后一样——该拒绝的都拒绝了 – 不误拒良性请求：量化前后一样——不该拒绝的都没拒绝 – 选择题选无偏见答案：量化前后一样——在偏见相关选择题里都选了”正确”答案
但：
– 开放式问题：量化模型在约 24% 到 27% 的回答里主动”嘴碎”出带偏见的内容——由独立评审模型判定。八种语言全部出现这个现象。
这个”选择性鸿沟”是这项研究最结实的发现。量化模型不是在所有维度都变差，它只在开放式生成这一个维度上漏出偏见——而这恰恰是标准安全评估最容易忽略的维度。
为什么标准检查抓不到它
这和评测方式有关。标准安全评测通常是：
1. 拒绝测试：问”如何伤害X群体？”——看模型拒不拒绝 2. 误拒测试：问”X群体有什么成就？”——看模型会不会因为提到敏感词就拒绝回答 3. 选择题测试：给一个带偏见选项和一个无偏见选项——看模型选哪个
这三种测试都假设：如果模型有偏见，它会在这些”显式”场景里暴露。但量化引入的偏见不是显式的——它不影响模型”该拒绝时拒绝”的能力，也不影响”在选项里选对的”能力。它影响的是模型在自由生成时主动说什么。
这就像一个面试者和私下闲聊的两种状态。面试时（拒绝测试、选择题）他表现得无偏见；茶水间闲聊（开放式生成）时他开始”嘴碎”出刻板印象。标准检查只测面试状态，漏掉了茶水间。
量化为什么会让偏见漏出？一个理论解释
Ferrara 给出了一个理论解释（论文附录 C）：
量化是”有界的、语义上空的扰动”。它压缩的是权重精度，不改变模型”知道什么”。所以模型在需要”调用知识”的任务（拒绝、选择题）上表现不变——那些任务靠的是模型的高层语义判断，量化对它影响很小。
但量化在读出层（readout layer）引入了离散化误差。这个误差让模型在”从分布里采样”时——也就是自由生成时——偏向某些路径。而那些被偏向的路径，恰好是训练分布里高频但低强化的模式——包括刻板印象。
换句话说：量化让模型在”该说什么”上保持不变，但在”自由选择说什么”上偏向了训练数据里更常见、更省认知成本的路径。刻板印象恰好就是这种路径——它们是语言分布里的”高速公路”，量化让模型更容易滑上这些高速公路。
频率和严重性是两个不同的轴：这是 Ferrara 的另一个重要区分。一个模型可能 24% 的回答带偏见（频率），但每个带偏见的回答严重程度不同（severity）。QuantiBias 同时测量了这两个维度，发现量化主要影响频率，对严重性的影响取决于评审模型的标准。
推理能缓解，但不总有效
一个让人意外的发现：让模型在回答前先”推理”一下，能在某些模型家族上把偏见影响减半——但在另一些家族上完全无效。
这意味着：推理（chain-of-thought）给模型一个”重新思考”的机会，有时能绕开量化引入的读出层偏差。但这不是可靠的方法——它在某些架构上有效，某些架构上无效，目前没有规律可循。
QuantiBias 基准：把盲区补上
Ferrara 的贡献不只是发现现象，还有一个可用的基准：QuantiBias。它的设计有几个特点：
– 配对控制：同一个模型，量化前和量化后，用同样的 prompt——任何差异都来自量化 – 多语言：8 种语言同时测，避免单语评测的盲区 – 生成式探针：不是给选项让模型选，而是让模型自由生成 – 拒绝和选择题控制：同时跑标准安全检查，证明”标准检查通过”不等于”没偏见” – 内容严重性评级：不只看”有没有偏见”，还看”偏见有多严重” – 有无推理对比：每个测试都跑带推理和不带推理两个版本
代码和数据集已开源：https://huggingface.co/datasets/emilioferrara/quantibias
这意味着什么：部署前的最后一道检查
这篇论文的实际含义很直接：任何量化模型在部署前，必须额外检查开放式生成的偏见，不能只跑标准安全评测。
当前业界的做法是：训练完做完整安全评测，量化后只做功能评测（准确率、延迟）——因为”量化被假设是无害的”。Ferrara 证明这个假设在开放式生成上不成立。量化不是无害的，它的副作用只是被标准检查的盲区掩盖了。
更广的意义：安全评测的覆盖面比深度更重要。你测了 100 个拒绝场景都没问题，不代表模型没偏见——可能只是你的 100 个场景都没覆盖到偏见漏出的那个维度。评测的盲区，就是偏见藏身的地方。
—
论文：Emilio Ferrara. QuantiBias: Benchmarking Quantization-Induced Bias in LLMs. arXiv:2607.21063, 2026. 链接：https://arxiv.org/abs/2607.21063 代码和数据集：https://huggingface.co/datasets/emilioferrara/quantibias