量化感知修复：一个压缩后的 4 位模型胜过其全精度原版

文章讨论大模型部署中先压缩架构再量化到 4 位的常见做法会系统性削弱推理、数学和代码生成能力，因此生产流程通常会加入名为“healing”的恢复步骤，并提到 gpt-oss、Nemotron 系列和 Hypernova 60B 等开放权重发布采用了这类方法。文中介绍了团队论文《Quantization-Aware Healing: A Practical Recipe for Recovering Compressed, 4-Bit LLMs》，聚焦模型在已被压缩和量化之后该如何处理这一问题。适合关注模型压缩与量化部署的读者。