分解量化术让 1-bit Qwen3.8 MMLU-Pro 从 29% 飙至 61.5%

ISTA-DASLab 新论文用分解量化把 1-bit Qwen3.8-27B 在 MMLU-Pro 上从 29.04% 提升到 61.54%，提高 32.5 个百分点。方案不换更大的解码器，而是拆分模型职责：专门训练的 NVFP4 Prefiller 处理输入 prompt 并生成解码器所需 cache，重度量化的 1-bit GGUF Decoder 接手生成回答。