OpenRouter 实测量化精度对模型质量与价格的影响

OpenRouter 在 2026 年 10 月 20 日对 1,455 个 provider 端点测试了 LLM 量化，并发布精度选择指南。其中 Qwen3.8 27B 的六个端点（fp16、fp8、fp4）在 240 项任务上得分均在 98.3% 至 99.2% 之间，未检测到精度差异。 OpenRouter 称，该测试只覆盖一个模型、280 项任务和六个端点，且只测了一天，不能说明 4-bit 量化对所有模型或工作负载都安全；它建议用户在把流量迁到 4-bit 端点前，先用自己提示词测试。 OpenRouter 还提醒，其过滤器不保证每次命中同一 provider，追踪质量时应记录响应中的 provider 字段。

AI 根据报道生成 · 42 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。