OpenRouter 官方博客·· 21 小时前AI 评分29
OpenRouter 实测:fp8 与 fp4 量化对模型质量和价格的影响
LLM Quantization: What fp8 and fp4 Do to Quality and Price
AI 导读
OpenRouter 在 1,455 个 provider 端点上测试了 LLM 量化,其中 Qwen3.8 27B 的六个端点(fp16、fp8、fp4)在 240 项任务上得分均在 98.3% 至 99.2% 之间,未检测到精度差异。
来源:OpenRouter 官方博客 · openrouter.ai