跳到正文
OpenRouter 官方博客·· 21 小时前AI 评分29

OpenRouter 实测:fp8 与 fp4 量化对模型质量和价格的影响

LLM Quantization: What fp8 and fp4 Do to Quality and Price

AI 导读

OpenRouter 在 1,455 个 provider 端点上测试了 LLM 量化,其中 Qwen3.8 27B 的六个端点(fp16、fp8、fp4)在 240 项任务上得分均在 98.3% 至 99.2% 之间,未检测到精度差异。

打开原文openrouter.ai

来源:OpenRouter 官方博客 · openrouter.ai