OpenRouter 官方博客·· 4 小时前AI 评分21
自托管 LLM 与 API 对比:自托管何时才划算
Self-Hosted LLM vs API: When Does Self-Hosting Pay Off
AI 导读
OpenRouter 按 2026 年 10 月 8 日价格测算,自托管 LLM 只有在 GPU 负载足够高时才比 API 便宜:单张 RTX 3090 跑 Qwen3.8 27B 的盈亏平衡负载约 6% 至 12%,但每用户仅约 15 tokens/s。
来源:OpenRouter 官方博客 · openrouter.ai