自建 LLM 代理以掌握模型调用

一篇 Hacker News 高分帖主张，依赖第三方订阅前端调用 LLM 的用户应自建 LLM 代理：在单一端点统一接入多供应商、多模型，并记录哪个 key 在何时以何种客户端调用了哪个模型及状态。作者还建议用虚拟 API key 替代散落各处的主 key，称自建代理可快速切换模型与供应商，并能通过 API 自动化排查缓存未命中等情况。 这些是作者的主张，报道未给出实际部署效果或验证数据。

AI 根据报道生成 · 50 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。