跳到正文
X · 歸藏·· 4 小时前AI 评分22

DeepSeek 开源内部推理框架,可实现类似的高吞吐量与低延迟

Deepseek 已经开源了自己的内部推理框架 可以实现跟他们类似的高吞吐量和低延迟表现

AI 导读

DeepSeek 已开源其内部推理框架,目标是让外部用户获得与 DeepSeek 自身类似的高吞吐量和低延迟表现。原文未披露框架名称、开源协议及具体性能数字。

打开原文x.com
博主

粉丝 18万

关注人工智能、LLM 、 AI 图像视频和设计(Interested in AI, LLM, Stable Diffusion, and design) 歸藏的 AIGC 周刊|公众号:歸藏的AI工具箱

互动数据
浏览
6060
点赞
22
评论
10
分享
0
收藏
4

数字来自平台,为最近一次抓取时的数据。

来源:X · 歸藏 · x.com