DeepSeek 开源推理框架 DeepInfer,公开单集群每天处理 155 万亿 Token
就在刚刚,DeepSeek开源内部推理框架DeepInfer,有个小细节是,这次DeepSeek还公开了自己的核心数据:单一集群每天处理155万亿Token,整体收入达到每卡每小时38美元,而且还是按谷价计算。网友直言:这不印钞机吗?#DeepSeek #梁文锋 #开源 #DeepInfer
DeepSeek 开源大规模云服务推理框架 DeepInfer,并公开自家推理服务的两个数据:单一集群每天处理 155 万亿 Token,整体收入达到每卡每小时 38 美元,且按谷价计算。按此粗略测算,一张卡全天满负荷运行每天对应收入超过 6000 元人民币、一个月超过 18 万元,但实际收入还取决于运行时长和统计口径。DeepInfer 开源后,高性能推理的门槛有望进一步降低。
DeepSeek 开源推理框架 DeepInfer 并公开单集群每天 155 万亿 Token、每卡每小时 38 美元的数据,适合围绕这组数字做成本拆解。
- 点赞
- 3553
- 评论
- 545
- 分享
- 277
- 收藏
- 356
约为这个来源平时的 8.9 倍,是爆款
数字来自平台,为最近一次抓取时的数据。
以下是视频口播的自动转写,可能有错字。
刚刚,deepseek 把自家的印钞机给开源了。deepseek 正式开源大规模云服务推理框架 deepinfer。但这次更值得关注的是,它直接公布了自家推理服务的两个数据。单一集群每天处理155万亿 token。整体收入达到每卡每小时38美元,而且还是按股价计算。
按这个数字粗略计算,如果一张卡全天满负荷运行,每天对应的收入就超过6000元人民币,一个月更是超过18万元。当然,这只是理论测算,实际收入还取决于运行时长和具体统计口径。难怪有网友直言,这是在印钞吗?这次 deepinfer 开源后,高性能推理的门槛有望进一步降低,更多团队也能用更低的成本把 ai 服务真正跑起来。
对整个行业而言,绝对是件好事。
来源:抖音 · 搜「DeepSeek」 · douyin.com