跳到正文
抖音 · 搜「DeepSeek」· 智东西·· 1 天前精选爆款AI 评分48

DeepSeek 开源推理框架 DeepInfer,公开单集群每天处理 155 万亿 Token

就在刚刚,DeepSeek开源内部推理框架DeepInfer,有个小细节是,这次DeepSeek还公开了自己的核心数据:单一集群每天处理155万亿Token,整体收入达到每卡每小时38美元,而且还是按谷价计算。网友直言:这不印钞机吗?#DeepSeek #梁文锋 #开源 #DeepInfer

AI 导读

DeepSeek 开源大规模云服务推理框架 DeepInfer,并公开自家推理服务的两个数据:单一集群每天处理 155 万亿 Token,整体收入达到每卡每小时 38 美元,且按谷价计算。按此粗略测算,一张卡全天满负荷运行每天对应收入超过 6000 元人民币、一个月超过 18 万元,但实际收入还取决于运行时长和统计口径。DeepInfer 开源后,高性能推理的门槛有望进一步降低。

打开原文douyin.com
选题角度

DeepSeek 开源推理框架 DeepInfer 并公开单集群每天 155 万亿 Token、每卡每小时 38 美元的数据,适合围绕这组数字做成本拆解。

博主
智东西@zhidxcom

粉丝 30万

智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。我们的slogan是:聚焦AI前沿 服务产业变革。

互动数据
点赞
3553
评论
545
分享
277
收藏
356

约为这个来源平时的 8.9 倍,是爆款

数字来自平台,为最近一次抓取时的数据。

正文

以下是视频口播的自动转写,可能有错字。

刚刚,deepseek 把自家的印钞机给开源了。deepseek 正式开源大规模云服务推理框架 deepinfer。但这次更值得关注的是,它直接公布了自家推理服务的两个数据。单一集群每天处理155万亿 token。整体收入达到每卡每小时38美元,而且还是按股价计算。

按这个数字粗略计算,如果一张卡全天满负荷运行,每天对应的收入就超过6000元人民币,一个月更是超过18万元。当然,这只是理论测算,实际收入还取决于运行时长和具体统计口径。难怪有网友直言,这是在印钞吗?这次 deepinfer 开源后,高性能推理的门槛有望进一步降低,更多团队也能用更低的成本把 ai 服务真正跑起来。

对整个行业而言,绝对是件好事。

来源:抖音 · 搜「DeepSeek」 · douyin.com