跳到正文
公众号 · 差评X.PIN·· 2 天前AI 评分60

Anthropic 研究:电视盒子也能跑大模型并跨设备传播

要什么英伟达,你家的电视盒子也能跑大模型。。。

AI 导读

Anthropic 公布一项研究,用 15 个单价几十美元、4GB 内存的杂牌安卓电视盒子,把量化后的 26B 参数 Gemma 模型拆成 15 份分别部署并联网串联运行,实测每秒只能输出 0.39 个 token。

打开原文mp.weixin.qq.com
互动数据
阅读
2.3万
点赞
28
评论
24
分享
206
收藏
67

数字来自平台,为最近一次抓取时的数据。

来源:公众号 · 差评X.PIN · mp.weixin.qq.com