谷歌发布首款决策模型 Gemini Decision 1,输出 token 免费、成本直降 80%
谷歌发布首款决策模型 输出token免费 今早,谷歌发布了Gemini Decision 1,成本直降80%,它是怎么做到的?今天一条视频带你看懂其中奥秘。 #ai资讯 #ai模型 #谷歌 #gemini #ai工具
谷歌发布首款专门用于决策的模型 Gemini Decision 1,输出 token 费用降为 0,综合成本为自家轻量模型 flashlight 的 1/5。该模型不做逐字生成,单次前向传播即可对预设选项算概率打分,支持二元判断、最多 255 个候选方案的多项选择和有标准加权评分,一次请求可并发处理 1000 道题。
粉丝 27
每天几分钟,看懂一条 AI 热搜 🔥 新模型、新突破、新争议,帮你把来龙去脉讲透 日更|有出处|说人话 我们的AI聚合平台「oairegbox」现已接入多个大模型,私信「111」亲自体验~
- 点赞
- 2
- 评论
- 0
- 分享
- 0
- 收藏
- 3
数字来自平台,为最近一次抓取时的数据。
同一新闻,精选展示《Google 发布 Gemini Decision 1 多模态决策模型及 Decisions API》
以下是视频口播的自动转写,可能有错字。
Ai 继聊天和推理模型之后,出现了一个完全不按套路出牌的新物种。就在今早,谷歌正式发布了旗下首款专门用来拍板拿主意的决策模型,gemini decision 1。他一出场就扔下了三颗重磅炸弹。第一,他能在0.2秒内一口气给多达1000个问题直接拍板定案。
第二,在9项权威对比大考中,他正面击败了 gpt-6 luna,一口气拿下了7项第一,最高决策准确率飙到了92.2%。第三,也是最让人狂喜的一点,它的输出 token 费用直接降到了0,综合成本只有自家轻量模型 flashlight 的1/5。
不生成文字的模型到底是怎么干活的?它为什么能成为 agent 时代的省钱神器?要看懂谷歌这步棋,得先看看现在程序员开发 ai 应用时有多憋屈。在真实的企业系统和智能体工作流里,有无数个瞬间根本不需要 ai 的长篇大论。过去,哪怕你只想要一个对或错的答案,也必须调用庞大的生成式大模型,等它做完解码生成,最后再从文字里把结果抠出来。
这就好比为了拧一颗螺丝,每次都要把整条汽车生产线开动一遍,既慢又烧钱。而谷歌这次发布的决策模型,就是直接把逐字生成文字的过程给砍掉了。它在底层只需要做一次单次前向传播,就能直接对预设的选项算出概率,打出分数。因为压根不往外吐字,所以输出 token 自然就1分钱不收。
具体来看,这颗决策模型专门练就了三项核心绝活。第一项叫二元判断,给他一段代码或一张图片,他瞬间给出是否违规的判断和准确概率。第二项叫多项选择,开发者可以预设最多255个候选方案,比如200多个表情包或几十个子工具,它能一眼挑出最匹配的那个。
第三项叫有序标准评分,按照拟定的打分表对视频、音频或PDF文档直接给出加权总分。更夸张的是,这三种能力可以在一次请求里混合使用。比如你拍一张办公室茶水间的照片传上去,它能在0.2秒内同时回答你桌上有水渍吗?该拿抹布还是拖把清理?以及脏乱程度打几分?
三个问题。甚至一次请求能并发处理1000道题。除了快和便宜,它还有一个杀手锏:极低的预期校准误差。通俗点说,以前的大模型经常不懂装懂,明明猜错了还给出99%的自信;而谷歌的这款决策模型,有多大把握说多大话,给出的置信度极其真实。一旦遇到把握不准的难题,系统就能精准识别,立刻转交给人类或更强大的重型模型处理。
目前,谷歌已经在自家的笔记产品里用它当上了路由器,简单问题分给便宜模型,复杂难题才交给王牌大模型,直接把日常响应延迟砍掉了40%。这也印证了一个清晰的行业趋势,未来的 ai 绝不是靠一个全能大模型包打天下,而是专模专用,分级调度,让专攻决策的小模型当调度员,把每一分 token 都花在刀刃上。
光看懂还不够,自己动手试一次,才真正知道 ai 能干什么。来我们的 ai 聚合平台,一个入口,画图、修图、把资料做成视频,都能搞定。按次计费,随用随取。私信回复666申请体验,关注我,明天继续聊 ai。
来源:抖音 · 热点搜「Gemini Decision 1」 · douyin.com