跳到正文
抖音 · 杨博士说AI· 杨博士说AI·· 3 小时前同新闻AI 评分58

DeepSeek 发布 Super-Agent 设计探索并开源原型

DeepSeek Super-Agent解读 #DeepSeek #superagent #开源Agent

AI 导读

DeepSeek 团队发布技术文章《Super Agent 设计探索》,并在 GitHub 开源原型 dsh super agent prototype。

打开原文douyin.com
博主
杨博士说AI@43806858570

粉丝 5万

Agnes 创始人|全球 Autonomous Intelligence 倡导者 毕业于 Berkeley(数学 × CS,最高荣誉),HEC Paris 创新创业硕士,NUS Computing 博士研究者。 曾打造千万级全球产品,现带领 Agnes 构建世界领先的 Agent-native Foundation Models 与 Harness 系统,重新定义 AI 如何理解世界、调用工具、执

互动数据
点赞
12
评论
0
分享
4
收藏
9

数字来自平台,为最近一次抓取时的数据。

同一新闻,精选展示《DeepSeek 开源 Super-agent 研究原型,让 Agent 长期自主处理 GitHub 与飞书任务》

正文

以下是视频口播的自动转写,可能有错字。

10月31日晚呢,deepseek haris 团队发布了技术文章,super agent 设计探索,迈向更自主的 agent 系统,并同步在 github 上呢开源了原型 dsh super agent prototype。这个是 deepseek 最新的、最核心的一次 agent 方向的发布。

那一句话理解呢,super agent 就是一个一直在线,能同时干多件事,能主动找活干,出问题能自己恢复的一个酷点 agent。其响应的就是最近比较火的 personal agent 这个方向。他把绘画管理和上下文同步的从人手上移动到了系统层面。

原来呢很多所谓的 human loop,很多的人来做管理和路由,目前呢把这份工作呢变成让 ai 来解决。所以人只需要负责定目标和验收,调度和执行交给了 ai,ai 指挥 ai 的一个系统。那 deepseek 的团队判断呢,模型完成单任务已经越来越不需要人介入,所以限制产出的不再是 ai 能不能做,而是能否支持一个人来盯住多个 ai。

比如说3~5个活跃的规划 session。现在主流的 agent 呢,以单个 session 为单位,你在群里定方案 a,转头到 github pull request 评论里改成 b。这两条信息呢,落在两个不同的规划里,商业文。得需要自己搬。

super agent 的一个很重要逻辑就是你只需要关注一个 agent,所有的上下文都由这个 agent 来管理。在同一个会话里,这个 agent 呢可能会交给多个系统来处理,最终呢总结成你需要的信息返回回来。所以呢,deepc 团队给这个系统的定义呢是四个特征,连续、高效、主动、持久。

那下面介绍一下这个系统是由什么样的架构来实现的,主要呢是五个模块。据 deepc harry 自己团队说呢,是大多借鉴于经典的计算机的系统理论,包含了调度、缓存、存算分离以及 watch dog 看门狗这些思想。第一个模块叫做双层架构,router 和 worker。

常驻的 router 呢,是专门负责与人类对齐的,只负责收集信息、分派任务、维护全局上下文,本身不执行,甚至不会配 bash 工具,就是没有自己的 sandbox。据 deepc 团队自己说呢,这部分的工作呢,其实不需要特别强的模型,而且它的复合载量可以很大,因为它可以合并项。

如果一个请求来,可以直接路由,等下一次处理的时候呢,可能是多个合并请求。只有任务很大的时候,才会需要通过多层的方式来承载更多的请求量。那路由之外呢,就是 worker 了。多个上下文隔离的 worker 挂完整工具并行干活,互不干扰。worker 呢往往是最强的模型,而且呢按照 deepseek super agent 的设计理念,worker 之间呢是不共享上下文,所有上下文会回到路由器 router 层面来进行管理。

结果呢是统一的,由 router 回复。router 呢用轻量的模型,worker 呢用最强模型。第二个核心的模块叫做事件驱动,群聊消息、 request 评论、 ci 去 continuous integration,结果都当做输入。这些输入呢不再是人给的提示词,而是所有的办公环境里的所有的事件。

通过两层过滤,分别是程序规则, fast path 先筛掉噪音,而第2层呢是交给大模型, slow path 判断要不要行动,来把事件驱动的信息转变成给 router 和 worker 的提示词。那这个呢,事件驱动最核心的逻辑就是提升整个系统的主动性,不需要人类用户去处理事件并转变成提示词了。

第三个模块叫做订阅直通,某个 worker 接手一个 request 之后呢,直接订阅这条 thread,就是整个,无论是邮件还是群聊里面针对这个话题的所有的上下文信息,包括后续的评论,程序只发给他,不必绕回到 router。两个 worker 呢可以。

同时订阅一个 request,还能看到彼此的操作,自行发现冲突。所以呢,就是在 router worker 以外呢,他们增加了一个直通路径。直通路径的原因呢,就是如果把所有的请求瓶颈放在了路由器的话,整个的吞吐量和效率是比较低的。就像我们收邮件的时候,往往把同一个邮件的回复呢,合并到一个窗口,可以点击展开,而不是一条一条的按照时间线来展示,增加用户的馒头漏,就自己去跟踪完整事件的工作量。

第四个设计模块叫做上下文当缓存管,高频的信息类的联机上下文,长内容截断后的续读入口。每个对象呢,都带下一跳的 id,可一路找回旧任务。什么逻辑呢?就是 deepseek 在管理上下文的时候呢,其实把上下文和储存就 storage 呢进行了一个联动。

原来呢,短的记忆是靠上下文,长的记忆呢是靠 file system,是完全分开的。但是 deepseek 认为呢,其实上下文长了之后,自然而然就会变成记忆。所以呢,不如用一套完整的、统一的记忆范式。他们的说法叫做链式召回,chain of recall,就是每个记忆对指向需要对应的记忆链。

的之前的上下文的一个指针。如果需要更多信息,可以不断的放大上下文的信息量。其中呢,局部的关联信息呢,他们用了一个短期的关联信息叫 inline,超出上限的叫 spill,就是 spill over,相当于溢出。通过这样的方式呢,就可以把完整的上下文管理起来,因为浪费上下文窗口就是浪费模型的智能。

把上下文管理好,就可以减少模型的多次计算。第五个设计模块称为持久在线,主要指的是存算分离,计算在云端,绘画状态入库,代码仓和本地工具留在用户的机器里面,电脑离线任务也不会丢。独立的 watchdog 就是看门狗呢,定时的巡检,判断各 worker 是否陷入了无效的循环。

这个思路其实跟 anthropic 提出的脑手分离,decoupling the brain from the hands 是一致的。在同个任务里,它的记得储存可能在一部分,而它的 competition 运算是在另外一部分。针对任务的复杂度,也可以从个人的开发的电脑转变成云端的托管的环境。

整个的全流程呢,是在同一个协议下完成,让用户感知不到背后的切换。那实测数据呢,在目前的 super agent 的架构下呢,对比传统的。单 session 加上 sub agent 的这种方式完成任务的 p95的情况下,是时间是大幅减少。而蓝线跟绿线,大部分任务的耗时呢,是在 p95的情况下,super agent 的耗时呢,是在15.5分钟到15.7分钟。

而传统的单 session 加 sub agent 的方式呢,是达到了29分钟或者29.5分钟。所以整体效率呢提升了一倍。有关是否使用订阅直通,这个在 application study 中,当取消了订阅直通了之后呢,虽然完成时间是没有变,这个就是我们看到的蓝线跟绿线的区别。

但是路由的决策次数增加了30%。缓存的 token 从原来的2323万涨到了3177万,增幅约37%。说明了订阅直通这个设计原理呢,是影响成本结构的关键设计,并不是锦上添花。除了我们刚刚说的五大设计模块以外呢,deepseek 的 super agent 还有一些非常有意思的设计巧思,比如说投机执行,speculative execution。

它逻辑是什么?就是不要等着问题出现的时候再开始准备,而是在问题出现之前,当看到一定的势头时候,预先开始做对应的调研和准备,也可以主。主动把找到的结果呢提前提出来,防患于未然。比如说当收到一封会议邀约邮件或待办事项时呢,agent 可以先在后台核对日程的冲突,搜索相关的背景资料,并备好回复草稿。

待用户过目后呢,就可以立即确认发出,给一种感觉就是人类的用户的讨论还在进行,ai 的可靠的方案就已经准备就绪,仅待人类的最后确认。把积极跟主动性呢做到了极致。有关人机交互,deepseek 提出的一个新的范式呢,叫做全双工交互。它逻辑呢就是前台的对话响应与后台的任务执行被解耦,以一种异步 react loop 的方式让 agent 在后台运行 task 任务的时候,同时也能响应人类的输入。

新的输入在当前的推理部结束后即被执行,不必等待后台的工具完成。类似的其实在很多其他产品中我们已经看到了,随时可以打断对话,也可以随时可以开新的话题,就像人与人之间的沟通一样,不需要等待模型思考结束之后再开始新的话题。最后我们说一下 deepseek 为什么可以不断的创新,不断的开源。

这个其实是和 deepseek 的定位息息相关。deepseek 呢刚刚完成一轮超过1000亿人民币的融资。这个融资规模呢,在全球范围之内都是非常高的规模,仅次于 OpenAI 和 anthropic,是全球第三大 ai 公司的估值和融资额。

所以呢,这样的一个规模的融资呢,也带来了很强的社会责任。对于 deepseek 来说,赚钱本身呢可能都是次要的,而建立影响力,不断的推出具有影响力的产品,对 deepseek 来说很重要。而且事实情况也是,由 deepseek 推出产品呢,大家的关注度也会更高,也会对背后的产品的期待也会更高。

而从商业模式来说呢,至少在前期,deepseek 呢作为万方量化孵化出来的一个 ai 产品呢,它的核心的收入呢并不是来自 ai。梁文峰自己也说,他希望 deepseek 保持一个比较低的毛利,通过量化交易在资本市场上获取收益,再用这个收益呢投入到新的生产力。

ai 领域呢,其实是完全符合国家的发展的战略,因为全球范围之内,ai 带来的是第四次工业革命,是一次全球范围的经济转型的一个重要的关键时间点。所以我们更需要 deepseek 去创新、去引领、去建立影响力,这个对整个行业的社会价值,对于国产 ai 的世界范围的影响力是至关重要的。

来源:抖音 · 杨博士说AI · douyin.com