跳到正文
抖音 · 晓辉博士· 晓辉博士·· 5 小时前AI 评分22

Agent 越来越多企业怎么管?聊聊智能体基建与 AI 原生生产力飞轮

Agent越来越多企业怎么管? 聊聊智能体基建 AI让一个人更高效之后,为什么整个组织未必跟着提效?最近参加活动逛展,我带着最近和企业交流时反复听到的问题,去看了看Agent进入组织以后需要什么。展台上几个看起来很技术的概念,让我对这个问题有了新的理解。当越来越多Agent加入团队,我们为什么需要关注智能体基础设施?为什么智能体基础设施可能会是构建AI原生生产力飞轮的关键?这期视频我们边逛边聊。 内容导航 00:00 组织提效卡在哪里 01:38 为什么需要沙箱 02:22 上下文存在哪里 02:47 看清智能体的运行 04:11 模型调用如何协同 04:40 从超级个体走向超级组织 #AI #AI原生生产力飞轮 #人类职业进化计划 #智能体基建 #AgentInfra

AI 导读

随着越来越多 Agent 进入企业,组织提效的关键转向智能体基础设施(Agent Infra)。视频结合腾讯全球数字生态大会 Workbody 展台见闻,梳理了 sandbox 隔离、上下文存储、Agent 可观测性以及 tokenhub 一站式模型调用等环节,认为这套 agent runtime 治理体系是从超级个体走向超级组织的必要支撑。

打开原文douyin.com
博主

粉丝 52万

华科本科-清华博士-创业5年-互联网大厂-俩娃妈 每天分享生活日常和成长感受,努力做到不着急不害怕 交流合作联系 @xhbs助手

互动数据
点赞
448
评论
23
分享
37
收藏
104

数字来自平台,为最近一次抓取时的数据。

正文

以下是视频口播的自动转写,可能有错字。

哈喽,我今天来到了腾讯全球数字生态大会的现场哈!你看我后面这个展台就是Workbody的展台,然后我也见到了不少新老朋友。那其实整个逛展给我留下非常深刻印象的哈,有一个概念叫“AI原生生产力飞轮”。那啥意思呢?其实我最近一段时间哈,其实我也去企业做了不少分享,然后企业家们都非常关心一个话题,就是怎么能够真的从个体提效来到啊组织提效,就是超级个体怎么变成超级组织。

那一直以来我们可能讨论了非常多关于组织变革的问题,包括整个部门墙怎么打破是吧?然后怎么更扁平化的问题。但实际上今天我逛展给我留下很深刻印象的是,我们要从技术上去解决这个问题,可能就会涉及到在 ai 时代,我们怎么能够给 agent 提供一套全新的基础设施哈。

所以呢,这个 ai agent 基础设施哈,这个事情,agent infrastructure 这个事情哈,就我学到了非常多。那首先呢,就是我们要知道今天这个 agent 啊,进入到我们的组织中,其实它跟人是完全不同的一种物种。它可能有非常强的不确定性,然后包括它也可控性也没那么强,然后我们要给它非常多的权限体系等等。

要给他提供新的环境,所以整个的这一系列的东西哈,我们可能都需要重新去思考,怎么能够从 agent 能够跑起来,让他真的变到可规模化、可信赖。那所以整个这套理念其实叫 agent run time,就是 agent 它在运行的时候,我们怎么给他提供一个更好的环境。

更好的一套治理的方案。那这个我觉得可能是接下来,就是每一个企业都会面临到的一个问题哈。那首先我们来看一看,就是在这个里面,其中有一个非常重要的一个概念哈,叫 sandbox。那我知道这个概念其实是之前在很多大模型的训练场景,它会起很多的沙箱。

那为什么要沙箱呢?就是因为 agent 它有很强的不确定性,它要在这个工作的过程中,你需要给它隔离,把它隔离下来,这样的话你的权限限制在一个稳定可靠的这个范围内哈。所以,那怎么能够啊管理好这些沙箱?比如说,那我有这么多 agent 同时跑起来,那我的大规模的这个沙箱能不能并行?

怎么能够让它快速响应?所以在这个方向上啊,就是我们怎么能够去给 agent 提供一个非常好的环境,这个是第一件事哈,就是从技术方面要解决的一个问题。那第二个呢,就是说存储,我有环境之后,我怎么存储上下文,然后怎么存储啊他的一些工作上需要的,用到的东西。

那除了这些存储啊,然后 sandbox 啊之类之外哈。还有就是 agent 可观测,就是啊你你这个 agent 如果它就只是在运行,但是它出了错,你也不知道它什么时候出错,然后它哎突然出了一个什么样的问题哈,你也没办法观测的话,其实是很大的挑战。

所以如何让 agent 变得可观测,其实也是在 agent 治理方面一个非常重要的话题。那我刚才还在问同事啊,那是不是就是呃我们之前很多大模型的厂商,他在呃去做强化学习训练的时候,他会用到 sandbox,那是不是未来每个企业都会。涉及到这个 sandbox 或者说 agent 的 infra 呢,他说是的啊,为什么呢?

因为这个我们可能企业中 agent 越来越多的时候,包括我们员工用 work body 越来越多的时候,那你的这些数据存下来总需要治理吧?你总需要去有一个持续的监测吧?你总需要去沉淀大家的 skill 吧?那这个时候就需要一套体系来去帮助我们去理解这套 agent 到底是怎么在运行,到底产生了什么样的效率哈。

所以呢,就是这个可观测也是非常重要的一件事哈,比如说像你这个钱花在哪里?然后有哪些卡点?然后,那这个整个这套体系在调用的时候用了什么样的模型?然后这些模型在运行的过程中出现了什么样的问题?或者说它的成本到底怎么样?其实有一套体系的话,就像你开车的时候有一个仪表盘一样,你可以知道到底我的这个油用了多少,我的这些钱花在了哪里,到底起到了什么效果。

所以从这点上来看,这个可观测性也是非常非常重要的一件事哈。然后除了这个之外呢,我们再来看看哈,比如说像这个 tokenhub。像一些企业,他在呃调用这些大模型服务的时候,能不能一站式地去调用各种各样的模型啊?我们这些互联网的企业也好,或者是一些其他领域的企业也好,大家是不是可以用一套方案去呃完成各种模型的调用?

不同的模型在不同的能力下,能不能更快速地跑起来?所以这些全都是呃企业目前他非常关注的呃一些事情哈。那呃我们说从超级个体到超级团队、超级组织,那整个的这个过程中,可能还真的需要这么一套基础架构。因为今天的组织可能跟之前只靠人啊、只靠人的这些经验能力已经完全不一样了。

所以我们在这个这个背景下哈,能不能啊有这么一套全新的方案和思路去应对今天的这个局面哈?我觉得是非常必要的一件事儿。我觉得可能这个也是接下来企业家们会需要多多关注的一点吧。嗯。拜拜。

来源:抖音 · 晓辉博士 · douyin.com