Anthropic 平台工程负责人 Katelyn Lesse：上千个 AI 智能体协同工作，程序员还需解决四个难题

Anthropic 平台工程负责人 Katelyn Lesse：上千个 AI 智能体一起干活，还缺程序员解决四个难题 AI 越来越会写代码，很多程序员开始怀疑自己的手艺还值不值钱。Anthropic 平台工程负责人 Katelyn Lesse 10 月 25 日发文说，她看到的情况正相反：接下来一两年，AI 想做成大事，得先靠程序员解决一批新问题。她说，现在是当工程师最有意思的时候之一。 Lesse 在 Anthropic 负责平台工程，据她接受 Kleiner Perkins 访谈时的介绍，团队约 200 人。她此前在 Stripe 和 Betterment 带过工程团队。这篇文章发在她的个人博客和 X 上，X 上阅读量约 61 万。 【这些问题从哪来】 AI 智能体，就是能自己调用工具、一步步完成任务的 AI 程序。Lesse 说，它最早只是聊天框，人盯着一问一答；后来模型能独立干更久、更难的活，开始搬到云端运行；再往后出现了多智能体系统：一个总管 AI 把任务拆开，分给一批助手去做，还有的 AI 专门负责打分、提建议。 她说，现在已经有人在搭由成千上万个智能体组成、连续工作不停的系统，用来做科研、新发现和硬件设计。规模一上来，就冒出了四类新问题。 【难题一：服务器怎么安排】 现在大部分软件跑在 Kubernetes 上，这是一套给服务器排班的系统，擅长管“一模一样的副本，哪个挂了换一个顶上”。Lesse 说智能体正好相反：每个都是独一份，记着自己干到哪了；大量时间在等模型回话、等工具、等别的智能体或等人回复，闲多久说不准，忙起来又可能一下冒出几千个。 Google 上个月开源的 Agent Substrate 就是冲这个问题做的。据 Google 官方博客，它能让闲着的智能体休眠、把资源腾出来，需要时半秒内唤醒。Lesse 说这块还有大量问题没解决。 【难题二：谁在干活，能干什么】 很多智能体用的是人的账号和权限，系统得分清某个操作是人做的，还是 AI 替人做的。更难的是授权：一个系统替你连干几周，你怎么事先讲清它能做什么、不能做什么？智能体之间互相派活时，一个智能体凭什么相信另一个？Lesse 说，确认身份可以借用现成技术，比如用很快过期的临时凭证代替长期有效的密钥；授权这块基本还是空白。 【难题三：一个被骗，全队遭殃】 Lesse 说，最近几个月，尤其最近

来源：X · 宝玉 · x.com