Anthropic 首位嵌入式评估方竟是 Accenture?双方五年投入至少 10 亿美元
Anthropic 宣布 Accenture 旗下 AI 部门 Faculty 的员工将进驻公司,评估和红队测试模型、开展对齐评估并测试模型防护措施,双方预计未来五年至少投入 10 亿美元。消息公布后 Accenture 股价盘后上涨 8%,Anthropic 称未来数周将公布更多评估方,并正与 METR 等非营利机构商谈由其自筹资金试点嵌入式评估。
Anthropic 宣布 Accenture 旗下 AI 部门 Faculty 的员工将进驻公司,评估和红队测试模型、开展对齐评估并测试模型防护措施,双方预计未来五年至少投入 10 亿美元。消息公布后 Accenture 股价盘后上涨 8%,Anthropic 称未来数周将公布更多评估方,并正与 METR 等非营利机构商谈由其自筹资金试点嵌入式评估。
Hacktron 的三名安全研究员利用 Anthropic 的 Claude 模型,通过 OpenAI 社区论坛在不到 72 小时内攻入 OpenAI 内部系统,访问了员工的 ChatGPT 和 Codex 账户,并进入其 GitHub 内部代码仓库。
选题角度:三名研究员用 Claude 在 72 小时内攻破 OpenAI 内部系统,可梳理漏洞链与 Opus 5 前后能力差异。
Anthropic CEO Dario Amodei 提出 "Pace the Frontier" 计划,主张依靠独立安全评估机构与民主国家 AI 实验室之间的协调来把控 AI 发展节奏。该提案已获得部分行业支持,但遭到 Nvidia 的黄仁勋明确反对。Equity 播客就此讨论各公司能否就"放缓"的定义达成一致,以及由谁来监管。
Anthropic CEO Dario Amodei 提出"pace the frontier"方案,主张依靠独立安全评估机构与民主国家 AI 实验室之间的协调来放缓前沿 AI 开发,该提议已获部分行业支持,也遭到 Nvidia 黄仁勋的尖锐反对。
本周 AI 圈围绕"是否应放缓 AI 发展"展开争论:Musk 支持 Dario 的前沿节奏主张,Altman 表示认同,Hassabis 为 Dario 的文章背书,而 Zuckerberg 明确反对 AI 放缓。
Google DeepMind 新成立的 Deepmind Institute 发布首批文章,研究员 Rohin Shah 和 Anca Dragan 认为可见思维链(CoT)是关键安全优势,因为模型用自然语言写出中间步骤,研究者能借此发现其是否在欺骗或形成有问题的计划。
Anthropic 公布内部指标:截至 2026 年 8 月,其 26% 的研发工作达到 Epoch AI 定义的 AL4 级,即由 Claude 主导,而 2 月这一比例不足 1%,没有任何工作达到完全自主的 AL5。
初创公司 Hacktron AI 的三名安全研究员借助 Anthropic 的 Claude 攻入 OpenAI,通过串联两个漏洞接管了多名 OpenAI 员工的 ChatGPT 账号,并借此进入公司内部软件,最终获得 OpenAI 6500 美元漏洞赏金。
OpenAI 推出 Astra for Law,这是其 GPT-6 Astra 模型面向法律工作的版本,搭配法律检索索引以及分析和写作指令。该索引覆盖美国判例法、法规和条例,涉及超过 2.3 亿个 URL,数据来自 Free Law Project,后者称覆盖超过 99.9% 已公布的美国判例。
42 位数学界人士联名致信英国皇家学会主席,要求英国科学院向政府和媒体警示先进 AI 的存在性风险,署名者包括菲尔兹奖得主 Martin Hairer、Peter Scholze 和 Wendelin Werner,且均未与 AI 公司有隶属关系。
Claude Code 的 Projects 功能迎来全面重构,原生支持多 Agent 玩法:用户下达高阶目标后,Coordinator 协调器把任务拆成子任务,分派给运行在云端独立环境的 Claude Code 实例,各自拉出独立 Git 分支并行写代码与单测,完成后自动提交并生成 PR。
Anthropic CEO Dario Amodei 发近 4000 字长文呼吁放缓 AI 开发、建立国际协同的安全部署机制,OpenAI 的 Sam Altman 与 xAI 的 Elon Musk 表示支持。Meta CEO Mark Zuckerberg 则称信任与对齐正成为区分模型与智能体的最重要能力,并透露 Meta 因安全考量将 Muse 的发布推迟了数月,暗示政府监管并非必要。
Anthropic 重建了 Claude Code 的 Projects 功能,用户只需描述目标,协调者会把工作拆分到多个并行 thread,每个 thread 作为独立云端会话运行,进度可在主聊天或单个 thread 中查看,也支持移动端。
英国国王查尔斯在 Dumfries House 主持私人 AI 峰会,Nvidia 黄仁勋、OpenAI 和 Anthropic 代表、英国新任 AI 大臣 Kanishka Narayan 及情报部门负责人出席。
Emerald AI 与 Google、Nvidia 成立 AI Energy Management Alliance(AEMA),Anthropic 及 AES、Constellation、National Grid、NRG Energy 等公用事业公司加入,通过需求响应让数据中心暂停非关键任务或转移算力负载,据称可为电网额外接入 100 吉瓦数据中心容量。
Claude Code 团队在访谈中披露,已将 70%-80% 的日常工作交给 Slack 原生的 AI agent Claude Tag 完成,不再逐条审视 tool call 和模型决策,而是下达 goal 让模型自行达成。
Anthropic 宣布将 Claude 的 Chat 与 Cowork 两个入口合并,并新推出 Claude Docs 和 Claude Slides 两个办公产品。
Anthropic CEO Dario Amodei 在周末发表的长文中提议,在所有前沿 AI 公司内部常驻第三方评估员,赋予其报告安全事件、评估模型是否真正对齐并公开原始发现的权利,Anthropic 承诺向 METR、Redwood Research 等独立评估方开放前所未有的系统访问权限,Sam Altman 表示 OpenAI 也将作出同样承诺。
AI Explained 梳理了研究者呼吁"放慢"前沿 AI 背后的六大观察维度,涉及事故报告与趋势,以及 Amodei、Demis Hassabis、Noam Brown、Jakub Pachocki 等人的相关表态。视频还讨论了 AI 是否正变得更难控制、多智能体系统中的模式与问题,以及从 AI 能力到现实危害的路径。
Anthropic CEO Dario Amodei 提出由外部机构审计 AI 安全实践,OpenAI、Google 和 SpaceXAI 高管已表态支持。但多位安全专家认为,前沿实验室应先做好日志、权限和沙箱隔离等网络安全基本功,并对智能体会话实施限时与实时监控。OpenAI 已开始以"显著算力成本"监控 Astra 模型所有使用工具的推理,Anthropic 也在扩大模型可观测性。
Apple 正研发面向 AI 开发者、企业和政府的企业级服务器,将提供双芯和四芯 M8 Ultra 两个版本,专用于已训练模型的 AI 推理。该服务器考虑采用 Nvidia 的 NVLink Fusion 连接芯片,最早 2029 年推出,项目仍可能被取消或不采用 Nvidia 技术。
Anthropic 把 Claude Chat 和 Cowork 合并成一个产品,用户不再需要自己判断该用哪个界面,Claude 会自行判断任务需要什么。同时推出 Claude Docs 和 Claude Slides,可在对话中创建、编辑并导出为 PowerPoint 或 PDF 文件,原有的 Claude Design 也并入对话;关闭笔记本后任务仍在云端继续运行。
Anthropic 把 Claude 聊天与 Cowork 的前端合并为统一界面,用户可在同一窗口内使用聊天、Cowork 和 Artifacts,Claude Design 也可在 Claude 内任意位置使用。
OpenAI 发布 GPT-6 Astra,AI Explained 在视频中将其与 Fable 对比,并梳理最亮眼的结果、额外对比和交易相关表现。视频还提到一个令人担忧的趋势,即 GPT-6 Astra 的思维链可监控性正在减弱,并附上 OpenAI 的 GPT-6 Astra 页面与部署安全论文链接。