Encode 质问 Anthropic 是安全组织还是竞赛选手，Dario 回应承认三处沟通失误

Anthropic 被质问“是在做安全还是在抢超级智能”，Dario 回应：三处沟通失误认了，路线不改 AI 安全组织 Encode 的法律总顾问 Nathan Calvin 10 月 19 日在 X 上发长文，质问 Anthropic 到底是安全组织，还是一心抢先造出超级智能的竞赛选手。Anthropic CEO Dario Amodei 随后亲自回复。 起因是 Anthropic 私下给国会传阅的一份联邦 AI 法案草案。据 Politico 报道，按这份草案，政府要叫停一个 AI 模型，必须证明它迫在眉睫地可能造成 50 人以上死亡或重伤，或超过 10 亿美元损失。Calvin 认为门槛太高。 【Calvin 的质疑】 Calvin 认为，Anthropic 过去一年的行动更像在全力赛跑，安全排在后面。Calvin 举的例子包括：签下约 5000 亿美元的算力协议；内部 AI 研发里由 Claude 主导的比例，从年初几乎为零涨到 8 月的 26%；改版安全规则，删掉了“风险控制不住就主动暂停”的承诺。 Calvin 的核心问题是：Anthropic 每次犯错，为什么都恰好对自己有利？法案里那么多太宽松的条款，为什么没有一处错在太严的方向？ 【Dario 的回应】 Dario 承认有些事是失误，但不同意 Calvin 的结论。 Dario 说，Anthropic 的策略一直是“向上竞争”：自己先做出负责任的样板，逼整个行业抬高标准，而这只有站在最前沿才管用。所以买算力、做芯片、用 AI 加速研发，在 Dario 看来是这条路线的正常动作。 Dario 还列了 Anthropic 为安全付出的商业代价：生物安全过滤严到生物学家拿来开玩笑；最强的 Mythos 级模型压了几个月才大范围开放；不向中国控股公司卖 AI 服务；本周拿出公司 5% 股份成立公益基金。 Dario 承认没处理好的是三件事：一封给国会的信、一句“没法在第二名的位置上做安全”，以及这份法案草案。Dario 说这些是话没写仔细、团队之间没同步，作为 CEO 他负责。删掉暂停承诺这一项，Dario 认为可以讨论，但坚持旧规则太死板，改是对的。 Calvin 原帖：https://t.co/d7vZNQQJzm

来源：X · 宝玉 · x.com