纽约时报长文还原 Dario Amodei：理性主义与有效利他主义如何塑造他的 AI 立场

纽约时报 11 月 5 日发了一篇 Anthropic CEO Dario Amodei 的长篇人物稿，赶在 Anthropic 本月上市之前。记者采访了他二十多位同学、朋友、老师和同事，还看到了他早年的邮件和在 OpenAI 的内部消息。 Dario 通过公司发言人拒绝受访。所以下面的故事大多是别人的回忆，只有一部分有邮件、博客等文件佐证。 这些人的说法归结起来是：Dario 年轻时泡在“理性主义”和“有效利他主义”两个圈子里，两者合在一起，让他认定 AI 危险到只有他和想法相近的人才值得托付去造。朋友和同事认为，这推动他抢在不在乎安全的人之前造出 AI，也让他想把这项技术掌控在自己手里。 【两个圈子是什么】 理性主义是围绕 Eliezer Yudkowsky 等人的博客形成的网络社群，讲究用冷静的推理看世界，其中很多人认为 AI 终将强大到毁掉人类社会。 有效利他主义跟它差不多同时成长起来，主张用数学算清楚怎么捐钱、怎么做事，才能让好处最大。两边共同相信：靠严密的计算，可以改变人类的未来。 【从小就爱算账】 Dario 在旧金山 Mission 区长大，父亲是皮匠，母亲管理公共图书馆的翻修工程。高中读的是旧金山最好的公立高中 Lowell，同时去伯克利上课。同学记得他那时就在琢磨功利主义，也就是“让最多的生命得到最多的幸福”。 上大学后，他和高中好友在寿司店争论功利主义。Dario 吃素，但认为吃螃蟹没问题，因为螃蟹是无脊椎动物。 朋友出了个思想实验：如果有人拼命杀鸡，杀到多少只时，杀掉这个人才算合理？据在场的 Nathan Avery 回忆，Dario 笑了笑，说从功利主义的角度看，总有某个数量的鸡，分量会超过一个人。 【父亲去世，和“时间有限”】 2006 年 Dario 从斯坦福毕业，去普林斯顿读物理博士，后来专攻生物物理和计算神经科学。同一年，父亲因丙肝去世。 前女友 Jade Wang 回忆，两人常聊：一辈子只研究一种病的科学家，影响力比不上给整个领域造工具和方法的人。Dario 举的例子就是父亲，父亲没等到后来能治好大多数丙肝的药。 2007 年，24 岁的 Dario 读完 Ray Kurzweil 的《奇点临近》，对来访的高中同学 Colin Heckman 说，奇点会在 2040 年前到来，人类以后可能和机器融合。Heckman 说他从此“着了

来源：X · 宝玉 · x.com