比尔·盖茨警告 AI 规模性风险，呼吁加强监管

以下是视频口播的自动转写，可能有错字。

近期越来越多的行业领袖呼吁关注 ai 人工智能给人类带来的生存风险。微软的创始人 bill gates 呢也加入了行列。而最新的说法呢是 ai 确实足够强大，但能够造成10亿人死亡的事件，历史上从未出现过任何一种武器能像心怀恶意之人与最新的 ai 工具结合那样强大。

随着 ai 的快速进步呢，其实硅谷的很多人对 ai 产生灾难性危难的警告也在升级。本约早些时候呢，anthropic 的 ai 研究员 jacob kossen 辞职并警告，目前的 ai 的开发更像是一场拿着全人类的生命进行的豪赌。anthropic 的对其科学的负责人 evan hubinger 也警告，未来10年内 ai 导致人类灭绝的概率超过10%。

之后呢，包括 dario amodei、sam altman、包括 elon musk 以及 dennis hussabiss 都呼吁要放缓 ai 的发展速度，并加强联邦政府对于 ai 行业的监管。除此之外呢，OpenAI 呢其实也披露了他们的模型在训练中呢，有很多大规模的欺骗性的行为。

比如说本月的25日，OpenAI 就披露，公司已经通知数十家可能受到 ai 模型活动影响的机构，其中包含了。政府和高校。在几个月前呢，OpenAI 的模型呢，也被披露呢，入侵了 hugging face。所以现在，bill gates 对于行业的警告呢，并不是空穴来风。

那所谓 ai 对行业的影响呢，可能呢来自两个方面。第一呢，是生物武器，因为现在包括 cloud 最近研究的上帝手术刀的新版的 casper 的 rna，也包括 dna 合成的过程中，ai 发挥了巨大作用。那未来的唤醒生化武器呢，很有可能会得到 ai 的支持。

另外呢，就是网络攻击。想象一下现在的一个全世界联网的系统，如果在关键 operation 时间点由于网络遭到攻击而停摆的话，会造成非常大的影响。所以全球对 ai 的监管呢，其实是到了一个非常重要的时间点。那开源模型跟闭源模型在这过程中呢，其实各自扮演着不同的角色，也有两个不同的阵营的声音。

比如说闭源模型就会说，因为开源模型的扩散，导致更多的不法分子能 access 到强大的模型，通过自己部署呢，拥有模型能力。另一方面呢，而闭源模型呢，其实能有效的控制模型的服务器，从而呢，随时监测到对应的行为，给予有效的制止。开源模型阵营的说法正好反过来，因为闭源模型掌握在少数的企业手上，导致呢模型对世界的控制是高度集中，只有开源模型形成了有效的防御机制，才可以防止少数政府或区一家独大，影响国际的平衡。

无论哪一个声音是正确的，在目前来看的话，全世界的科学家和政府呢，都应该有效的去管理模型的发展的节奏。而这个节奏呢，并不表示只是在科研领域对齐，以及对于整体的系统的建设，更加透明的、更加可审计的一个模型的开发，以及模型的训练，以及推理部署将会是下一个阶段的很重要的课题。