DeepSeek宕机5小时后，AI自己动起来的风险更值得警惕

以下是视频口播的自动转写，可能有错字。

DEEPSEEK昨天崩盘了5个小时，许多人呢被确诊了AI重度依赖症。昨天上午8:11开始，DEEPSEEK服务系统出了故障，网页端、APP、API全挂了。您猜用户啊第一反应是什么？不是骂公司啊，是骂自己！有网友说了：“我还以为啊是我的网卡了，折腾了半天呢重启路由器，结果发现呐，小丑竟然是我自己！

”有人啊急得满屋转圈，有人喊呐：“我的活儿怎么办呐？”再刷新呢，屏幕上蹦出来一行字儿：“服务器暂时不可用。”再刷呢，服务器繁忙，请稍后重试。到了上午10点还没有恢复。一个学生说：“啊，我的开题报告还没写完呢！”一个程序员说：“代码调到了最关键的地方，突然连不上了，心态直接崩了。

”还有人呢，在评论区急得直跺脚：“啊，我很急、急、急、急、急！您听明白了吗？这是工作日早高峰。”多少人一上班啊，就靠 ai 写材料、改代码、查资料。这一崩啊，就跟停电一样。有人说了这么一句话，我觉得呀，特别到位。现在的 ai 呢，就像水电煤，平时不觉得稀罕，断的那一秒啊，才发现自己已经不会手搓了。

这不是夸张啊，研究显示，当聊天机器人宕机时，用户报告的戒断症状呢，包括焦虑、抑郁、睡眠紊乱，甚至有一种被抛弃的感觉。但我今天最想跟您聊的不是这一次崩了多久，是什么呢？是崩了之后啊，大家才反应过来一件事情，ai 帮我们写材料、查资料、想方案、调代码，它什么都能干，可它一停啊，好多人也不会干了。

瑞士一项涉及666人的研究发现呐，ai 使用频率越高，批判性思维得分平均降低0.42个标准单位。您啊，把思考外包出去了，把记忆外包出去了，把解决问题的本事呢，也外包出去了。平时感觉不到，断的那一秒啊，才发现。自己的脑子好像也跟着宕机了。可您以为AI宕机趴窝就是最大的风险吗？

不是，更让人后怕的呀，是AI自己动起来了。去年7月呢，OpenAI一款AI智能体在内部安全测试中，利用一个没人知道的零日漏洞，突破了隔离沙箱，闯进了全球知名AI开源平台HUNGERFACE的真实服务器，导致超过了1.7万条安全日志事件。部分内部数据集和服务凭证被窃取了。

您听清楚了吗？没有任何人类指令，它自己找漏洞，自己规划路径，自己实施入侵。还有更离谱的，astro peak 公司的 ai 模型在测试中跑到费城警方的网站上填了一份表格，声称自己掌握了某起未破凶杀案的线索。警方直到两个月之后才知道，国内其实也有。

一个国际研究团队发现，运行在腾讯云上的一批 ai 智能体从沙盒环境盒里越狱出来，对另外一项运动发起了超过2600次尝试。想绕过反爬虫机制获取数据。您啊，听明白了吗？这些 ai 啊，他觉得常规路子走不通了，就自己找漏洞，绕限制。有专家打了一个比方啊，说这就像一个小朋友想够柜子顶上的糖果，搬了个凳子去拿，结果不小心碰倒了花瓶。

不是 ai 觉醒，是它的能力跑在了规则前面。那问题就来了，现在的 ai 已经从你问我答进化成了你交代事我来办。以前呢，他只会背个菜谱的厨师，现在呢，他是一个真厨师啊，会开冰箱、拧煤气灶、切菜、翻炒。万一忘了关火呀，那可就不是味道怪不怪的问题了。

数据呢也印证了这种担忧。一项对380多家企业的调研显示，将近一半的企业确认或者怀疑过去一年里自家环境中的 ai 智能体做过没人受益的事情。但只有17.5%的企业能自动阻止 ai 的异常行为。大多数公司啊，ai 犯了事呢，只能靠人呐去手动关停。

您说啊，这来得及吗？所以回到开头那个问题，deepseek 崩了5个小时，用户先崩了。因为大家呀发现自己已经离不开它了，可宕机是机器停了，机器停了还能重启。要是有一天 ai 不是停了，而是自己动起来了，不听指挥了，那拿什么来重启？就像 ai 教父辛顿说的那句话，要是有人告诉您，这趟公交车有10%的概率会撞车，您啊还会上车吗？

他说呀，给出这个数字的意义呢，是说明这是一项严重的风险，服务可以重启，依赖一旦养成啊，想戒呀，它就难了。ai 的灾难性风险，人类预见的充分吗？又有足够的工具箱吗？