从大模型到快慢思考：未来智能系统中 LLM、Jeff 与 RSI 的分工

以下是视频口播的自动转写，可能有错字。

讨论一下最近比较火的 jeff 模型跟 isi 模型。先说下 jeff，就像我之前说的，jeff 呢其实并不能代替现在的大语言模型。主要原因呢是 jeff 呢属于 system one，就是 quest 好，而大语言模型呢属于 system two，mass 好。

在绝大部分的场景里呢，大语言模型依然需要 llm 的规划能力和推理能力。实际上每次呢，在文本模型做 auto regression decoding 的过程中呢，其实就是一个推理思考的过程。如果完全丢失了这部分的话，想用 jeff 来代替的话，那其实是一个完全基于上下文和快思考的一个逻辑。

但人在思考中呢，其实很多时候呢，是需要一个连续性的，不断的去认知背后的潜在逻辑之后，才能找到最终的线索跟答案。所以呢，文本模型对于推理模型，对于一些复杂问题的价值还是很大的。那 system one，就所谓的 quest 好，这样模型呢，其实更多呢是起到一个小脑的作用，或者说是一个反生壶的作用。

它能快速的、零散的给出它当前的判断，这也是为什么它的速度很快，耗时很短，耗费的 competition 算力很少，成本也很低的原因。那我们认为呢，其实在未来的一个智能系统中呢，无论是 llm 还是 jeff 还是 harness 呢，其实是分担的不同角色。

文本模型呢，更多。多起的是大脑深度思考，java 呢更多起的是小脑，白质核这种快速判断，而 harness 呢更多起的是中长期的上下文，就是长期记忆的作用。这三个结合在一起呢，可能是一个更高效，也是更类似于碳基生命的一种智能的结合体。我也看了几个 demo，网上呢也有用户呢用 java 来替代文本模型，做一些对于机器人的简单动作的操作，以及呢策略游戏中的一个快速决策，多角色的快速的路线决策，包括一些3d建模等可以快速使用工具在有限的空间里面探索的工作。

那目前呢，java 的效率是远超过文本模型的，虽然性能上呢还是被稍微略差一点。那另一方面呢，现在 rsi 模型呢，其实在 java 的体系里面呢，可能是可以快速的进化。因为本身 rsi 呢，并没法替代传统的训练。rsi 的一个 recursive self improvement 的核心的逻辑呢，就是把数据采集到训练，再到最后的部署呢，这原来的异步的四件事情呢，结合到一个系统里面。

那这个系统呢，如果是想让它快速迭代的话，大概率是没法累积足够多的数据，也没法实现绝对的质的飞跃。但是在一个站模型里面却有很好的表现，因为它的更多是做一些分化，针对一些特定任务，对环境的反馈进行一个快速的。适应。所以呢，未来的模型训练呢，大概率呢也是分成两部分。

一个呢就是模型公司提供一些大的代际的模型的迭代，以及呢针对各自场景的适配和后续呢，可能会有 isi 的模型能力来替代，就是一边使用一边累积 trace 数据，这些 trace 数据呢用于非常高频的后续。然后再通过 eval 证明在特定任务上的能力的提升，再快速的部署进入生产，形成一个不依赖于三方训练公司的，在测试时训练的闭环，就是所谓的 test time training。

那未来的 ai 进入产业的话，我相信呢是一个从大模型到 jet 模型，这种快慢思考结合，从异步的大的代际的迭代，再到运行时的快速小迭代的一个完整的闭环。这个路线呢其实能更好的去满足类似 physical ai，就是 mhs 实现的从虚拟世界向物理世界迈进的一个重要的应用。

原因就是在物理世界里，很多的反应速度延时呢，是很关键的因素。而只有把规划和具体的执行分成两个不同的模型，才能实现快速的与物理世界的交互和反应。