最近这段时间，OpenAI的大佬Andrej Karpathy 在油管的一段视频反复出现在各种信息流里。近一个小时的分享，确实给观众讲清楚了很多基础的理念，其中关于LLM OS 的概念（下图👇）特别受欢迎。
新的 LLM 操作系统与操作系统之间存在许多等效性。像一个几乎看起来像今天的计算机的图表。因此，有内存层次结构的等效性。你可以通过浏览访问磁盘或互联网。等效于随机访问内存或 RAM，对于 LLM 来说，这将是你在序列中预测下一个单词的最大单词数量的上下文窗口。
上下文窗口是你的工作记忆、语言模型的有限宝贵资源。想象这个核心进程， LLM 试图在其上下文窗口内外传递相关信息，以执行你的任务，还有许多其他我认为也存在的连接。我认为多线程、多处理、猜测执行等都有等效性。在随机访问内存和上下文窗口中也有等效性。用户空间和内核空间也有等效性，还有许多其他与今天的操作系统等效的方面，我没有完全涵盖。
Andrej Karpathy
看到这个类比之后，最初的感觉是挺有意思，因为终于继 Agent 反复冲刷信息流之后，能看到点新词了。但是想仔细琢磨琢磨的时候发现不太对，这个类别似乎是因为这个概念似乎没太传递新的东西。无论是访问内容，还是上下文窗口，还是其他的多线程等，好像都是已知。
或许是没看到实际的东西，所以去Twitter上搜了下对应的讨论，直到看到了下面的这张图，get到了LLM Extended OS 这个概念的有趣。
LLM Extended OS 这个概念强调：
-
不会直接跳到一个LLM First 的环境，而是依然是 Human First
-
正是Human First的逻辑，它需要在人类可以提供适当反馈的系统上运行，这样才能借助人类的反馈进行需求强化学习。
-
所以它有例如人们日常在Mac OS上经常使用的应用一样
-
LLM 如何收集这些反馈？你向用户展示一个LLM操作界面。当LLM犯错时，>给出负面反馈。
-
最最重要的是，作者认为人们应该用自然语言和它直接对话，作者还列举了残障人士使用旁白功能的case
对比这两个概念，可以发现其实有明确的分割与界限的，LLM OS更像是远方革命性的彼岸，LLM Extended OS更像是一个渐进式的扩展 。后者可能更加切合当前技术发展的现状，因为它提供了一个平滑过渡的路径，让LLM技术可以逐步融入并增强用户的日常电脑使用经验。而前者是一个更加革命性的概念，它可能需要更长的时间来实现，但在未来可能为操作系统的设计和交互带来更深远的变革。
虽然我是个AI降临派，但是还是更喜欢后者这种能看到的东西，差异可能是在降临加速度的预期里吧。这里又想到了Anderj的签名，「打造一种像 JAVIS助手一样的东西」，可能这就是指LLM OS吧。
参考资料：
Andrej Karpathy 发布 LLM 入门课！一文带你了解 LLM OS 与 LLM 的未来
LLM Exteded OS作者 Robert Lukoszko — e/acc LLM Extended OS • full stack hacker • dropout