
过去两年,AI 产品经历了奇怪的分裂:
它可以:
- 写 10 万字的报告,但不能为一段错误结论负责
- 分析千万级的数据,但不能解释一次失败决策
- 24 小时不停地对话,但不能说"我当时不该这么做"
——能力在扩张,责任却始终被人为按下暂停键。
看起来,我们给了 AI 越来越多的能力,却在关键时刻,始终不敢让它"做决定"。
这不是因为技术不够成熟,也不是因为企业保守。
而是因为一个被刻意忽略的事实:
AI Demo 很聪明,AI 决策却总被降级。
企业愿意让 AI 生成内容,却不敢让它改规则。开发者把 Agent 做得越来越复杂,却要在最后加上"人工审核"。
原因是什么?
答案藏在一张 70 年代就画出来的图里——它能精确测量出,为什么 AI 离"可以被托付后果的决策者",仍然有一段被刻意忽略的距离。
那张图:因果之梯

这是图灵奖得主朱迪亚·珀尔(Judea Pearl)提出的"因果之梯"(Ladder of Causation)。它将认知能力分为三个层次:
第一层:关联(Association)
- 核心问题:“如果我观察到 X,通常会看到什么?”
- 典型能力:识别模式、发现相关性、做预测
- 例子:看到发烧,推测可能感冒了
第二层:干预(Intervention)
- 核心问题:“如果我主动做 X,会发生什么?”
- 典型能力:理解因果关系、预判行动后果
- 例子:如果我吃退烧药,体温会降低吗?
第三层:反事实(Counterfactual)
- 核心问题:“如果当时我做了 Y 而不是 X,现在会怎样?”
- 典型能力:想象不同可能性、从失败中学习、承担责任
- 例子:如果我昨天早点吃药,今天会不会就不发烧了?
这三层的关键不在于"聪明程度",而在于问题类型的断层 。
第一层处理的是"世界是什么样",第二层处理的是"我能改变什么",第三层处理的是"我该为什么负责"。
但这里有个被大多数人忽略的事实:
当前多数所谓的"企业 AI",甚至还没站在第一层。
它们停在一个更底层的地方——我称之为"伪装成关联的规则层"。
什么意思?
传统的 if-then 规则系统,包了一层 LLM 的外衣,就被包装成"AI 决策系统"。它既没有统计学习的能力(真正的关联),也没有因果推理的能力(干预和反事实),只是在执行写死的业务规则。
这是全文的坐标原点,也是后面所有判断的出发点:大多数 AI 系统,连第一层都没站稳。
用这把尺子,量当下最热的东西
第一层:会说、会找、会总结
代表:LLM、RAG(检索增强生成)
这是当前 AI 最成熟的能力范围。
ChatGPT 可以写诗、编程、总结文档,但它做的本质是什么?
解释世界,而不是改变世界。
它在海量数据中发现了语言的统计规律,知道"什么样的话接在什么样的话后面概率更高"。当你问它"为什么",它给出的其实是"通常人们会这样解释",而不是真正的因果链条。
这不是批评——对于信息检索、内容生成、知识问答这类任务,第一层能力已经足够强大。真正的风险,是把这种成功,误当成了"理解世界"的证据。
问题在于,我们常常误以为"会说"等于"会想"。
一个能流利回答医学问题的 AI,和一个能为病人开药的医生,之间隔着的不是知识量,而是认知层次 。
前者在关联层,后者在干预层。
第一层的能力已经强到危险的程度——因为它让我们误以为"流利"等于"理解"。
第 0.5 层:Workflow——人类为 AI 搭建的因果拐杖
代表:RPA(流程自动化)、预定义工作流
这是个有趣的过渡态。
Workflow 看起来很"蠢"——每一步都是人类预先定义好的。但恰恰因为这种"蠢",它在企业中最可靠。
为什么?
因为 Workflow 的因果关系是人类写进去的。
“如果客户选择退款 → 检查订单状态 → 如果已发货 → 联系物流 → 如果未发货 → 直接退款”
这个流程里的每一个"如果-那么",都是人类的因果判断。AI 只是负责执行。
这就是我说的"人类的因果 + AI 的执行"。
Workflow 不是在第一层(它不是从数据中学习规律),也不在第二层(它没有自主干预能力),它在一个特殊的位置:人类用第二层思维,为停留在第一层以下的 AI 搭建了一座桥。
这也解释了一个反直觉的现象:
为什么很多企业宁愿用"笨拙"的 Workflow,也不敢上"聪明"的 Agent?
因为 Workflow 的因果链条是透明的、可审计的、可问责的。
出了问题,你知道是哪一步的逻辑有问题。
Workflow 不是 AI 的过渡形态,而是企业在因果能力缺失下,最理性的自保机制。Agent 的问题,恰恰在于它试图跳过这层自保。
但 Agent 呢?
第二层的幻觉:Agent 的"盲人摸象式干预"
代表:大多数当前市场上的 AI Agent、Agentic AI
这是全文最锋利的一刀。
Agent 看起来很美好:
- 它能调用工具
- 它能观察反馈
- 它能调整策略
- 它能"自主决策"
但这里有个根本性的错位:
它们在不断试错,但不是在预判;它们模仿第二层的动作,脑子里装的还是第一层的概率。
什么意思?
真正的干预能力需要回答:“如果我做 X,会导致 Y,因为存在 Z 这个因果机制。”
但当前的 Agent 在做什么?
“我看到过类似的场景,当时做了 X,然后出现了 Y,所以这次也试试 X。”
这是关联学习,不是因果推理。
一个具体的例子:
假设一个客服 Agent 遇到愤怒的客户。它可能会:
- 尝试安抚话术 → 观察客户反应
- 如果还生气 → 提出补偿方案
- 如果接受 → 执行补偿
- 如果拒绝 → 升级到人工
看起来很"智能",对吧?
但问题在于:它不知道为什么 这个补偿方案有效,也不知道如果不给补偿 会发生什么,更不知道这次补偿会对其他客户产生什么影响 。
它只是在用历史数据中的"成功模式",进行盲目的复制。
这就是"盲人摸象式干预":
- 摸到鼻子觉得像绳子,就用"绳子策略"
- 摸到腿觉得像柱子,就用"柱子策略"
- 但它从来没有见过完整的大象
更危险的是,市场正在把这种"能调用工具的聊天机器人"包装成"自主决策的 AI Agent"。
它们在不断试错,但每一次试错都可能带来真实的后果——客户流失、资源浪费、品牌损害。
而它永远学不会"下次该怎么做",因为它缺少因果理解。
第三层的缺失:为什么"责任"把 AI 卡在门外
现在到了最关键的部分。
为什么企业愿意让 AI 生成内容,却不敢让它做决策?
因为决策的本质是:对后果负责 。
而负责的前提是:能够后悔 。
什么叫"能够后悔"?
不是情感上的懊悔,而是认知上的反事实推理:
“如果当时我选择了 B 而不是 A,现在会不会更好?”
这是第三层能力——反事实推理。
只有具备这种能力,一个主体才能:
- 从失败中真正学习(不是简单的试错,而是理解为什么失败)
- 做出道德判断(“我本可以避免这个伤害”)
- 承担法律责任(“我知道这样做的后果”)
责任不是一种权限,而是一种能力;而反事实,是这种能力的最低门槛。这也是为什么,责任从来不是"赋予"的,而是"具备"的。
但当前的 AI 系统,完全没有这个能力。
它们无法回答:
“如果我当时推荐了另一个产品,客户会不会更满意?”
“如果我没有批准那笔退款,现在会是什么局面?”
“如果我选择了另一条路径,团队会不会避免这次损失?”
这不是技术细节,而是认知的本质鸿沟。
一个无法后悔的系统,在逻辑和法理上都无法被授权。
这就是为什么:
- 自动驾驶遇到事故,责任归属成为难题
- AI 医疗诊断必须有人类医生"背书"
- 金融 AI 的决策权被严格限制
不是因为技术不够好,而是因为当事故发生时,AI 无法回答"我本可以怎么做" 。
它甚至无法理解"本可以"这个概念。
而人类社会的责任体系,建立在"你本应该知道后果"这个假设之上。
这就是第三层的缺失带来的根本性障碍。
冷静收尾:不是悲观,而是校准
这篇文章不是为了唱衰 AI。
恰恰相反,它是为了校准期待 。
当我们用"因果之梯"这把尺子去衡量,就会发现:
- Chatbot 在第一层做得很好——不要指望它做决策
- Workflow 在第 0.5 层是务实的——承认 AI 需要人类的因果指导
- Agent 在尝试第二层——但大多数还在第一层打转
- 反事实推理 几乎是一片空白——这才是真正的瓶颈
这个框架的价值不在于预测未来,而在于提供一个持久有效的判断标准 。
五年后,当新的 AI 概念出现时,你依然可以用这三个问题来判断:
- 它能发现关联吗?(第一层)
- 它能理解干预的后果吗?(第二层)
- 它能进行反事实推理吗?(第三层)
在真正跨过因果之墙之前,AI 也许会越来越聪明,越来越像人。
但离"可以被托付后果的决策者",仍然有一段被刻意忽略的距离。
承认这个距离,不是悲观,而是清醒。
只有清醒,我们才知道该把 AI 用在哪里,不该用在哪里。
也只有清醒,我们才不会在 AI 的试错中,付出不必要的代价。
