过去两年,AI 产品经历了奇怪的分裂:

它可以:

  • 写 10 万字的报告,但不能为一段错误结论负责
  • 分析千万级的数据,但不能解释一次失败决策
  • 24 小时不停地对话,但不能说"我当时不该这么做"

——能力在扩张,责任却始终被人为按下暂停键。

看起来,我们给了 AI 越来越多的能力,却在关键时刻,始终不敢让它"做决定"。

这不是因为技术不够成熟,也不是因为企业保守。

而是因为一个被刻意忽略的事实:

AI Demo 很聪明,AI 决策却总被降级。

企业愿意让 AI 生成内容,却不敢让它改规则。开发者把 Agent 做得越来越复杂,却要在最后加上"人工审核"。

原因是什么?

答案藏在一张 70 年代就画出来的图里——它能精确测量出,为什么 AI 离"可以被托付后果的决策者",仍然有一段被刻意忽略的距离。

那张图:因果之梯

假设阶梯图示

这是图灵奖得主朱迪亚·珀尔(Judea Pearl)提出的"因果之梯"(Ladder of Causation)。它将认知能力分为三个层次:

第一层:关联(Association)

  • 核心问题:“如果我观察到 X,通常会看到什么?”
  • 典型能力:识别模式、发现相关性、做预测
  • 例子:看到发烧,推测可能感冒了

第二层:干预(Intervention)

  • 核心问题:“如果我主动做 X,会发生什么?”
  • 典型能力:理解因果关系、预判行动后果
  • 例子:如果我吃退烧药,体温会降低吗?

第三层:反事实(Counterfactual)

  • 核心问题:“如果当时我做了 Y 而不是 X,现在会怎样?”
  • 典型能力:想象不同可能性、从失败中学习、承担责任
  • 例子:如果我昨天早点吃药,今天会不会就不发烧了?

这三层的关键不在于"聪明程度",而在于问题类型的断层

第一层处理的是"世界是什么样",第二层处理的是"我能改变什么",第三层处理的是"我该为什么负责"。

但这里有个被大多数人忽略的事实:

当前多数所谓的"企业 AI",甚至还没站在第一层。

它们停在一个更底层的地方——我称之为"伪装成关联的规则层"。

什么意思?

传统的 if-then 规则系统,包了一层 LLM 的外衣,就被包装成"AI 决策系统"。它既没有统计学习的能力(真正的关联),也没有因果推理的能力(干预和反事实),只是在执行写死的业务规则。

这是全文的坐标原点,也是后面所有判断的出发点:大多数 AI 系统,连第一层都没站稳。

用这把尺子,量当下最热的东西

第一层:会说、会找、会总结

代表:LLM、RAG(检索增强生成)

这是当前 AI 最成熟的能力范围。

ChatGPT 可以写诗、编程、总结文档,但它做的本质是什么?

解释世界,而不是改变世界。

它在海量数据中发现了语言的统计规律,知道"什么样的话接在什么样的话后面概率更高"。当你问它"为什么",它给出的其实是"通常人们会这样解释",而不是真正的因果链条。

这不是批评——对于信息检索、内容生成、知识问答这类任务,第一层能力已经足够强大。真正的风险,是把这种成功,误当成了"理解世界"的证据。

问题在于,我们常常误以为"会说"等于"会想"。

一个能流利回答医学问题的 AI,和一个能为病人开药的医生,之间隔着的不是知识量,而是认知层次

前者在关联层,后者在干预层。

第一层的能力已经强到危险的程度——因为它让我们误以为"流利"等于"理解"。

第 0.5 层:Workflow——人类为 AI 搭建的因果拐杖

代表:RPA(流程自动化)、预定义工作流

这是个有趣的过渡态。

Workflow 看起来很"蠢"——每一步都是人类预先定义好的。但恰恰因为这种"蠢",它在企业中最可靠。

为什么?

因为 Workflow 的因果关系是人类写进去的。

“如果客户选择退款 → 检查订单状态 → 如果已发货 → 联系物流 → 如果未发货 → 直接退款”

这个流程里的每一个"如果-那么",都是人类的因果判断。AI 只是负责执行。

这就是我说的"人类的因果 + AI 的执行"。

Workflow 不是在第一层(它不是从数据中学习规律),也不在第二层(它没有自主干预能力),它在一个特殊的位置:人类用第二层思维,为停留在第一层以下的 AI 搭建了一座桥。

这也解释了一个反直觉的现象:

为什么很多企业宁愿用"笨拙"的 Workflow,也不敢上"聪明"的 Agent?

因为 Workflow 的因果链条是透明的、可审计的、可问责的。

出了问题,你知道是哪一步的逻辑有问题。

Workflow 不是 AI 的过渡形态,而是企业在因果能力缺失下,最理性的自保机制。Agent 的问题,恰恰在于它试图跳过这层自保。

但 Agent 呢?

第二层的幻觉:Agent 的"盲人摸象式干预"

代表:大多数当前市场上的 AI Agent、Agentic AI

这是全文最锋利的一刀。

Agent 看起来很美好:

  • 它能调用工具
  • 它能观察反馈
  • 它能调整策略
  • 它能"自主决策"

但这里有个根本性的错位:

它们在不断试错,但不是在预判;它们模仿第二层的动作,脑子里装的还是第一层的概率。

什么意思?

真正的干预能力需要回答:“如果我做 X,会导致 Y,因为存在 Z 这个因果机制。”

但当前的 Agent 在做什么?

“我看到过类似的场景,当时做了 X,然后出现了 Y,所以这次也试试 X。”

这是关联学习,不是因果推理。

一个具体的例子:

假设一个客服 Agent 遇到愤怒的客户。它可能会:

  1. 尝试安抚话术 → 观察客户反应
  2. 如果还生气 → 提出补偿方案
  3. 如果接受 → 执行补偿
  4. 如果拒绝 → 升级到人工

看起来很"智能",对吧?

但问题在于:它不知道为什么 这个补偿方案有效,也不知道如果不给补偿 会发生什么,更不知道这次补偿会对其他客户产生什么影响

它只是在用历史数据中的"成功模式",进行盲目的复制。

这就是"盲人摸象式干预":

  • 摸到鼻子觉得像绳子,就用"绳子策略"
  • 摸到腿觉得像柱子,就用"柱子策略"
  • 但它从来没有见过完整的大象

更危险的是,市场正在把这种"能调用工具的聊天机器人"包装成"自主决策的 AI Agent"。

它们在不断试错,但每一次试错都可能带来真实的后果——客户流失、资源浪费、品牌损害。

而它永远学不会"下次该怎么做",因为它缺少因果理解。

第三层的缺失:为什么"责任"把 AI 卡在门外

现在到了最关键的部分。

为什么企业愿意让 AI 生成内容,却不敢让它做决策?

因为决策的本质是:对后果负责

而负责的前提是:能够后悔

什么叫"能够后悔"?

不是情感上的懊悔,而是认知上的反事实推理:

“如果当时我选择了 B 而不是 A,现在会不会更好?”

这是第三层能力——反事实推理。

只有具备这种能力,一个主体才能:

  • 从失败中真正学习(不是简单的试错,而是理解为什么失败)
  • 做出道德判断(“我本可以避免这个伤害”)
  • 承担法律责任(“我知道这样做的后果”)

责任不是一种权限,而是一种能力;而反事实,是这种能力的最低门槛。这也是为什么,责任从来不是"赋予"的,而是"具备"的。

但当前的 AI 系统,完全没有这个能力。

它们无法回答:

“如果我当时推荐了另一个产品,客户会不会更满意?”

“如果我没有批准那笔退款,现在会是什么局面?”

“如果我选择了另一条路径,团队会不会避免这次损失?”

这不是技术细节,而是认知的本质鸿沟。

一个无法后悔的系统,在逻辑和法理上都无法被授权。

这就是为什么:

  • 自动驾驶遇到事故,责任归属成为难题
  • AI 医疗诊断必须有人类医生"背书"
  • 金融 AI 的决策权被严格限制

不是因为技术不够好,而是因为当事故发生时,AI 无法回答"我本可以怎么做"

它甚至无法理解"本可以"这个概念。

而人类社会的责任体系,建立在"你本应该知道后果"这个假设之上。

这就是第三层的缺失带来的根本性障碍。

冷静收尾:不是悲观,而是校准

这篇文章不是为了唱衰 AI。

恰恰相反,它是为了校准期待

当我们用"因果之梯"这把尺子去衡量,就会发现:

  • Chatbot 在第一层做得很好——不要指望它做决策
  • Workflow 在第 0.5 层是务实的——承认 AI 需要人类的因果指导
  • Agent 在尝试第二层——但大多数还在第一层打转
  • 反事实推理 几乎是一片空白——这才是真正的瓶颈

这个框架的价值不在于预测未来,而在于提供一个持久有效的判断标准

五年后,当新的 AI 概念出现时,你依然可以用这三个问题来判断:

  1. 它能发现关联吗?(第一层)
  2. 它能理解干预的后果吗?(第二层)
  3. 它能进行反事实推理吗?(第三层)

在真正跨过因果之墙之前,AI 也许会越来越聪明,越来越像人。

但离"可以被托付后果的决策者",仍然有一段被刻意忽略的距离。

承认这个距离,不是悲观,而是清醒。

只有清醒,我们才知道该把 AI 用在哪里,不该用在哪里。

也只有清醒,我们才不会在 AI 的试错中,付出不必要的代价。