给大模型装上康德的眼镜：为什么能，为什么不能
Transformer 不是缺先验范畴，是缺世界模型
知乎上有人问了一个好问题：能不能把康德的十二先验范畴整合进大语言模型里？
提问者引用了一个不错的比喻——”两朵乌云”：杯子掉到地上会碎（因果），洗车店里要有车（存在）。他问：这些概念，LLM 先天没有，能不能通过整合康德的范畴体系来补上？
这是个很好的问题。因为它触及了当前 AI 争论中最深层的一对矛盾——LLM 到底是”懂了”，还是只是”记得”？
先拆一下”整合”到底是什么意思
把十二范畴”整进”LLM 里，按工程手段可以分成三种方案，可行性天差地别：
方案A：做 Prompt 模板
把十二范畴写成 Chain-of-Thought 引导链，让模型推理时依次经过”量→质→关系→模态”四步。2025 年就有人在知乎上发过 KI-CoT（康德启发的思维链），做的是这个方向。
可行性高。但本质是提词器，不是架构层面的改变。
方案B：做注意力机制的结构化约束
比如把因果性硬编码进 attention mask，把实体关系做成专门的 attention head。
可行性中等。可以做，学术界也有人在试。但问题在于——你人工定义的”因果约束”，一定比模型从数据里学出来的相关性结构更优吗？
方案C：做训练目标的先验注入
把十二范畴作为模型必须遵守的逻辑约束，在 loss 层面惩罚”违反因果律”的输出。
可行性低。因为你根本没法形式化”违反因果关系”的检测器——要检测它，你首先需要一个判断因果的神谕（oracle），而那就是你最终想训练出来的东西。
一个不常被提到的事实：Transformer 已经长成了康德
这里有一个很少人点破的东西：Transformer 的架构，在功能上已经做到了康德先验范畴要做的事。
康德的十二范畴是什么——先于经验存在的、人类组织经验的认知框架。”我不用学就知道时间和因果是什么，因为我的大脑出厂时就装了。”
LLM 用什么？Architecture + Pre-training。
- Positional Encoding ≈ 时空的先天形式。Transformer 不需要学”先后顺序”是什么——Positional Encoding 已经编码了序列位置信息，这就是架构层面的先验时间观。
- Attention 机制 ≈ 实体关系的先验操作。Attention 的本质是”什么东西和什么东西相关”，范畴里的实体/偶性、原因/结果就是做这个的。
- Multi-head Attention ≈ 量的三个范畴（单一性/多数性/全体性）。每个 head 关注不同的抽象层级。
你以为”还没有的东西”，Transformer 架构的设计者——不一定是故意的——已经在架构里塞了功能等价物。
但问题恰恰在这里
功能等价 ≠ 效果等价。
Transformer 的”因果性”是从数据里学出来的统计相关性，不是逻辑因果性。休谟三百年前就说了：相关性不是因果性。
LLM 用几十 TB 数据学到的，本质上就是休谟式的”经验习惯”，而不是康德的”先验框架”。
杯子掉到地上会碎——LLM 知道这个。不是因为它理解了因果律，是因为它读过的每一篇文章里，杯子碎了后面都跟着”拿扫把扫””小心别踩到碎片”这些描述。它知道的是“杯子碎了这个事件后面的常用序列”，不是“撞击力超过陶瓷的抗拉强度”。
你问它”为什么”，它能给你一个完美的物理学解释，因为它背过《十万个为什么》。但你换一个它没见过的场景——“如果一个杯子掉到气态行星的表面会怎样？”——它就卡住了。因为训练数据里没有直接答案，而它内部又没有一套能模拟物理因果的引擎来做推导。
那引入康德范畴能救吗？
能，但只在两类场景里：
- 需要严格逻辑边界的问题（数学证明、法律三段论）——如果你硬编码了”实体不能同时存在和不存在（矛盾律）”，确实能减少幻觉
- 需要跨领域类比推理的问题——如果模型内置了”事物之间的关系不是单向而是互动的”这个结构，某些类比推理会更扎实
但在其他场景——写故事、翻译、闲聊、创意生成——硬塞先验范畴反而是在束缚模型。你写一篇小说不需要想着”单一性/多数性/全体性”。
你真正想要的不是康德范畴，是世界模型
回到”两朵乌云”的比喻。提问者说”杯子掉地上会碎对应因果，洗车店里要有车对应存在”。这个比喻对，但不全对。
LLM 当前真正的软肋不是缺先验范畴，而是它没有一个可以对未见场景进行推理的因果结构。
这个结构，在工程上不叫”先验范畴”，叫世界模型（world model）——一个能让模型在脑海里做物理模拟、因果推理和反事实思考的内部结构。
目前有三个方向比”整合康德范畴”更靠谱：
1. 世界模型 / 可微物理引擎
让模型学会物理规律的低维表征，在推理时对未见场景做模拟。Google DeepMind 的 Genesis 和 World Model 系列在走这条路。
2. 神经符号推理
用符号逻辑作为硬约束，神经网络做软匹配。本质上就是方案B的高级版，但用的是可学习的符号结构，不是静止的范畴分类。
3. 环境交互 / 具身认知
让模型通过实际互动来修正自己的因果模型——自己就知道因果关系是通过操作观察到的，不是写在训练文本里的。
这三个方向任何一个走通了，在功能上都覆盖了康德十二范畴想做的事——而且做得更多、更灵活。因为它们不是哲学家分类学式的”先验结构”，而是可演化的、数据驱动的因果引擎。
所以
一拨人在说：LLM 没有先验范畴，所以永远达不到人的智能水平。
另一拨人在说：Transformer 在训练过程中已经自己学出来了功能等价物。
我站中间偏右——Transformer 自己学出来的那副”眼镜”确实不够用（气态行星的杯子就是证明），但解决方案不是把康德的十二范畴当螺丝拧进去。
康德提供了一副眼镜。而 LLM 需要的不是换眼镜，是学会自己打磨镜片。
首发于 austincafe.tech