当 AI 智能体遇见本体论：一位伯克利教育者关于护栏、幻觉与创造的思考

视频来源：Bilibili BV1JwgU6aEHN（UP: Mindofuture）/ YouTube: Sir59K8ZDPU 演讲者：Frank Coyle，UC Berkeley 教育者，计算机科学教龄三十余年 时长：约 21 分钟

一句话总览：这场演讲要回答的不是"怎么调好一个 Agent"，而是"当 Agent 在工具循环里越跑越快时，用什么给它兜底"。Frank Coyle 的答案是形式化的领域知识——本体论。他用一条"幻觉是特性不是 bug"的判断，把读者从"如何消除幻觉"的焦虑里拉出来，转向"如何给概率创造力装护栏"的工程问题。全文可以拆成一条主线：智能体负责行动，本体论负责裁决，两者在 21 分钟里交汇成一个可落地的三层防御方案。

没有输赢，只有创造

Frank Coyle 用 Sister Corita Kent 的一句话开场——这句话因作曲家 John Cage 的推广而广为人知：

Nothing is a mistake. There’s no win. There’s no fail. There’s only make.

没有什么错误。没有赢，没有输，只有创造。

一位在伯克利教了三十多年计算机科学的教育者，拿这句话为一场关于本体论（Ontology）的演讲起头，有点意外。但整场听下来，这句话不是装饰，是暗线。

Frank 的学习观很朴素：AI 时代最重要的事是动手做东西，通过创作来学习，而不是停留在阅读。他甚至推荐纸笔而非键盘——手写时整个感官系统都参与进来，学习更快。他早期职业生涯在神经科学领域，如今 Agent AI 把认知科学重新带回舞台中央，他算是"回家"了。

一个懂大脑的人来讲智能体，这场演讲不会只是 API 教程。

两条血脉，在 2026 年交汇

Frank 把智能体拆成了两条各自流淌了几十年的血脉。弄清它们是这篇演讲的钥匙，先给一张对照表，后面每一节都在这个坐标系里展开：

第一条是智能体。 它源自 AI 的创世纪：John McCarthy、Oliver Selfridge、Marvin Minsky——后者在《Society of Mind》里设想的"心智社会"，就是今天多智能体系统的思想原型。1956 年"人工智能"这个概念诞生，智能体最终演化为那个熟悉的循环：感知、决策、行动。

第二条是本体论。 它古老得多。亚里士多德最早提出"存在的哲学"（philosophy of being），并尝试对存在分类。20 世纪，哲学家 W.V.O. Quine 将其形式化。1993 年，Tom Gruber 给出了计算机科学领域的经典定义：

A formal specification of a shared conceptualization.

一个共享概念化的形式规范。

翻译成人话：本体论就是"我们如何概念化一个领域"的明确表达。这正是 Frank 认为今天的智能体最缺的东西——我们想让 Agent 在业务世界里可靠行动，却从未把我们对这个世界的概念化正式地交给它。

两条血脉，一条给了系统行动的能力，一条给了系统理解世界的骨架。

幻觉是特性，不是 bug

这场交汇有个时髦的名字：神经符号 AI（Neuro-symbolic AI）。

Frank 提醒听众别被这个词唬住——实质就是神经网络加符号 AI：一边是 LLM 这样的概率系统，一边是规则系统、知识图谱这样的形式化表征。

真正有意思的是 Frank 对幻觉（hallucination）的辩护，他给了一个反直觉的定性：

幻觉其实是 LLM 的特性（feature），不是 bug。

他的论证带着神经科学的视角：人类也在某种意义上"幻觉"。我们想象不存在的东西，然后把它们变成现实——每一座建筑、每一家公司，都先是被"幻觉"出来的。LLM 的概率性生成是同一种机制：它产出高概率的下一个词，有时候那个词指向一个不存在的事实。这是创造力的副产品，消灭幻觉就等于消灭生成能力本身。

顺着这个视角，问题就不再是"如何根除幻觉"，而是"如何给概率性的创造力装上护栏"。形式化的知识体系——本体论——就是那道护栏。神经符号 AI 的全部要义，是在概率创造与形式约束之间取得平衡：让模型去想象，让本体论来裁决。

本体论到底是什么

卸下哲学包袱后，本体论朴素得很：它是实体（entities）及其相互关系（relationships）的表征，实体还可以携带属性（properties）。

买家是一个实体，订单是一个实体，“买家下达订单"是一条关系，订单的"状态"是一个属性。如此而已。

这个朴素的想法催生了图数据库。背后的工程动因：关系数据库把数据塞进表格，加一个新东西往往意味着加新列、重构整个 schema；图数据库只需要附加一个新节点、一个新属性、一条新关系。对不断演化的领域知识，后者更友好。

本体论就是那套告诉你"哪些节点合法、哪些关系有意义"的规则书。

八十年的教训：专家系统为什么没有规模化

怎么构建一本规则书？Frank 给出两条路线，顺手讲了一段 AI 从业者该温故的历史。两条路线的差别在"实体从哪来”：

自顶向下（Top-down）：专家坐下来分析领域，列出实体——采购订单、客户、客服代表——定义属性和关系。这是八十年代专家系统（Expert System）的标准做法。当年日本启动了"第五代计算机"项目，美国人跟进，整个行业一片沸腾。

然后是一地鸡毛。专家系统无法规模化（couldn’t scale），资金链断裂，AI 进入寒冬。

自底向上（Bottom-up）：从真实业务数据出发——客户反馈、订单流水、客服记录——在实际材料中发现实体和关系，逐步添加进本体论。这条路慢，但每一步都踩在实地上。

Frank 补了一个类比：神经网络六十年代就提出了，当时同样无法规模化——因为世界上没有 Nvidia 的 GPU。直到有人把 GPU 塞进神经网络，才有了今天的大模型时代。

一个想法的失败，往往不证明想法错了，只证明它的时代还没到。专家系统如此，神经网络如此。今天 Agent 需要领域知识的形式化表征，本体论的时代或许才刚刚到。

不必重新发明轮子

构建本体论不需要从零开始。十五到二十年的积累留下了可以直接复用的资产：

• schema.org：主流搜索引擎共同维护的词汇表和关系定义，覆盖商业、人物、作品等常见领域；
• FOAF（Friend of a Friend）：专门用于社交网络建模的本体论；
• Dublin Core：描述论文、书籍等文献资源的元数据术语集；
• DBpedia：Wikipedia 背后基于本体论的图数据库。你在 Wikipedia 搜索时，背后查询的其实就是这个图数据库。

这些资产让"给 Agent 装上领域知识"从一项哲学工程变成一项集成工程。

RDFS 与 OWL：让机器自己推理

本体论之上，还有两层让机器"动脑子"的技术。

RDFS（RDF Schema） 提供 domain 和 range 的定义。Frank 举的例子很干净：如果"teaches（教）“这个关系的 domain 是"teacher（教师）"，那么系统读到"Bob teaches Scooter"时，可以自动推断 Bob 是一位教师；如果再规定"所有教师都是 person（人）"，那么 Bob 是一个人；如果"teaches"的 range 是"student（学生）"，那么 Scooter 是一名学生。

一个陈述，推出三条新信息。 这三条信息从未被任何人写下，是规则自己长出来的。

OWL（Web Ontology Language） 提供了更强的约束与推理能力：

• 传递属性（Transitive property）：Sue 是 Mary 的祖先，Mary 是 Ann 的祖先，那么 Sue 是 Ann 的祖先——链条可以无限延伸；
• 函数属性（Functional property）：“has_father"只能有一个值。如果数据里同时写着"Bob 是 Jim 的父亲"和"BB 是 Jim 的父亲”，推理器会得出结论：Bob 和 BB 是同一个人。

架构上的安排：这些推导规则并不住在图数据库里面，而是坐在旁边，作为**推理器（reasoner）**在需要时才被应用。数据保持干净，逻辑按需降临。

循环：图灵完备的最后一块拼图，也是事故的温床

Frank 用一个技术史钩子把话题拉回智能体。

1966 年，Bohm 和 Jacopini 证明了结构化程序定理：一门语言只要具备序列（sequence）、条件（conditional）、循环（loop）三样东西，就是图灵完备的——可以计算任何可计算的东西。

回看 LLM：序列有了，条件有了，唯独没有循环——模型一次调用只能产出一段文本。Agent AI 补上的正是这最后一块：让模型在循环里反复调用工具、读取结果、继续推理。智能体因此第一次成为图灵完备的系统。

但循环有代价。Frank 列了三种风险：

• 无限循环（infinite loop）：Agent 可能在某个状态里打转，永远走不出来；
• 会话漂移（drift off the rails）：多个 Agent 互相通话时，对话可能逐渐偏离正轨；
• Token 成本累积：每转一圈都在烧钱，失控的循环就是失控的账单。

Frank 的评语很直接：我们正在重访符号 AI 与专家系统的世界。八十年代的幽灵换了一身行头，回来了。

Claude 工具循环：本体论验证器该站在哪里

理论讲完，Frank 亮出了一段 Python 代码——一个标准的 Claude 工具使用循环（tool use loop）：

1. 把 prompt 和工具定义一起发给 LLM；
2. LLM 返回响应。这里有一个常被忽略的事实：LLM 什么都做不了，它只能给出高概率的下一个词。它可以替工具设置好参数，但不能执行工具；
3. 检查响应的 stop_reason——如果是 tool_use，代码负责真正执行工具；
4. 把工具结果送回 LLM，进入下一轮循环。

关键的洞察藏在第三步和第四步之间：工具执行之后、结果返回之前——这正是本体论验证器（ontology validator）应该介入的位置。 在结果进入上下文、影响后续所有推理之前，先用本体论检查它是否合法。

围绕这个位置，Frank 给出了三条工程建议：

• Pydantic 在门口：Python 是无类型语言，用 Pydantic 在入口做类型检查，把结构错误挡在门外；
• 本体论在账本：类型对不代表语义对，用本体论做语义层面的验证——这才是"护栏"的精确含义；
• 纯函数 Agent：Agent 应当尽量无副作用（no side effects）——在验证通过之前，绝不去改数据库。

类型检查管形状，本体论管意义，纯函数管后果。三层防御，各司其职。

OWL 能抓住哪些错误

Frank 用三个具体例子展示了 OWL 约束在实战中能捕获什么：

• 同一订单的第二次退款：退款与订单之间是函数属性，一单只能退一次。第二次退款请求触发 functional property 违规；
• 退款发给客服而非买家：客服和买家在本体论中是不相交（disjoint）的实体。退款对象写错角色，disjoint 约束直接报警；
• 虚构的状态值"probably shipped”：订单状态被枚举约束限定为 paid / shipped / refunded。“大概率发货了"这种概率味十足的状态，在枚举约束面前无所遁形。

在纯文本的世界里，LLM 的概率性就是会产出这类东西。这不是模型坏了，是模型的天性。有了本体论推理器作为护栏，这些错误可以被自动捕获——不靠祈祷，不靠人工审查，靠机器自己读懂规则。

只有创造

演讲在开头那句话里收尾：

Nothing is a mistake, there’s no win, no fail, only make.

现在再听这句话，味道不同了。幻觉不是错误，是创造的毛坯；失败的本体论迭代不是错误，是领域知识显形的必经之路。Frank 给 Agent 开发者的终极建议，和他给学生的建议是同一条：去做。构建你的本体论，给你的 Agent 装上护栏，在"make"的路上让错误变成资产。

谁该去看原视频

这场演讲的受众比表面看起来窄。如果你已经清楚"LLM 调用、工具执行、结果回填"这条循环，只想找更深的工程落地，那么 RDFS/OWL 推理器、工具循环验证器位置、Pydantic 三层防御这几节值得单独回看原片；其余部分读本文就够。如果你正卡在"Agent 为什么总是幻觉、怎么在系统层面约束它"这个问题上，本文已经把核心论证和结论讲完了，可以直接把它当作决策材料。若你只是想了解神经符号 AI 和本体论是什么，这篇博客的密度已经足够，不必再花 21 分钟。

想深入的话

演讲里点到、但没有展开的几个概念，值得顺着官方材料往下读：

• RDFS 与 OWL：语义网的两层标准，均由 W3C《RDF Schema 1.1》和《Web Ontology Language》规范定义。想看懂推理规则从哪来，直接从这两份规范入手，比看二手教程更省时间。
• Gruber 的定义：“形式化共享概念化规范"这句经典表述出自 Tom Gruber 1993 年的论文《A Translation Approach to Portable Ontology Specifications》，是理解"本体论为什么是工程而不是哲学"的起点。
• Bohm 与 Jacopini：1966 年证明结构化程序定理的原始论文，回答了"为什么三个控制结构就够图灵完备”，也是演讲里"Agent 补上循环才完整"这个判断的出处。
• Pydantic：演讲建议在工具入口做类型检查，与之配套的官方文档（数据校验与类型强制）能在几分钟内把"形状检查"落地成代码。

这些材料只补充演讲未展开的细节，不改变演讲本身的结论。

关于演讲者：Frank Coyle，UC Berkeley 教育者，三十余年计算机科学经验，早期从事神经科学研究。联系邮箱 coyle@berkeley.edu，个人网站 codesupreme.ai（名字灵感来自 John Coltrane 的《A Love Supreme》）。

名词索引：本体论（Ontology）| 神经符号 AI（Neuro-symbolic AI）| RDFS（RDF Schema）| OWL（Web Ontology Language）| 推理器（Reasoner）| 工具使用循环（Tool Use Loop）| 专家系统（Expert System）