人工智能，尤其是大型语言模型出现之后，一个越来越难回避的问题是：
AI究竟是在重新排列人类已有的知识，还是能够产生新知识？
回答这个问题，需要进入认识论和本体论。一个系统形成新的组合，是否等于形成了新的概念？形成新的概念，是否等于获得了知识？而且什么叫“新知识”？
一、从罗素的自然数说起
我们可以从一个看似很远的问题开始。伯特兰·罗素（Bertrand Russell）在讨论自然数时曾提出这样一种思路：
“在什么情况下，两个类具有相同的数？答案是：当它们的元素能够一一对应时，它们就具有相同的数。也就是说，其中一个类的每一个元素，都对应于另一个类中且仅对应于一个元素……当这种关系在两个类之间成立时，这两个类便具有某种共同性质；反过来也一样。我们把这种共同性质称为它们的数。这就是通过抽象来定义数。”
于是，自然数 n 可以被理解为所有包含 n 个元素的类所共同具有的某种东西，而这种共同性通过元素之间的一一对应关系被识别出来。这里可以有两种不同的理解：
外延主义（Extensionalism）立场：数 = 所有具有相同数目元素的类所组成的类；
内涵主义（Intensionalism）立场：数 = 这些类共同具有的性质。
或者说，外延主义从“哪些类属于其中”来理解数，内涵主义则从“这些类共同具有何种性质”来理解数。由这个例子，我们可以进一步转向一个更一般的问题：究竟应该如何理解“性质”本身？
外延主义倾向于把一种性质理解为所有具有这种性质的对象所组成的集合。例如，“秃”这一性质，可以理解为“所有秃的人”构成的集合；“红色”则可以理解为“所有红色对象”构成的集合。
内涵主义则认为，性质并不能完全还原为拥有这种性质的对象集合。假设在某个世界中，所有有心脏的动物恰好都有肾脏，而且所有有肾脏的动物也恰好都有心脏。那么：
有心脏的动物的集合 = 有肾脏的动物的集合
但我们仍然不会因此认为：
“有心脏” = “有肾脏”
因为“有心脏”和“有肾脏”仍然是两个不同的性质。也就是说，一个性质并不仅仅取决于“哪些对象属于这个集合”，还涉及这些对象以什么方式被归为一类，以及它们共同具有的究竟是什么。而一旦把“外延与内涵”这一区分带入 AI 问题，事情就会变得非常有意思。
二、把AI看成一个巨大的“外延机器”
当然，下面并不是把传统外延主义直接套在AI身上，而只是借用这种区分来重新描述AI处理知识的方式。如果把AI看成一个巨大的“外延机器”，大型语言模型的训练材料可以被想象成一个极其庞大的符号世界。其中有词语、句子、文档、图片、数学表达式、对象之间的关系、概念之间的共现，以及这些东西之间数不清的统计联系。于是，我们可以把AI所处理的“知识”理解为一个巨大的“对象—关系”网络。
AI所做的事情，是在这个网络中进行分类、组合、变换、插值和重新组织。例如，训练材料中已经存在：
“鲸鱼”、“海豚”、“鱼”、“蝙蝠”、“鸟”……
也存在：
“鲸鱼生活在水中”、“鲸鱼用肺呼吸”、“鲸鱼是哺乳动物”、“鱼通常用鳃呼吸。”
AI于是可以重新组织这些对象和关系，并指出：
某些生活在水中的动物虽然外形类似鱼类，却通过肺呼吸，而且属于哺乳动物。
从一个非常严格的外延角度看，这似乎并没有向世界中增加什么新东西。鲸鱼原来就在集合里。海豚也在。“肺呼吸”“水生”“哺乳”这些关系也已经存在于训练材料中。AI只是重新组织了已有元素。于是很容易形成一种看法：
AI并没有创造知识，它只是在一个极其庞大的已有集合中进行排列组合。
这种说法听起来很有力量，而且某种意义上当然是对的。但问题是，人类的新知识难道不是也经常由已有元素重新组合而产生的吗？
三、“重新组合”并不等于“没有创造”
这是讨论AI时特别容易忽略的一点。如果仅仅因为一个结论使用了已有元素，就认为它不可能是新知识，那么人类的大量科学发现也会遇到同样的问题。例如：
E = mc²
这里的能量 E、质量 m、光速 c，相等，平方都不是爱因斯坦第一次发明出来的概念（这一点有争议，其实是名词还是这些名词，但有些名词的意义发生了变化，我在后面会进一步说明）。真正的新东西，是这些已有概念之间建立起了一种此前没有被明确认识到的关系。同样，一条新的数学定理所使用的数字、集合、函数和逻辑规则往往早已存在。新知识并不一定意味着创造了新的“概念”或者“关系”，而可能意味着发现了此前没有明确表征出来的新结构。
语言也是如此。人类几乎说出的每一句新话，都是由以前已经存在的词汇组成的。莎士比亚没有发明英语中的全部单词，牛顿也没有创造“质量”“运动”“力”等所有基本概念。创造性也往往恰恰发生在“已有元素之间建立了以前没有显现出来的新关系”。因此，真正的问题不应该只是“AI是不是在排列组合”这个问题。而应该是，“AI的排列组合有没有形成新的、稳定的、具有解释力或预测力的结构”？这就开始从外延问题进入内涵问题。
四、AI能不能形成新的“性质”？
如果采取一种偏内涵的理解，我们就不再满足于问AI是不是划出了一个新的集合。我们会进一步问，“AI是否形成了一个新的概念”？例如，假设AI处理大量实验数据之后，把原来看似互不相关的一组现象归在一起，并提出：
这些现象可能受到同一种隐藏机制控制。
这里发生的事情已经不仅仅是把 A、B、C、D 重新划成一个集合。更重要的问题是，AI是否形成了一个能够解释“为什么A、B、C、D应该属于同一类”的新性质或新结构？
换句话说：
分类（classification）≠ 概念形成（concept formation）
分类只是告诉我们哪些东西被放在了一起。概念则试图告诉我们，它们为什么应该被放在一起。这正是内涵与外延的区分对于AI问题真正有启发性的地方。借用这一区分，我们可以追问，AI是否只是重新划分已有对象、符号和关系的外延，还是能够形成具有独立解释力的新性质、新概念和新结构？如果后一种情况成立，那么“AI只是随机拼接训练语料”至少已经是不充分的描述。
五、从“组合”到“概念”，再到“知识”
然而，即使AI真的形成了新的概念，也仍然没有解决最困难的问题。因为，“形成概念不等于拥有知识”。我们可以把AI问题分成三个层次。
第一层是组合问题。AI是否能够产生训练材料中没有逐字出现过的结果？这个问题相对容易回答：当然可以！大型语言模型可以生成训练语料中没有出现过的句子；生成模型可以设计训练数据中不存在的图像；科学AI可以提出新的分子结构、材料候选、数学猜想或者实验组合。所以，“AI只能复制训练资料”这种说法显然太强。但是，这只证明了AI具有某种生成能力。它不能直接证明AI拥有知识。
第二层是概念问题。AI是否形成了训练材料中没有被显式规定的新性质、新分类方式和新解释结构？如果一个模型只是把大量文本中的相关性压缩到一个高维向量空间中，那么它形成的究竟只是一个极其有效的统计索引系统，还是某种真正具有概念性质的结构？这正是今天关于大型语言模型争论的核心之一。
一种观点认为，语言模型归根结底只是极其复杂的模式匹配器：pattern matching。另一种观点则认为，当这种统计结构足够复杂之后，模型内部可能形成某种真正具有表征功能的概念结构：representation。甚至进一步涉及：understanding，问题由此从“它说了什么”，转向“它内部形成了什么”。但是，即使我们承认了AI形成了内部概念结构，还存在第三层问题。
第三层是知识问题。即使AI形成了新的概念结构，那么“新的概念结构凭什么成为知识”？传统认识论并不会把任何内部表征都自动称为知识。一个人的大脑中也可以形成错误信念、幻想和误解。一个理论可以非常漂亮、内部非常自洽，却完全错误。AI同样可以形成极其稳定、结构复杂的内部表征，但这套结构可能与现实世界没有可靠关系。所以，知识问题最终要求我们从AI内部重新走向外部世界。
六、Grounding：语言有没有真正接触世界？
这也引出了AI哲学中一个经常出现的问题：“grounding”。中文很难找到一个完全自然的译法，可以译成“语义奠基”“落地”或者“指称基础”。它要问的问题其实很简单：
一个符号为什么能够指向世界中的某个东西？
假设一本中文词典这样解释：“苹果：一种水果。”
再查：“水果：植物产生的可食用果实。”
再查：“植物：一种能够进行光合作用的生物。”
如果你永远只能查词典，却从来没有见过、摸过、闻过或者吃过一个苹果，那么所有符号都只是在用其他符号解释。语言形成了一个巨大的网络，却始终没有真正走出语言本身。这就是所谓“符号奠基问题”（symbol grounding problem）所担忧的事情。
传统的人类认知至少部分通过视觉、触觉、行动、身体、因果互动、实验操作等方式与世界建立联系。而一个纯文本语言模型主要通过人类已经产生的符号来学习。于是我们可以问：
它是真的知道苹果是什么，还是只知道人类通常怎样谈论苹果？
这两种能力在行为上可能极其接近，但在认识论上是否相同，仍然是一个问题。
七、AI真正的难点：命题如何成为知识？
到了这里，AI是否能够“创造知识”，已经不能简单回答为“能”或者“不能”。更准确地说，这首先取决于我们如何定义“知识”。
哲学上对于知识并不存在一个毫无争议的统一定义。最经典的分析之一，是把知识理解为“证成的真信念”（justified true belief，JTB）。按照这种分析，一个主体 S 知道命题 p，至少要求三个条件：
p 为真；
S 相信 p；
S 对 p 具有适当的证成。
（说明：盖梯尔问题以后，人们已经认识到还需要第四个条件，这里不进行说明，感兴趣的读者可以自己查查资料。）
AI可以生成一个命题。我们甚至可以进一步假定，这个命题恰好是真的。但是，true proposition ≠ knowledge。也就是说，真命题并不自动等于知识。
在“真命题”与“知识”之间，还隔着一个认识主体，也就是一个 Knower。
那么，什么样的东西有资格成为Knower？
传统认识论通常默认，Knower 是一种具有心智状态的认知主体。至少，如果知识包含 belief，那么 Knower 就必须能够相信某个命题。它不仅仅是储存信息，而要能够以某种方式“把 p 当作真的”。这一区别没有看起来那么简单。例如，我们看到这样一串符号：
“╔☺※╊☼”
如果不知道这些符号的编码规则，那么我们甚至不知道它是否表达了一个命题。假如有人告诉你，这串符号其实表示“勾股定理”，你“相信”吗？
没有现代人会把一段刻在出土石板上的楔形文字看作是知识，虽然它有可能几千年前被某群人看作是至高真理。同理，几千年以后，人类在一座古墓里发现了一个data center，并装有封存时代最现今的AI。它储存有封存时所有的知识并且能进行所谓的推理与交互。未来人给它通电，甚至还能成功运行，在屏幕上也恢复出了字符串；但是未来人已经完全不知道这些字符的编码方式，也不理解其中使用的语言。
那么，这个 data enter 所储存的东西与所运行的AI程序是不是“知识”？
在这里至少必须区分三个东西：信息 → 意义 → 知识 （information → meaning → knowledge ）。Data center 当然可以承载信息，却很难说它因此 “知道” 这些信息。一本书可以包含大量知识，但书本身并不是 knower。
同样的问题也适用于 AI，即使它还可以对其存储内容进行排列组合。
八、AI第二个难点：如何与世界建立联系？
即使暂时放下 knower 的问题，假定 AI 可以形成某种类似 belief 的内部状态，对于科学知识而言，这仍然不够。因为科学知识并不是一个封闭符号系统内部的自洽结构。一个科学命题还必须受到经验世界的约束。因此，类似于前面说的Grounding（符号的指向），第二个问题是：
AI形成的新概念、新解释、新结构和新表征，与经验世界之间究竟建立了什么样的关系？
一个只从已有文本和数据中学习的 AI，面对的通常是一条经过多层中介的认识链：
现实世界 → 人类观察 → 测量 → 论文或数据 → AI
AI所处理的，往往已经是被人类观察、编码、筛选和组织过的信息。
这并不意味着 AI 无法从中发现新的规律，但它意味着 AI 与世界之间仍然存在一定距离。它面对的不是未经中介的现实，而是现实经过人类认知与记录之后留下的数据痕迹。如果未来 AI 要真正参与科学知识的创造，一个重要方向可能是让它建立更直接的感知、行动和反馈循环：
AI假说 → 实验或干预 → 现实世界 → 测量 → AI修正假说
AI不仅提出假说，还能够设计实验、操作仪器、进行测量，并根据实验结果修改自己的理论。它必须能够重新与产生这些数据的现实过程发生联系。
九、AI第三个难点：语义的转变
即使 AI 成为了某种意义上的 knower，而且它形成的理论也受到经验世界的约束，还存在第三个问题：AI产生的结构究竟“意味着什么”？
这里必须首先区分 syntax 与 semantics，也就是语法与语义。一个系统可以按照某些规则生成字符串，却不意味着这些字符串已经获得了我们所理解的意义。因此，这里存在一个重要的跳跃：句子 → 命题 （sentence → proposition）
一个句子首先是一组符号结构；一个 proposition，则是这个句子所表达的内容，是能够被判断为真或者假的东西。
但在科学中，语义的问题还要复杂得多。科学中概念的意义并不是永远固定不变的，其意义存在于特定科学语境中。
例如，“质量”这一概念在牛顿力学与相对论中的理论角色并不完全相同。“引力”这个概念在亚里士多德、笛卡尔、牛顿与爱因斯坦的理论中，也处在非常不同的概念网络之中。
因此，一个科学概念并不是简单地一个词有一个固定定义。它更接近这样一种关系，一个概念的意义，往往取决于它在整个理论结构中的位置。
当科学理论发生变化时，一个术语所承担的理论角色、它与其他概念之间的关系，以及它与实验测量之间的联系，都可能同时发生变化。
那么，AI是如何发生这种概念语义转变的？
十、AI第三个难点：知识是有社会性的
一个 AI 即使能够生成一句人类从未说过的话，这本身并不值得惊讶。语言中可能的句子几乎是无限的，生成一个“新句子”并不困难。真正困难的是，它能否提出一个新的概念，使原来互不相关的现象第一次被统一起来；或者改变一个已有概念的理论角色，使一个新的科学理论成为可能。但是，这个信概念仍然不是“科学共同体的知识”，因为科学知识不仅是个人意义上的 knowledge，也是一种公共知识。
这也回到前面的Knower问题上，要想成为“科学知识”，不但有一个Knower，要有很多很多的Knowers，而一个个体所拥有的知识，也不自动成为科学共同体所接受的科学知识。科学知识必须具有一定程度的可交流性、可检验性和可批评性。科学知识是个社会产物，那么，
AI如何进行这些“可交流性、可检验性和可批评性”等社会性活动的？
十一、无法摆脱的认识论的问题
由以上讨论可以看出，知识不是那种被等待发现的事实，如果不是被人发现，就是被A I发现。
这种 “知识客体论” 存在巨大问题，会引发灾难性后果。更被广泛接受的理解是：
知识是被认知主体所创造的东西。
AI 是否能够“创造知识”，就不再只是一个关于计算能力或者语言生成能力的问题。它同时涉及
i) 认识主体、
ii) 信念、
iii) 世界联系、
iv) 语义、
v) 证成，以及
vi) 科学共同体 (社会)。
而这些问题，恰恰也是认识论本身一直没有完全解决的问题。所以，AI问题最终并没有让我们摆脱古老的认识论问题。它也迫使我们重新面对一个更基本的问题：
我们自己究竟是如何把经验变成知识的？
“我想主张，最好把人工智能看作与传统认识论具有同样的地位：它们都是以最一般、最抽象的方式，自上而下地追问同一个问题——知识何以可能 ？” —— 丹尼尔·丹尼特，《作为哲学与心理学的人工智能》（1979），第60页。
I want to claim that AI is better viewed as sharing with traditional epistemology the status of being a most general, most abstract asking of the top-down question: how is knowledge possible ? —— Daniel Dennett, “Artificial Intelligence as Philosophy and as Psychology” (1979) , Philosophical Perspectives in Artificial Intelligence , pp. 57–80