理解信念:人工智能的科学理解

  信念构成了我们对世界认知的很大一部分。我们不但有关于物体、关于文化、关于过去和关于未来的信念，而且有关于他人的信念，并且相信他们也有信念。我们利用信念去预测、去解释、去创造、去安慰、去娱乐，并把其中的一些信念称之为理论，我们在构建它们时极具创造力。量子力学理论、进化论和相对论便是例子。这些理论都是我们丰富的思想试图为观察到的现象寻找解释的产物。在本书中，尼尔斯•尼尔森教授将揭示我们的信念能为我们做什么、我们是如何持有它们的以及如何评价他们的。

   我们的信念构成了我们对世界的认识的很大一部分。作者通过本书带我们一起检查信念，了解信念为我们做什么，我们是如何持有信念的，以及如何评价信念。作者指出，应该仔细评价我们的信念，因为它们影响着我们如此多的行动和决定。我们所持有的信念可通过概率量化，并通过信念网络影响其他信念的概率。故此，我们可以通过调整科学方法的一些做法，并通过咨询专家的意见，来重新评价我们的信念。

◆ 译者简介 ◆

◆ 推荐序 ◆

信念，《现代汉语词典》解释为“自己认为可以确信的看法”。据此定义可以看出，信念具有很强的主观性。人人都会有信念，但未必都考虑过信念本身的问题。本书中，尼尔斯·尼尔森教授结合自身经历，探讨了信念的产生、形成、性质、作用、影响及其评价方法，讲述了他的元信念，即他自己关于信念的信念。全书涉及科学、哲学、社会学及心理学，内容丰富，观点新颖，耐人寻味。

书中提到，人们主要通过感觉，如看、听、触、读等，给所相信的事物建立解释以及衍生结果来获取信念。而感知到的东西主要取决于人们基于信念的期望，因此人们时常“看到”所期望看到的事物，而看不到不期望的，所以眼见不一定为实。人们应该用判断性思维检验信念，而判断性思维的要素包括寻求专业人士的观点,考虑信念的解释与结果，并消除能被更可信的方案替代的解释。依据统计学，信念的强度可使用概率定量表示，即通过频率方法或主观概率估计确定。信念可在一种“贝叶斯信念网络”中进行计算，该网络中每个信念的可信度都会影响其他信念的可信度。本书中详细介绍了科学方法、科学知识的本质和科学探索的基本过程，基于科学的各种实验方法也为评价信念提供了可行的参考方案。尼尔森认为，所有存储在一个计算机系统中的陈述性信息就构成它的信念，因此机器人也有信念，如谷歌的无人驾驶车和IBM的沃森。而且，在形成有用信念的能力上，机器人与人类几乎处在同一水平上。尼尔森强调,人们的日常信念应该接受变化，如同科学理论的发展一样，应逐步完善。由于心理因素及生活方式的原因，人们容易被一些“信念陷阱”所困，而应对陷阱的好方法，就是将信念置于他人“理由充分”的批评之下。

尼尔斯·尼尔森是人工智能学科的奠基性研究者之一，他从个人的研究背景出发，以独特的视角解读信念的内涵，论述深刻，说服力强，值得一读。

张 钹

清华大学教授，中国科学院院士

译者序

科学与信念

一年多前，我去俄勒冈州拜访在梅德福享受退休生活的斯坦福大学计算机系前主任、人工智能实验室的创始元老尼尔斯·尼尔森教授。聊天时，望着从自己后院流过的清清小溪，尼尔斯突然对我说，他越来越不相信真理的存在，真理不过是非常合理而且十分可靠的信念而已！为此，他专门写了本小册子，就是刚由麻省理工学院出版社出版的《Understanding Beliefs》《理解信念：人工智能的科学理解》。

我一时无语，感到愕然。这似乎与我“认识”的尼尔斯不同。我从来都认为尼尔斯是推动人工智能研究从“文学”到科学的功臣，一生追求科学“真理”，治学极其严谨。我本人也曾深受其影响，30多年前通读了他在机器学习、人工智能和智能机器人方面几乎全部的著作和论文，还写过数篇评论文章。尼尔斯曾是以逻辑推理为主导的人工智能“纯净派”（Neats）的先锋大将，就连实质为连续逻辑的模糊逻辑都被其斥为“暂时的癖好”（temporary idiosyncrasy）。因此，他一直给人以一种“要么是真理，要么什么都不是”的“正统”的感觉。记得1992年我本人带学生去加州硅谷圣何塞参加届AAAI（当时的美国人工智能学会，现在的人工智能促进会）举办的机器人比赛和展示时，与时任AAAI主席的尼尔斯不期而遇。当时，他对智能机器人的未来发展所持的态度也给我一种基于逻辑之必然“真理”的感觉。眼下，尼尔斯对真理的“新”认识，多少有些让我感觉是对“真理”的“模糊逻辑”式的理解，但我相信这不是尼尔斯“暂时的癖好”。

其实，尼尔斯现在对真理的看法更能引起我的共鸣。关于真理，从来都有客观与主观、唯物与唯心的争论。叔本华把作为真理载体的世界视为意志和表象的合成，尽管不同哲学家对谁为意志、谁为表象的看法往往截然相反，但多数认可其源自柏拉图的“理念”是意志和表象之间的一个中介的观点。或许，信念就是多数人“相信了的理念”的简称，是人们进行思维活动的工具和表达思维活动结果的方式而已。

问题是，思维本身也是时间或时代的函数。思维是人类认识世界的方式和手段。狭义地讲，就是人们思考问题、表述问题、讨论问题的“框架”（Framework）。在不同的历史阶段，人们对思维“框架”的认识也不同，古希腊的柏拉图有“蜡板”之说，工业革命前夕的法国哲学家笛卡儿有“天赋观念”之论，英国哲学家洛克还有“白板”理论，等等。正如后来德国哲学家恩格斯所言：“每一个时代的理论思维，包括我们这个时代的理论思维，都是一种历史的产物，它在不同的时代具有完全不同的形式，同时具有完全不同的内容”。

我们处于什么时代？我们又需要什么样的思维和信念？这是一个重要的问题。我认为人类社会已进入开发波普尔的第三世界“人工世界”（虚理世界）的“新IT”（Intelligent
Technology，智能技术）时代，我们需要“计算思维”和“智能信念”。对此，作为人工智能和智能机器人的杰出开拓者，尼尔斯的《理解信念：人工智能的科学理解》一书为我们提供了很好的思考材料和启示路径。

在文艺复兴和科学兴起之前，人类追求的主要是神圣的“上帝认可”，期盼“天人合一”，否则心中不安。现代科学体系确立之后，我们的追求变为牛顿定律般永恒的因果律“理性认可”，希望“知行合一”，否则就不彻底。今天，物联网、大数据、云计算等新IT技术唤醒了人们对个性化、针对性、瞬变态等“长尾”现象的兴趣与关注，导致具有局部和暂时特性但有效的“关联认可”，特别是“数据关联”的思维与相应的数据挖掘和机器学习等方法与技术的崛起。这是“暂时的癖好”，还是发展的时代趋势？我们只能拭目以待。

更进一步，生物医学，特别是近年来脑科学的研究表明，每个人的思维方式可能都有其特殊的生物结构、生理状态和心脑框架。正如尼尔斯在书中所描述的，许多研究表明思维与大脑的生理构造相关，思维活动与一个人的DNA和脑结构相关联，甚至人类语言结构就是大脑组织的反映，这一切更与每个人的人生成长经历密不可分。这就是维特根斯坦所声称的：人们不是在“看东西”，而是“看成什么东西”（People not only  “see
things”, they “see them as something”）。如此多的主观变数，难怪尼尔斯要说：无论柏拉图是怎么想的，我们的思维都无法直接通向“永恒的真理”。

可是，诚如爱因斯坦所言：“整个科学无非就是对日常思维的提炼。”因此，我们对于真理、信念、思维等问题的讨论一定要持开放的态度，不要忘记科学中海森堡的“测不准原理”，库恩的思想本质上“不可分度、不可比较、不可交流”的“3C”理论，哲学上“明希豪森三重困境”（Munchausen Trilemma）所揭示的人之理性与智力的局限性。数学家和哲学家怀德海也讲过：“没有完全的真理，所有的真理都是半真的。罪恶源于试图把半真的当作全真的。”尼尔斯在书里把我们的科学理论视为人类为自己构造的的“虚拟现实”，人只能像飞行员一样，通过有限的仪表仪器来感受飞机外的巨大世界。至于对真理或信念的检验问题，借用法学家霍姆斯的话就是：“使其自身在市场的竞争中被接受，这一想法的威力本身就是对真理好的检验。”学究一点，我们不妨回访一下霍

克海姆和阿多诺及其学派建立批判理论的过程，争取使主观思维和相对思维在大数据和新IT时代有所拓展，更加“科学化”，并获得新的应用。

英文单词Belief的一个中文翻译是信仰，我同尼尔斯也讨论过信念与信仰的关系。信仰太神秘，不是本书的范围，但尼尔斯讲了“信条安慰”（credo consolans）和书中的一首赞美词：

“真理像钉子一样坚硬和坚韧，

这就是为什么我们需要童话故事。

我厌倦了逻辑理论，

为什么要我拒绝自己的幻想？”

或许，有关信仰的神秘还是爱因斯坦总结得好：“神秘是我们深刻和美丽的体验，是一切严肃艺术和科学成就的源泉。”更让我感到神奇的是：在一次飞往旧金山的途中，我一边翻着《理解信念：人工智能的科学理解》，一边看着座舱播放的电影《钢琴家》；当我正看着扉页上手写的“真理的尽头是信仰”并极力回忆为何写这句话时，影片已至尾声，出现陷入绝境的犹太钢琴家茨皮尔曼与良心发现后对其救助的纳粹军官之间的对话：

钢琴家：“我不知道该怎样感谢你。”

纳粹军官：“感谢上帝，不是我，他让我们活下去。”

纳粹军官：“这就是为什么我们要信仰他。”

也许，信仰就是人类“活下去”的原因和动力，信念的尽头也是信仰？

为此，我后来又重新看了一遍片尾，十分失望地发现英文台词是：Well, that’s what we have to believe，不是“这就是为什么我们要信仰他”，而是“唉，这就是为什么我们必须相信他”。难道相信（Believe）真的就是行动中的信念（Belief）吗？信念就是相信了的理念吗？

所以，不可轻言信仰，从信念到信仰需要特殊的行动和过程。现代管理学家德鲁克曾说，信仰需要经历绝望：“只有通过绝望，通过苦难，通过痛苦和无尽的磨炼，才能达至信仰。信仰不是非理性的、伤感的、情绪化的、自生自发的，信仰是经历严肃的思考和学习、严格的训练、完全的清醒和节制、谦卑、将自我服从于一个更高的意愿的结果。每个人都可能获得信仰。”

而且，即使是经过绝望获得信仰，也不要忘记哲学家罗素的忠告：“我永远不会为信仰而死，因为我的信仰可能是错的。”

本书就是帮助你建立自己的信念，理性地走完人生通向真理和信仰的完整过程。

后，感谢中国科学院自动化研究所袁勇博士、王坛博士、赵红霞博士参与译稿的通读，并感谢机械工业出版社所提供的帮助。

王飞跃

中国科学院自动化研究所

国防科技大学

尼尔斯·尼尔森和王飞跃在其位于梅德福的家中

信念、知识和模型

我们经常把信念（或信念集合）称为“理论”。我们总结日常经历的理论——关于社会的和个人的。为什么纽约市的犯罪率降下来了？为什么布斯刺杀林肯？为什么我的孩子在学校学得不好？为什么失业率如此低（或如此高）？

我们的信念组成了我们关于世界之知识的一大部分。例如，我相信我存在于一个我们称之为地球的星球上,而且我与其他上亿人共同享有她。我对各类东西都有信念，比如汽车、飞机、计算机和各种各样的工具，以及（在不同细节上）它们如何工作。我对于我生活的21世纪文化有信念：关于民主和法制、关于因特网、关于科学与技术，还有其他许多。对于其他人我有许多信念，包括家庭、朋友、同事，甚至其他还未见面的人。而且，我相信他们也有信念。给我所有的信念列个清单是不可能的。然而，所有这些信念都在，都以某种方式存在于我脑子里的某些地方——变化、生长、缩减，并在我需要它们时招之即来。

假如要列一下我的信念，我会说，“宇宙差不多140亿年了”“塞伦是俄勒冈的首都”“约翰·琼斯一般做他讲过的他要做的事情”，等等。我也可以声明我不相信什么，例如“我不相信超感官的认知能力”。而且，我可以声明我不知道什么东西，例如，“我不知道斯里兰卡的人口”。

我们经常把信念（或信念集合）称为“理论”。我们总结日常经历的理论——关于社会的和个人的。为什么纽约市的犯罪率降下来了？为什么布斯刺杀林肯？为什么我的孩子在学校学得不好？为什么失业率如此低（或如此高）？

科学家提出并争论科学理论。有说明发现于岩石中的化石的理论、有解释太阳几乎无限能量的理论、有关于地震和火山的理论、有阐述生命形式多样化的理论、有分析心理行为的理论、有讨论星球的生与死的理论，关于宇宙我们能想象的任何东西几乎都有其理论。通常，科学理论要用许多句子来描述——还充满了数学。为了补充科学家大脑里所存的，它们还被写在文章和专著中。例如，当科学家说他们“相信”量子力学，就是指他们赞同写在某些文章或书中的量子力学。一般而言，相比我们都有的关于许多事情的个人理论，科学理论可以经受更严格的检验。

除了科学文献、非虚构类作品，如历史、政治分析、传记、叙事，都意图表达作者的信念。你我可能接受其中的某些信念作为我们自己的信念。例如，你可能说你相信史蒂芬·安布罗斯（Stephen Ambrose）关于路易斯（Lewis）和克拉克（Clark）远航的故事，如《勇敢无畏》（Undaunted Courage）一书所描绘的。就是虚构小说关于世界的一些描述，我们也可能会将其加入进自己的信念中。

关于信念要说的重要的一件事，就是它们是（或至少应该是）暂时的和可变的。例如，我关于明天天气晴朗的（基于我查询的天气预报）信念可能会随着新的天气预报的到来而有所变化。我还可能改变我的一些更基本的信念，比如我关于早期儿童教育的信念。科学和医学随着新的实验和新的理论解释而进步，这些也会带来新的或改变了的信念。

认知科学家区别各种各样的知识。信念表示的知识被称为“陈述性”的，因为信念被阐明为陈述性句子。但没有人真正知道信念是如何表示在我们的大脑之中的。哲学家和认知科学家杰瑞·福多(Jerry Fodor)认为信念在脑中是以一种叫作“心理语言(mentalese)”的“思维语言”的类句形式所表示的。然而，神经科学家、心理学家和哲学家却一直在争论我们的大脑中到底有没有这种类句的表示。对我们的目的而言，我们不必担心信念实际上是如何在脑中表示的。因为我们用句子阐明它们，所以把它们想成句子似乎也很合理——这当然受限于我们用来构造句子的语言。

认知科学家还讨论其他类型的知识。其中之一就是所谓的“程序性”1知识。程序性知识是嵌于我们的实践行动之中的，比如抡高尔夫球球杆或骑自行车。对于需要在感知与行动之间实时协调的任务，程序性知识要比陈述性知识来得更加有效。（记住了关于如何做侧手翻的一些句子之后，你能做一个吗？）类似地，计算机系统用来停车或自动降落飞机的知识也是此类程序性知识。很有可能动物关于其世界的大部分知识，比如怎样织蜘蛛网、如何迁移、怎样捕食等，都是程序性的。

程序性知识是重要的，但它局限于其启动的具体行动。我们人类比其他动物如此多才多艺的主要原因就是我们关于世界的知识中一大部分是陈述性的，因此可用来指导许多其他行动。一个极其平常的例子就可以说明这一点，我们关于锻炼可以促进健康的信念能够鼓励我们去游泳、去骑车、去慢跑。

与在不同情形下的功能同等重要的是，陈述性知识可以被讨论和辩论。在我们足以信任一个信念而去行动之前，我们可以分析或者修正它——根据自己的经历、推理，以及其他的观点和批评。正如哲学家卡尔·波普尔(Karl Popper)所言：“通过批判我们的理论，我们可以让理论替我们去死。”

信念构成了我们描述我们生活之世界的一种方式。我们还用数学方程（比如E=mc2）、各种现象的计算机模拟（比如天气）、地图，以及故事等方式。这一切的总和构成了现实的模型——一个可以触及的现实本身的替代。我们必须据此行事，因为我们无法直接认识现实；现实在“传感幕帘”的另一面。尽管很容易想象我们信念里的对象、性质和关系作为现实的部分而实际存在，但它们只是我们现实模型陈述部分的元件而已——一种“虚拟现实”。物理学家戴维·多伊奇（David Deutsch）写道：

现实就在那里：客观、物质并且独立于我们所相信的一切。但我们从未直接地体验那个现实。我们外在经历的全部都属于虚拟现实。而且我们知识的全部——包括我们关于逻辑、数学和哲学，以及想象力、小说、艺术和幻觉等非物质世界的知识，都被编码为程序，用来在我们大脑的虚拟现实发生器上描绘这些世界。……因此，不仅是推理物质世界的科学涉及虚拟世界。所有推理、所有思维和所有外在经验都具有虚拟现实的性质。

即便虚拟现实不是现实本身，也可以感觉很真实。正如生物学家和作家理查德·道金斯（Richard Dawkins）所言，“当然，我们感觉就像我们稳稳地置身于一个真实世界中——如果我们的受限制的虚拟现实软件还有点儿用的话，的确应当这样。这个软件非常之好，只有当它在极少数场合弄错什么的时候，我们才能注意到它的存在。”

下面是体会我们置身其中的虚拟现实的一种方式：想象一名驾驶巨型喷气客机穿云的飞行员。飞机之外用自己的眼睛他什么也看不见，必须依靠仪表盘来获取飞机的位置、速度和周围地形的关系。当然，飞机实实在在地在真实世界中，但飞行员所知的一切就是由飞机的仪表、显示器和力反馈机制所表示的虚拟现实。这个虚拟现实不是现实本身，仅是其一个模型。如果这不是一个好的模型，飞机可能会有失速、燃料耗尽，甚至撞上山头的危险。

我们都处在与这架飞机的飞行员类似的处境。我们的模型类似于仪表盘的读表和显示器。我们的信念是这些模型的重要部件。就像飞行员不会相信那些未经彻底检验过的读表和显示器一样，如果不去信赖那些未经严格评价的信念，我们就会过得很好。