描述
开 本: 大32开纸 张: 胶版纸包 装: 精装是否套装: 否国际标准书号ISBN: 9787508659701
Alphgo与李世石的对决引发了新一轮人工智能热潮，在人机大战中，究竟谁才能笑到后？如果人工智能终将超越人类，我们又该做些什么？
人工智能领域权威专家、奥斯卡获奖影片《机械姬》科学顾问默里•沙纳汉深入解读人工智能将如何颠覆经济与社会。创造性地解答了在奇点到来之时，人类将如何主宰自己的命运。
人工智能的发展不断重塑着世界，无论是企业还是政府都面临着巨大的挑战，只有把握这一发展趋势，积极掌握话语权，才能在下一轮科技大潮来临之前占据主导地位，实现跨越式发展。
当今社会，新技术给经济发展提供了前所未有的动力，科技改变着人们的生活方式，改变着人类社会经济发展和前进的速度。人工智能技术作为引爆下一场财富革命的决定性力量，重塑人类未来生活的关键性技术，在经济发展中起着举足轻重的作用。
这本深入阐释人工智能的著作是默里•沙纳汉在这一领域深耕多年的思想精髓。他以明白晓畅的语言讲述了我们可以通过哪些方式实现人类水平人工智能，以及在实现人类水平人工智能之后，我们是否会迎来颠覆一切的技术奇点。针对人类对发展人工智能的盲目乐观，默里•沙纳汉尖锐地指出了许多曾被我们忽略的问题：人工智能会有感情吗？如果人类无休止地压榨人工智能，它们是否会奋起反抗？
目录
导言
章
人工智能，机器与人类的博弈
当机器开始学习
常识与创造力，让机器了解世界
实现人工智能，模仿还是创造
第二章
全脑仿真，让仿生人工智能成为可能
为大脑制造副本
全脑仿真的三个阶段
对小鼠进行全脑仿真
游戏厂商助力神经虚拟技术
关于全脑运算的大胆构想
为虚拟大脑配备合成身体
从虚拟人到虚拟社会
把人工智能的“精灵”从瓶子里放出来
第三章
无缝对接，人工智能走出实验室
Siri，揭开人工智能的神秘面纱
让机器了解真实世界
建立模型，学会处理不确定性
大数据带来人工智能
用短的时间，去多的城市
人工智能必须回答的三个问题
人类级人工智能，学会享受生活之美
第四章
超级智能，想象另一种可能
通往人工智能之路
不吃不睡不领工资的超级智能员工
回报的方法不一定好
塑造超越人类的力量
是“使用者错觉”还是人格化
第五章
机器之心，天使还是魔鬼
仿生人工智能有感情吗
以温柔之心对待人工智能
人工设计的人工智能有感情吗
超级智能的自我意识
超级智能的理智与情感
第六章
人工智能，逐渐显现的影响
人类级人工智能，至关重要的一步
奇点何时到来
更稀缺，更富足
被技术改变了的生活
人工智能，不确定的未来
第七章
未来已来，人工智能的一万种可能
复制人带来的新问题
超越人性，应对人工智能的冲击
意识上传，对现有关系的全盘颠覆
未雨绸缪，规避人工智能的风险
开发安全的超级智能
将道德嵌入超级智能
我们的宇宙哲学观
结语
前言
近年来，随着科学技术的迅猛发展，“奇点”这个概念
已经从科幻小说逐渐转移到了严肃的学术讨论中。人们认为
当前人类历史的发展阶段距离奇点已越来越近。物理学中
的奇点指的是在时间或空间的某一点上，出现了类似黑洞或
者宇宙大爆炸的情况，数学已经不再适用，人类也无法理
解。人类历史中出现的奇点指的是由于技术的迅速发展，人
类社会中的一切都出现了改变，生活在今天的我们将无法理解。今天被我们当作理所当然的一切（经济、政府、法律、
国家）会改变形态，人类根本的价值观（生命的尊严、对
幸福的追求、选择的自由）也会被淘汰。我们对人类之所
以为人的理解（人性、生存、意识、社会秩序）提出疑问，
不是通过漫无边际的哲学思考，而是由真实存在的环境所推动。
什么样的技术进步会带来这种剧变？本书将要验证的
假说是：人工智能和神经技术这两个领域的技术进步会加速
奇点的到来。我们已经破解了生命的秘密，能够理解基因和 Dna的工作原理。生物技术带来的改变已经非常巨大，但是
和人工制造思维的能力相比，就差多了。
从某种重要的意义上来说，今天的智能是固定的，这影
响了技术进步的广度和速度。几千年来，人们掌握的知识已
经非常丰富，而且随着文字、印刷术和互联网的出现，传播知识的能力也增强了。但是，创造知识的器官（有智慧的人
的大脑）在过去的几千年中变化不大，认知能力的秘密还没
有被我们揭开。
如果人工智能和神经科学能充分发挥潜力，这种情况将
会改变。如果不仅是智能创造技术，技术反过来也可以创造
智能，那么就会产生一个循环。这个循环的结果是难以预料
的，可能带来爆炸性的改变。作为原来的创造者，如果智能
也可以被创造出来，那么它就可以提升自己。
根据奇点理 论，不久以后，这个循环中就不再需要人类了，人工智能 或进行过认知改造的生物智能将占据主导地位，人类已经跟不上了。
我们需要认真对待奇点理论的假说吗？又或者它只适合
出现在科幻小说里？雷
• 库兹韦尔认为我们应该认真对待这 一假说，并提出了“加速回报定律”（The law of accelerated return）。如果一项科技符合加速回报定律，那么这项科技越 先进，它进步的速度就越快，在一段时间以后就会实现指数 级进步。一个很好的例子就是“摩尔定律”（Moore’s law），一块芯片能容纳的晶体管数量每隔 18 个月左右就会翻番。
令人惊讶的是，半导体行业几十年来的发展趋势一直遵循
摩尔定律。 信息技术发展的其他指标，例如 cPu（中央处
理器）的时钟频率和网络带宽，也一直在以指数级速度增长。然而，信息技术不是高速发展的领域。在医学领
域，Dna（脱氧核糖核酸）测序的成本快速下降，测序的
速度则呈指数级上升，大脑扫描的分辨率也在以指数级速度上升。
从历史的角度来看，出现重大技术进步的时间间隔在
缩短：从农业、印刷术、电力到电脑。除了技术的进步，进
化过程中出现里程碑式突破的间隔也在不断缩短：从真核生
物、脊椎动物、灵长类动物到智人。很多评论家认为人类发
展的轨迹是一条复杂的曲线，一直延伸到远古时代。但是，
我们只需要研究这条曲线中科技的部分，并推演科技曲线的
未来趋势。我们发现，未来会出现一个转折点，人类发明的
技术会让自己落伍。
由于物理规律的制约，指数级技术发展终会遇到瓶
颈。指数级技术发展的停滞可能有各种经济、政治或者科学的原因。但是，我们先假设与人工智能以及神经技术相关
的发展将会保持势头，加快破解大脑秘密的速度，并且终
合成人工智能。我们不难相信，不管是人工智能还是人类智能，都会遵循加速回报定律，终到达技术奇点。
有些作者预言，奇点的到来会在 21 世纪中叶。我们可
以不把奇点只作为预言来研究，预言毕竟是比较虚无缥缈
的。首先，奇点是一个很有意思的深刻的学术话题，无论
它后是否真的会出现或不知什么时候出现。其次，奇点
出现的可能性虽然看起来很微小，但是却值得我们从务实
的角度，在理性的基础上讨论它。即使未来学的理论有瑕
疵，但只要未来学描述的场景存在可能性，就值得我们认
真关注。如果奇点真的出现，对人类来讲，其后果将是颠覆性的。
这些颠覆性的后果都有哪些？如果人类到达奇点，世界
会变成什么样子？我们对奇点的到来是应该恐惧，还是应该
欢迎？人类在今天或未来应该做些什么来保证好的结果？
本书旨在回答这一系列非常宏大的问题。奇点这个概念会引
发我们对一些更加原始的哲学问题的讨论：人性的本质是什么？人类根本的价值观是什么？我们应该如何生存？人类
为了迎接奇点需要放弃什么？奇点在给人类的生存带来机遇的同时，也带来挑战。
奇点的到来可能会威胁到人类的生存。这听起来像是
大其词，但是今天的新兴技术已经超越了以往，是人类从来
没有见过的。可能会有人研制经过基因改造的病毒，提高其
传染性和抗药性——只有疯子才会做这种事，但是，人类有
可能意外地制造出带来灾难的病毒。高级人工智能也有可
带来生存威胁，其原因相似，但更微妙。我们会在后文中研
究这些问题。如果未来某个公司、政府、组织，甚至是个人有可能制造出能实现指数级自我提升、极度渴求资源的人工
智能，这一可能性足以让我们提高警惕。
从乐观的角度来看，技术奇点带来了生存的机会，也就
是哲学上的“存在”的意义。当我们有能力构建大脑时，就
可以突破生物的限制，延长人类的寿命。人类的终极限
就是死亡，生物的身体是很脆弱的，会受到疾病、意外伤
害和衰老的限制。人类的意识依赖其生物大脑，但是，未来人类将有能力修复任何对大脑的损害，并终在其他基质上构建大脑，这样就可以突破意识的寿命极限，将其无限延长。
延长生命是“超级人类主义”的一个分支，但是我们为
什么要满足于人类的大脑？如果我们能够重建大脑，为什么
不通过重新设计，提升大脑的能力呢（人类的身体也可以通
过重建提升，但是本书只讨论智能）？通过医药手段可以提
高记忆力、学习能力和注意力，这是比较传统的提升方法。
但是，既然人类能够从无到有重建大脑，就一定能对认知能
力进行重组和提升。当我们具备了这种提升能力，又该做什
么呢？有些人认为，这种能力至少能够应对超级智能带来的
存在风险，赶上人工智能的发展脚步，不过在这个过程中人
类的认知方式可能会发生根本改变。
技术奇点可能是一种生存机会，要理解这一概念，必须
放弃人类的视角，采取一种更具宇宙性的视角。“人类社会
和生活在人类社会中的人们的大脑已经到达了宇宙的极限”
是一种人类中心主义的想法。也许智能的复杂程度还有很大
的提升空间。可能未来还会出现比我们更高级的意识形式。
我们应该阻止还是迎接这一情况的到来？我们能理解这样的
未来会是什么样吗？不管奇点是否已经临近，这些问题都值得思考。因为在思考这些问题的同时我们对自身有了新的理解，也理解了我们在大千世界中的位置。
技术奇点的到来，将引发人类发展进程中的又一次巨变。这是科幻还是真实的未来？我们应该如何应对这场可能到来的颠覆生活与工作的智能大爆炸？沙纳汉教授以不可思议的想象力描绘了人类与人工智能和谐共处的未来，任何关心人工智能的读者都不应错过这本书。
——姬十三
果壳网、在行创始人
在对于人工智能的幼稚赞美和一厢情愿的憧憬之声不绝于耳时，冷静客观的分析显得更为难能可贵，当然也就更值得关注。下面四种危险，在本书作者心目中是同一级别的：核战争、生物技术滥用、纳米技术事故、敌意人工智能。本书讨论了发展人工智能将会面临的多种可能性，那些将会导向黑暗未来的可能性，尤其值得特别关注。
——江晓原
上海交通大学讲席教授、科学史与科学文化研究院院长
《技术奇点》让我们在这个被科技“奴役”的时代，停下追赶的脚步，用哲学的逻辑思考：人工智能无处不在，它会不会取代人类甚至超越人类？走向人工智能是否是人类的必然？在科技时代，人的定义又是什么？我们与机器的关系会变成什么样？
——知识分子
饶毅、鲁白、谢宇三位学者创办的科学新媒体平台
当机器开始学习
艾伦
• 图灵是第二次世界大战期间的 密 码 破 译 专 家， 计 算 机 科 学 的 先 驱。1950 年， 他 在《 心 灵》（Mind）杂志上发表了一篇文章，名为“计算机与智能”（Computing Machinery and Intelligence），这是篇真正对 人工智能进行严肃学术讨论的文章。图灵预测道：“到 2000 年，人们在谈到机器也能思考时，会觉得是一件很正常的
事。”他预言机器将能够通过“图灵测试”。
图灵测试是一种游戏，
有两个“ 玩家”， 一个是人类， 一个是机器，“玩家”通过键盘和屏幕与人类“裁判”交流。 “裁判”轮流与两个“玩家”对话，试图猜出哪个是人类，哪个是机器。机器的任务是让“裁判”相信它才是人类，而
这需要人类水平的智力。如果“裁判”无法分辨哪个是
人类，那么机器就通过了测试。这篇文章写于 1950 年。当
时，图灵预测未来所有普通的机器都能通过这种测试。在
未来的世界里，“能思考的机器”在家庭和工作环境中都很普遍。
虽然图灵做出了这样的预测，
但是实际上在 2000 年，具有人类智慧水平的机器没有出现，也没有迹象表明人类能
在短期内实现这一目标。现在计算机的水平距离通过图灵测
试还很遥远。但是，近年来人工智能开发取得了里程碑式的发展。1997 年，iBM（
国际商业机器公司）
开发的电脑 “深蓝”击败了世界国际象棋冠军加里 • 卡斯帕罗夫（gary Kasparov）。据说，卡斯帕罗夫曾经表示，“深蓝”和他以往 击败的电脑迥然不同。以往的电脑对手令人感觉平庸机械， 而在和“深蓝”对战的时候，卡斯帕罗夫感觉在棋盘另一端 的是某种“外星智慧生物”。
我们应当仔细思考这一里程碑事件的意义。半个世纪以前，这一事件被认为是人工智能领域的成就——机器战胜了人类。当然，汽车的速度比人类短跑冠军更快，起重机
的力气比举重冠军更大，但是智力的优越是人类与其他动物
的根本区别，国际象棋正是纯粹智力上的比赛。
现在，人类在国际象棋领域输给了电脑。但是，与图灵
的时代相比，我们与人类水平人工智能的距离似乎并没有缩
短多少。这是为什么呢？因为“深蓝”是只有一种本领的专
才，它只会下象棋，而人类则正好相反。比如，我正在咖啡
馆里用电脑写文章，一位女白领经过我的窗前。她在一天中
要做各种各样的事情：做午餐便当、检查孩子的作业、开车
上班、写电子邮件、修理打印机等。如果我们仔细研究这一
系列活动，会发现它们都需要人类具备感知运动的能力。例
如做午餐便当，就需要从各处拿厨具、食材，打开包装、做
饭、把饭装进饭盒等等。
简言之，
人类是通才， 是什么都会做的万事通。 人类 国际象棋选手除了会下棋之外，还会做各种事情。此外，人 类还有适应能力。人不是天生就会修理打印机，而是后天学 会的。那位女白领如果出生在另一个世纪的另一种文化的国 家，可能会学习一系列不同的技能。如果她不幸丢了工作，也必须重新接受培训，学习新的技能。人工智能研究在很多
专业领域（例如国际象棋）取得了成功，但是却没能发明一
种万事通机器，像人类一样什么都会，还能适应环境。我们
如何发明强人工智能？只有弄清这个问题，才能讨论超级
人工智能。
生物智能的主要特点是有实体。和“深蓝”相反，人类
实际上是一种动物，有着血肉之躯，大脑是身体的一部分。
动物的大脑经过进化获得了控制身体的能力，使身体能够把
基因传递下去。肌肉让身体能够运动，感觉让身体能根据周
围的环境调整动作，完成大脑的指令。大脑坐镇于感觉运动（sensorimotor）的环路之中，根据得到的信息，控制着动物
的行动。不管人类大脑的成就有多大，从根本上来说，也只
是动物大脑的一种升级。人类的语言能力、推理能力和创造
力都根植于感觉运动这一基础。
创造人工智能可以省去有机生物必需的很多活动，比如
新陈代谢和繁殖，但是不能省去人工智能的实体。正是为了应对复杂多变的物理世界，才诞生了智能—毕竟这个世界
充满多种多样的物体，有的是静止的，有的是活动的。从这
个角度来讲，图灵测试是不完美的，因为图灵测试只涉及
语言。判断人工智能的有效方法是看它如何与我们所处的
环境互动。因此，要创造真正的人类水平人工智能，就必须
制造机器人。但是，对于机器人这种实体，也有人反对。我
们之后会讨论反对的观点，现在先假定这一判断是正确的。
那么， 我们面对的问题就是：如何让机器人拥有强人工智能？
强人工智能可能就是将很多感觉运动的专业能力结合在
一起，但是现在我们还没有研发出足够的专业能力。那么，
当人们赋予机器人足够多样的能力时，就能产生强人工智能
了吗？即使我们忽略工程方面的困难，这一假设仍然难以让
人信服。使用这一方法制造出的机器人可能看上去很像强人
工智能，但是很难蒙混过关。这种多功能机器人一旦遇到能
力范围之外的问题，马上就会束手无策。世界变化这么快，
肯定会出现它能力之外的问题。
只有当人工智能拥有学习的能力时，或许才能跨越这一障碍。在不熟悉的环境中，人工智能应当能够学习新的
技能。只有拥有了学习能力，才能获得和维持新技能。事实
上，学习的能力，不管是什么形式的学习，都是建立智能的
基础。但是，学习是非常耗费时间的，也是充满风险的。拥
有普通智力的标志应当是在新挑战面前，不需要经过尝试或
第三方的培训就能采用新的行为模式去适应环境。
常识与创造力，让机器了解世界
如何克服专业能力的缺陷，让机器拥有普通智力？基
本的要求或许就是拥有常识和创造力。常识在这里指的是能
够理解日常生活中物理环境和社会环境的运作规律。例如，
一个人绕着一座建筑物走一圈，会回到原点。常识就是这样
的道理。又例如，一个人沿着一条路向前走，走到头折返回来，回程会看到刚才见过的建筑物，但是顺序相反。这类道理非常有用，因为应用的范围非常广泛，具有普遍性和永久性。
拥有常识意味着什么？拥有常识不代表理解事物运行的规律，也不代表能把规律用语言总结出来。常识主要是能
指导行动。换句话说，如果缺乏常识，就会在行动上表现出来。
例如，我家屋后的大公鸡喜欢逃出鸡圈，飞过大门，不过它总是在外面玩一会儿就想回鸡圈了。其实它只需要按原
路从大门飞回来就可以了，但是它似乎总是想不到这一点，
只能在大门口焦急地踱来踱去。有些行为是可逆的—大公
鸡似乎就没有这个常识。
动物的行为中虽然会有与上文类似的盲点，但也算拥有
一定的常识。人类也拥有常识，而且常识还会扩展到社会层
面。例如，人们通过语言交流自己对世界的理解。假设你早
上到了公司以后，发现一群同事站在办公楼外面淋雨。你问
其中一个人：“你们干什么呢？”如果她按照字面意思回答
“我们在淋雨”，你可能会觉得很奇怪。如果她说“着火了”，
虽然没有直接回答你的问题，但是她明白人们对话的目的是
交换信息。这就是一种常识。
普通智力的另一项要求是创造力。这里说的创造力不是
艺术家、作曲家或者数学家的创造力，而是普通人也有的创造力，儿童特别富于这种创造力。这种创造力指的是创造新
的行为方式、发明新事物或者用新方法使用旧东西的能力。
这种创造力可能完全是探索性的或者只是为了好玩，就好像
儿童自己手舞足蹈，其实就是创造了一种新舞蹈。这种创造
力也可能有着明确的目标，比如设计一个花园，或者想办法
减少家庭支出。这些似乎都是非常普通的人类行为，但是却
需要一个人打破原有的行为模式，建立新的行为模式，或者
把原有的行为模式重新组合。
创造力和常识是相互补充的。一个人依靠创造力做出的
新行为，需要通过关于日常世界的常识来预测其结果。一方
面，只有想象力没有常识会让人像没头苍蝇一样乱撞，另一
方面，只有常识没有想象力会让人僵化死板。但是，二者兼
备的智能是非常强大的。在面对新挑战时，这种智能可以用
想象力设计大量可能的行为，然后用常识来预测这些行为的
效果。不管是人还是人工智能，在运动肌肉或者开动发动机
之前，对自己的行为带来的结果是心里有数的。
2002 年，亚历克斯•卡采尔尼克（alex
Kacelnik）
领导 的牛津大学动物认知研究人员发表了他们的研究成果：他们观察到了动物身上表现出的创新行为。他们以新喀里多尼亚
乌鸦（一种特别聪明的乌鸦）为研究对象做了一项实验。他
们把一小桶食物放在一个立着的深管子里。乌鸦在管子外面
够不着桶或者桶的提手。在研究人员为乌鸦提供一段弯曲的
铁丝后，乌鸦很快就学会把铁丝用作钩子把桶钩上来。随后
研究人员为乌鸦提供了一段直的铁丝。一只名叫贝蒂的乌鸦
在没有经过任何训练的情况下，把铁丝塞进设备的一个小孔
里，将铁丝弯折成钩子的形状，然后把桶提了上来。
贝蒂的行为既富于创造力，又体现了常识。创造力让贝
蒂产生了将原本无用的铁丝折弯的想法，同时，因为拥有常
识，所以它了解铁丝可以被折弯的属性。这两种认知的元素
在动物身上产生了神奇的效果，在具有语言能力的人类身上
效果将会更加明显。比如，一个男中学生用一句俏皮话去取
笑他的同学，这既需要语言的创造力，又需要关于人类心理
的基本常识（当然更重要的常识是不能这样去取笑老师）。
这只是一个小例子。但是，所有人类的成就，从金字塔到登
月，都是无数个这种发明创造的集合。人类水平人工智能只
有同时具有常识和创造力，才能取得这种水平的成就。
评论
还没有评论。