循环：AI如何影响人类，人类如何应对AI

人工智能将改变我们所知的世界。但真正的危险不是某个机器人会奴役我们，而是我们自己的大脑。我们的大脑经常使用捷径、偏见和隐藏的过程来做决定——我们正在使用同样的方法来创造技术，为我们做出选择。雅各布·沃德认为，人工智能对人类最大的威胁不在于机器人的反扑，我们的大脑才是最需要堤防的因子。在决策时，大脑会受到偏见、情绪等因素影响。而当我们在选择要喂养哪些信息给智能产品时，往往也会把这些盲点和谬误一并复制进去。

人类的思维本来就有认知偏误，行为也受各种无形的外力牵引。而在当今模式识别科技与引导式决策的相互作用之下，智能产品帮我们写好了一切行为的剧本，人类选择因此受到限缩。沃德提醒，如此一来，不仅不公不义的现象更加严重，人类创新的本能和思考的能力亦将大幅退化——这才是我们在面对智慧科技时真正应该担心的事情。

什么是循环？本书提到三个循环：第一个循环也是最核心的循环，即世代沿袭的人类本能。人类天生具有偏见，而且更倾向于使用大脑的系统1行事，在这个过程中，人类原有的偏见进一步被强化，形成第一个循环。第二个循环是来自现代的力量，如消费类技术、资本主义、营销和政治，它们对核心循环的人类行为进行采样，总结出模式，再将这些模式反作用于人类，最终引发了一系列问题。第三个循环，即本书书名所指的循环，是来自人工智能的影响。AI对人类偏见进行采样，总结出规律，最后把这些规律反作用于人类，形成第三个循环。AI正在改变我们所熟悉的世界，它每天都在制造新的风险。不过真正的危险不在于机器，而是我们的大脑。我们已经习惯于利用捷径、偏见和不透明的程序做出决策。正如金融利用了人类思维的弱点一样，AI也将利用我们的生活模式，以不可抗拒和无形的方式操纵我们。在本书中，作者揭示了我们是如何将这些习惯融入决策技术中，这些决策如何影响我们，我们又该如何应对。

作者简介

雅各布?沃德，斯坦福大学行为科学高级研究员，NBC新闻的科技记者，此前曾担任CNN、半岛电视台和PBS的科技记者。沃德是《大众科学》杂志的前任主编，他还主持了PBS电视台长达4小时的系列纪录片《侵入你的大脑》，向电视观众介绍了人类决策和非理性方面的基本科学发现。

引言 世代飞船 

第一部分 第一个循环：世代沿袭的人类本能

第一章 意识与现实的鸿沟

第二章 错觉

第三章 两个系统

第四章 族群

第二部分 第二个循环：现代力量的操纵

第五章 导航系

第六章 循规蹈矩的生活

第三部分 第三个循环：人工智能的影响

第七章 人工智能不能做什么

第八章 沉沦

第九章 循环

第十章 关键任务

   第十一章 弱完美

第十二章 高等数学

引言（节选）

世代飞船

每当我们觉得生活在地球上的前景暗淡时，就忍不住打其他星球的主意。人类已经对地球进行了过度的开发，而且似乎难以团结一心拯救地球。既然如此，让我们去别的地方重新开始吧。那么另一颗适宜居住的星球离我们有多远呢？

星际科学家们认为光年并不能被理解成速度，即车子行驶速度那样的数值，那么就只能是像我这样的记者来大致推算人类要多久才能跨越这样的距离。请给我一点耐心。

我们当前的火箭技术可以推动飞船以每小时2万英里左右的速度在太空飞行。火箭的速度对我们来说已经快得超乎想象了。在大气层中，这样的速度与周围空气的摩擦足以熔化我们所发明的任何物质，我们还没开始讨论要去哪里和到了之后准备建些什么，就已经被烧成灰烬了。但让我们将这个速度作为基准，因为在太空中，如果我们要在相隔遥远的行星之间穿行，这个速度显然是太慢了。

火星与地球轨道相邻，它是太阳系中除地球以外最适宜人类生存的星球。但其实这并不能说明什么。诚然，其他星球的环境更糟。以木星为例，火箭如果穿越木星表面30英里厚的云层，在大量易燃的氢气和氦气中，火箭发动机推力忽高忽低，然后火箭到达云层下方约1.3万英里处相同成分的液态层（这个液态层的存在让我们对这片有毒的液态海洋下面有些什么还一无所知）后，发动机就完全失灵了。宇航员们还没出飞船就会溺死（也可能会被烧死，这种情况在地球上是不可想象的）。

火星相对来说是比较宜居的。火星上有稳定的落脚点。在火星上度过美好的一天可能真的感觉不错。太阳高高挂在空中，气温大约是宜人的 68℉，就像旧金山或约翰内斯堡八月的一个晴朗的下午。但如果你刚好晚上在火星极地下了飞船，气温可能会低于-200℉，这个温度会让你立即被冻死，你的四肢会被冻得像易断的树枝一样，一锤子下去就能敲个粉碎。我们不要忘了就算是在火星上最舒适的区域，也没有可供呼吸的空气，所以即使是在最宜人的日子里，你也不能走远。在低重力环境中，你大概只能在飞船附近50码b以内的范围活动，否则你就无法屏住呼吸，缺氧会让你迷失方向，不能回到飞船上吸氧。你会失去知觉，身体抽搐，心脏停止跳动，红色的灰尘慢慢飘落到你的尸体旁边。

这就是科学家和记者都对系外行星如此感兴趣的原因，作为太阳系以外的行星，系外行星似乎有着适宜人类生存的大气层和表面。在过去几年里，现已退役的开普勒太空望远镜让人类产生了源源不断的乐观幻想。开普勒太空望远镜其实无法看清远太空的事物，系外行星过于遥远不能直接对其拍摄清晰图像，因此它会观测遥远恒星的光线经过行星旁时产生的弯折。根据恒星光线途经行星后产生的光线变化，天体物理学家不仅可以计算行星的大小，还可以计算它离光源多远，这意味着我们可以根据行星体积，以及行星与恒星的距离这两个值之间的关系，推测行星周围是否存在着某种大气层。

开普勒任务测量了大约 15 万颗恒星的光线，发现了数百颗行星，它们的大小与恒星距离之比使它们成为供人类呼吸和居住的候选行星——虽然只是候选行星，但确实有可能成真。想象一下我们登上这些行星，四处逛逛，就地取材建一个小屋！考虑到太空的广袤，最近的系外行星实际上还是相对较近的。

在我们开香槟庆祝并将积蓄投入 SpaceX 公司之前，让我们想想怎样才能去另一个星球。举例来说，前往火星的旅程相对较短。根据它和地球在轨道上的位置推算，这段旅程可能需要 300—400天。但是人类从来没有在太空中飞行过这么长时间。目前登月之旅大约需要 72 小时，天体物理学家和医学专家私底下议论说，20多名登月宇航员中没有一人在旅途中遇难简直是一个奇迹。而一次火星之旅会让宇航员们整整一年都暴露在远太空的危险中。危险简直数不胜数。在行星之间的黑暗中，致命数量的辐射渗透了一切。太空中充满了灰尘和沙砾，可能会使飞船瘫痪。（整个天体物理学领域都在研究星际介质，并指出，如果你像在高速公路上那样从飞船的窗户伸出一只戴着白手套的手，当你把手收回来时你就会发现手套已经沾上外面的东西变成了黑色。）另外想想看，如果一场灾难导致船毁人亡，全球人民在延迟的电视广播上看到这个痛苦过程之后，可能再也不想去火星了。

即使宇航员们一切顺利，在很长的一段时间里，他们也只能待在一个还没有度假公寓大的空间里。在疫情暴发的一年里，我们与家人、室友，或是自己一个人被困在家里，对于这种感受可以说深有体会。其实，在新冠病毒让我们体验了这种感觉之前，心理学家和后勤人员就已经对火星宇航员的身心健康感到忧虑，于是他们使用模拟的火星旅程和驻扎环境，观察了整个旅程待在狭小空间的宇航员的状态。观察到的结果并不乐观。这种模拟的沙丁鱼形状的环境，几乎给每个人带来了严重的创伤或疾病。多年以来，夏威夷岛一个军事基地的模拟火星栖息地进行了数次这样的试验，其中有一次，有个宇航员因为医疗原因不得不提前退出（试验组织者尚未透露原因）。为了从这次经历中吸取教训，其他宇航员们假装将退出的成员视为死者，并在模拟的火星冻土带上放置了一具假尸体，在那里它将被完美地保存起来，并被带回地球安葬。在最后一次夏威夷模拟试验中，一名宇航员被电线电击，地面护理人员不得不进入模拟区域，用救护车将这位宇航员带走，这对模拟试验产生了干扰。先不谈在火星上离群索居可能导致的身体问题，这些试验已经表明……人们会举止失常。这一试验项目的心理学家告诉《大西洋月刊》（Atlantic）：“你可以选出一组完全符合要求的宇航员；但涉及人的事情，变量实在太多了，很难预测我们在各种情况下的表现。”

这还只是火星。从全宇宙的角度来看，火星就在我们隔壁。现在想象一下，我们试图到达最近的系外行星是多么荒谬的一件事情。

想象一下，我们一起站在美国国家航空航天局（NASA）位于奥兰多附近的卡纳维拉尔角的航空发射台上，凝望着星星。在我写这篇文章时，离地平线最近的星座是半人马座。半人马的前蹄是一颗明亮的星星。事实上，它是由三颗恒星组成的：半人马座α 星 A、半人马座 α 星 B、半人马座 α 星 C（比邻星），其中比邻星是三颗恒星中最暗的。在这里，用这个望远镜看。看到了吗？你可以将它们区分开来。但我们看不到围绕着幽暗的比邻星旋转的那颗行星。朋友，我希望我们能看到。因为那颗行星——比邻星 b，是已知的离地球最近的系外行星。

我们不知道在比邻星 b 生活会是什么样子，甚至连这个地方长什么样都无从得知。也可能会有种种原因，让它并不适宜作为人类的栖居地。恒星风也许会将过多的辐射吹到它的表面，以至于我们还没有建好第一个庇护所就中毒了，而这些风可能会带走任何可呼吸的大气，这意味着我们必须生活在地下。另外还存在一种可能性，这颗行星围绕比邻星公转的方式也许会让行星的一侧永远面向太阳，这意味着行星的一半始终是白天，另一半则一直被黑暗笼罩。

但我们不要放弃希望。想象一下，这里十分宜居，有温暖的风、液态的海洋，还有各种奇异、生动的风景——岩石、植被、外星的雪。让我们去那里！

好消息是，比邻星 b 距离地球仅 4.2 光年。这意味着光（我们已知速度最快的东西，大约每秒 18.6 万英里）只需要 4.2 年就可以从地球传播到比邻星 b 风光奇异的海岸。对于光子来说，这是一次短途旅行。

坏消息是，对人类来说，这是一次漫长的旅行。我们无法以光速行进。我们的速度与光速相比有很大的差距。我们需要更长的时间才能到达那里。事实上，到达比邻星 b 需要耗费非常长的时间，地球上的人是无法到达比邻星 b 的。

如果我们登上一艘宇宙飞船，从大气层的外缘一直航行到比邻星 b，你我作为从数十亿人中筛选出的宇航员，有着健康而匀称的体格，我们登上了这艘船，在航程达到 1/100 之前就会死去。这是一段极其漫长的旅程，人类的寿命仅占旅程的一小部分。

我们性能最好的现代火箭的速度为每小时 2 万英里，换算一下，4.2 光年相当于超过 13 万年的太空旅行。

13 万年意味着，在人类呼吸到外星的空气之前，到达离我们最近的系外行星所花费的漫长时间里，我们自己、我们的孩子，以及他们的孩子都早已化作了尘土。