描述
开 本: 32开纸 张: 胶版纸包 装: 精装是否套装: 否国际标准书号ISBN: 9787559829030
▼高科技条件下，人类面临何种挑战？彗星来袭，恐龙灭绝，瘟疫肆虐，战争频发……这些都曾给地球及整个人类带来毁灭性的灾难。如今，人类还有哪些近在咫尺的危险？答案是：人工智能、基因编辑和现代战争。这些都是以高科技为支撑，利用不好的话，都足以操控、替代甚至毁灭人类。这是机会，也是预警；不是科幻，胜似科幻。
▼关注人的意义和丰盛的生命。葆有好奇心，拥抱技术带来的便利与开放，但不忘反思所技术瓦解的力量。为了避免“兴于智能，衰于智能”“生于好奇，死于好奇”，作者论证并倡导一种超越逐物、好奇和享受之上的节制、反思和创造意义的人生情怀，即培育一种关注丰盛的生命和非物化的幸福观。
▼提出一种底线思维和预防性的道德与法律的设想。人工智能高速和无边界的发展可能导致的人的受控，基因编辑的过度开发可能危及人类基因库和自然的生物世界，面对这种种困局，作者力倡一种底线思维和预防性的道德与法律，让精神支撑道德规则，以规则为立法奠基，底线伦理和中西文明传统智慧，可以规约我们人类的本性和可能的作为，并为世界各国协同参与构建预防性的伦理界限与法律规章提供精神资源。
▼思想锐利和文笔凝练雅致的伦理学家、专栏作者和译者，撰写过厚重严谨的学术著作《良心论》和通俗畅晓的《伦理学是什么》《珍重生命》，也有畅销30年的翻译作品《正义论》（主译）和*总理读过100多遍的《沉思录》，还是《南方周末》《新京报》等专栏作者，担任过中央电视台“道德观察” (*初名为“公民观察”)栏目的总策划。曾获首届正则思想学术奖，*届、第九届国家图书馆文津图书奖，国家图书奖提名奖、全国输出版优秀图书奖等。
▼有力回应赫拉利《人类简史》《未来简史》、刘慈欣《三体》，心怀人类命运之忧思。与一般的科技专家、史学家不同，伦理学家何怀宏教授关注的不只是高科技带来的感官与智能的满足，而是关注智能机器对人的高级的精神意识、创造力、想象力与情意无限的爱欲的损害。着眼于技术突破人性尊严和人的生存的困境，作品回顾了“轴心时代”文明对人性尊严的表彰与忧思，并发出拷问：何以为人？人将何为？
▼一种科技伦理的前沿观察。这不是一部技术性作品，而是一部出色的研究人工智能、基因编辑等高科技伦理和人文思想作品。立足于人类的生命安全、人生的创造意义和身心幸福，作者以敏锐的视角关注和研究技术的*进展、突破人性的危机和给社会带来的严重后果，提出一种底线的预防办法和人类协同的道德与法律设想方案。
人脑不断植入芯片，或能成为长生不老的超人，但我们还会有属人的丰沛感受和无限创意吗？人工智能给世界带来巨大便利，但会不会某一天越过奇点转而操控、替代并加害人类？基因编辑生殖细胞，或能治疗许多疾病，但会不会危及人类基因库与自然的生物世界？凡此种种，对人类来说，到底是福音还是噩耗？
始于惊奇，终于敬畏。伦理学家、北大哲学系何怀宏教授从底线伦理和中西传统文化智慧的角度考察了人工智能和基因技术与我们的现实关系，并提出了预防性的道德与法律规范设想。高科技的种种挑战使我们不得不思考：何以为人，何以为物，人曾何为，人将何为？！
何以为人 人将何为
——人工智能的未来挑战 / 001
人物、人际与人机关系
——从伦理的角度看人工智能 / 049
奇点临近：福音还是噩耗
——人工智能可能带来的挑战 / 077
回到“轴心时代”思考人工智能
——一些有关文明的感想 / 109
人工智能与底线思维 / 136
一种预防性的伦理与法律
——后果控制与动机遏制 / 152
基因工程伦理中的动机分析与后果预防 / 159
星空与道德律
——思考《三体》提出的道德问题 / 188
现代伦理如何应对高科技时代 / 215
影响战争的距离 / 240
后记 / 253
一位严谨治学、长于思考的优秀学者。
——季羡林
后 记
在这篇“后记”里，我想简要地叙述一下我思考本书所考虑的问题的缘起，也谈谈我理解这些是什么性质的问题；高科技的挑战是不是真实的危险；人在应对这些挑战方面可以有何作为；或者如人们常说，人类总是可以大有作为的，但这作为是不是也需要在方向上有所调整。而隐藏在深处的一个终极和底线的问题可能是：如果我们在应对挑战方面完全无所作为，甚至走错方向，人类还会有未来吗？或者说会有怎样的未来？
我在2017年以前对技术问题并没有特别的关注，写过一篇《战争手段的发展与道德理性的成长》，做过一次“对这个世界的失望与惊奇”的讲演，也在主编《生态伦理》中了解到某些技术对生态环境的严重影响，但并没有做过专门的研究，甚至很长一段时间里不喜欢看科幻电影和小说，因为觉得那太虚幻，而现实生活中有许多紧迫的问题，直到后来认识到：技术才是我们时代的“真实”。
专门的思考开始于为2017年世界哲学大会启动仪式召开的学术研讨会准备论文，因为会议的主题是“学以成人”，而当时正逢机器的自我深度学习见出成效，还有阿尔法打败了人类的世界围棋冠军等事件，使我觉得似乎机器倒是在努力“学以成人”，当然，只是努力“成人”的一个方面——智能。因此开始阅读相关书籍，努力思考人与物，古代人和现代人作为的差别，警觉到近代以来人们精力投向的一个根本转折，就是开始了以驾驭物质和技术为主导的价值追求。而这种追求如果越来越强，一意疾行，有可能导致在推进文明的同时也走向文明衰退。
而我自己的经历可能也对我转向关注技术的飞跃与文明的命运起了作用。作为一个在乡下长大的孩子，从童年到“文化大革命”初失学的几年，经常去捡柴、抓鱼、采摘。高中的时候先是认真地务农一年，然后是泛泛地学工一年，接触到了一些不同的农活和工种，然后当兵十年，再进入大学读书，20世纪90年代开始就进入大家现已熟知的生活了，使用日益更新的电脑、手机，也开始游走世界。
像我这一代中国人，可能几乎都有这样一种相当长的文明史的体验：从农业文明到工业文明，再到今天的高科技文明，甚至前面还有一个“采集狩猎”的阶段。一个人在几十年间似乎就走过了人类上万年的文明历程，尝试过文明各个阶段的滋味。
因此，可以说，我这一代人可能会更加明显地感觉到我们这个时代的变化之大和技术文明的发展速度之快，而且是越来越快。人类自然科学的兴起和繁荣也就四百来年，与科技紧密结合的工业革命的兴起还不到300年，而目前有力地推动着我们的经济发展和社会改变，也影响我们的日常生活的那些新兴高端技术如现代信息和医疗技术，它们的诞生和飞速发展甚至大多还不到100年。
我初的感觉是惊奇乃至惊喜，直到现在我想我也还保留着一种对新技术的强烈好奇。但是，对发展如此之快的经济、对我们生活具有如此笼罩性影响的技术将把我们带向何方，我的心里却同时也生起一种越来越大的隐忧。尤其是看到人工智能包含着一种产生超越于人的智能的机器的可能性、基因工程包含着一种改变人这个物种或干脆创造一个新物种的可能性的时候，我就更感到不安了。当透过各种技术的可能性深察技术本质的时候，我开始感到畏惧。不再是国家，也许技术将变成一个远比国家更巨大而强有力的“利维坦”，我们将由它全面照管，但可能也要将权利乃至主体性全都交出。
有关技术及其与人的关系问题不是仅仅和某个国家，甚至某个文明有关的问题，而是和整个人类及其全球化文明有关的问题。这首先是人类的控物能力与自控能力是否相称的问题。打个比方，人类今天发展出来的高端技术似乎有点像孙悟空手里的金箍棒，这根金箍棒能够越变越大，越变越威力无穷。但是，拿着这根棒子的人却不是孙大圣那样的神灵，而就是一个人，当金箍棒变得很大很沉的时候，他就几乎举不起来了，更谈不上挥洒自如。他如果要拼蛮力使用，就很可能伤毁自己。而且，他只知道怎么将它变大，却不知道怎么把它变小（今天的技术可能停滞或倒退吗？），不能像孙悟空那样可以将其收缩自如，乃至塞入耳中，一切恢复原状。而这根金箍棒又还是这人的生存之道乃至乐趣，它既是工具，又是武器，还是玩具，他离开它还没法生活。而这金棒子会随意变化，看来也通点灵性，后大概会鄙视这个人，乃至取而代之。
人类的技术发展出巨大的，在地球上几乎可以说是颐指气使的控物能力。假如人类能够同时在道德和精神上无限成长，人能自己变成圣洁的神灵，那么，他拥有这些能力、并继续无限地发展这些技术大概也并不可怕，但人类虽然可以改善自己，提升一些自己的精神和道德能力，但人并不是无限可完善的。人就是人。人永远是一种中间的存在。我们也许还可以补充说，人还是一种中间向善和向上的存在，但人却永远不会是完善的神灵般的存在。人要成为神灵尚且不可能，要成为不仅全知全能，而且全善的上帝就更不可能了。
所以，我个人以为，人类实实在在地面临着一种来自技术的巨大挑战和危险。许多人可能会持有不同的意见。谈到人类可能面临的危险，一种意见大概会说：“人类可能遇到的毁灭性灾难还很远很远呢，我们为什么还要为此忧心？”比如说人们早已知道了热力学第二定律，地球和太阳系终将毁灭，人类将有自己的终点。但这没什么可怕的啊，这些自然的灭寂无疑还极其遥远呢。甚至比如彗星那种毁灭性的偶然打击虽然也有可能提前发生，但概率很低很低。而且，我们发展技术，不是正可以防范这种危险吗？所以说，对技术的忧虑是自寻烦恼或自卸武功。
是的，这类自然的、外来的灾难的确可能很远很远，而且人类还可能通过技术部分避免、逃逸和延长自己的生存。但在这“很远很远”和我们“切近的生活”之间，却还有一种危险。那就是人类自己制造的危险。且不说超级智能机器和转基因物种，就是悬在人类头顶的数千颗核弹也随时可能对人类造成灭顶之灾。不仅有现成的核武，一些目前无核的发达国家也拥有可以很迅速地进入制造核武的能力，尘封多年的毒气、细菌和生化武器也还有可能启封。在今天人类掌握如此巨大控物能力的技术世界里，人类要给自己造成严重打击几乎是轻而易举。而我们不能排除总是有狂人的亡命之举或正常人的误判。按照事物的自然进程来说，万物皆有兴衰，人类也不例外，但人类能不能享其“天年”？而人类已经在试图改变自然的进程，不断用人为的技术手段改变外界，也改变自己的身体。
人们可能又会回答说：“即便就是灾难临近，甚至哪怕就是明天发生，如果这灾难是不可避免甚至不可预测的，那么，为什么要让它干扰我们现在的心态和生活？”我也不完全反对这种意见，也主张一种坦然的生活，我们该做什么还是做什么。但有一种预警可能也是需要的。总得有人发出声音。而且，如果做出努力，也不是全无希望。就如海德格尔所引荷尔德林的诗句所言：“哪里有危险，哪里也生救渡。”但救渡的前提是：我们首先要看到和正视这危险。
甚至也有这样一种意见：“即便人类被另一种物种代替了，那么，可能也是不赖，甚至那新的物种——比如说硅基生物，还可能是一种更先进的物种呢。”这是一种非常达观或者说乐观的意见。我几乎可以肯定地说，我说服不了持这种一心相信进步或者说不畏惧任何变化的意见的人。我承认我还是有一点个人的执念：人类的历史尽管并不很长，文明史也就只有一万余年，人类尽管有一种作为碳基生物的软弱，但可能正是因此取得了丰硕的精神文化成果。我还是珍惜，甚至无比地珍惜这些成果，也珍惜我们人类的日常生活和各种属人的感情。
在专门研究科技之前，我已经感到，人类精神文化的其他方面与科技文化相比，已然显示出某种落后、停滞甚至无可挽回的衰落样态。在临近近代的时候，我们还看到过突出的表现于艺术的文艺复兴；在17—19世纪，我们至少看到了艺术、哲学等人文精神文化的发展还能够基本上与科学技术的发展并行；但到了20世纪，我们就看到它们在开始走向下行之路了；到了21世纪，我们甚至可以说，这种一上一下已经是一种无可挽回的趋势。一种技术自控的能力本来是可以从这种人文和信仰的精神文化中吸取丰厚资源的，但这种精神文化现在却难以维系自身。
我在小学的时候，大概是在一本教材中读到过一个有关琥珀的故事：一位德国作家柏吉尔写到一只蜘蛛正扑向一只蝇虫，突然被一大滴落下的松脂一起裹住，松脂继续掉落，形成一个松脂球。过了多少万年，才被一个孩子发现这个松脂球的化石。这个故事不知为何让我感伤很久，那两个鲜活的虫子就这样突然地、被它们完全不知道的原因剥夺了生命。这个故事同时也使我有了一种悠久的历史沧桑和无常感。但和人类目前面临的危险是来自自身还不一样，这两个虫子是遇到了一种偶然的灾难和外来的袭击，一切都还是自然的，包括掉落的松脂。地球史上恐龙的灭绝可能也是因为某种突如其来的外来原因——地球遭遇到了彗星的袭击。但是，恐龙毕竟是有过上亿年的自身演化史和几千万年的支配地球的历史的，而人类则只有几百万年的自然演化史（如果从智人来说则只有二三十万年），只有一万年的文明演变史——这同时也是他支配地球的历史。
被种种契机——当前的和早就隐伏的——推动，于是就有了这本书的诞生。在这三年中，我不知不觉在这方面竟然已经写下了十几万文字。下面就简单介绍一下本书的内容。我首先是从人工智能入手的，这就构成了本书的前五篇文章。在篇文章中，我探讨了“何以为人，何以为物，人曾何为，人将何为”的问题。在第二篇文章中，我从伦理的角度观察久远的人与物、人与人以及新出现的人与机器的关系。在第三篇文章中，我探讨了人工智能对人类未来可能提出的挑战是什么。在第四篇文章中，我试图回到人类精神文明的开端，回到轴心时代来思考人工智能，因为在古老的开始“接物”的文明发端之后不久，人类就已经有了一种在人的精神与自然万物平衡，也在自己的内部平衡的古老智慧。在第五篇文章中，我交代了我研究人工智能，也是整个高科技带来的挑战的基本方法，那就是一种“底线思维”的方法。
本书的后五篇文章则遵循另一种思路。篇文章我探讨了高科技之所以是对人类的一种新的严重挑战，是因为它不仅来自人自身的动机，还特别明显地表现出它会带来一种难以预测的严重后果，所以，不能没有一种预防性的伦理与法律。第二篇有关基因工程伦理的文章则比较具体地考虑了在这个领域中的动机分析和后果预防。第三篇文章试图思考，随着太空科技的发展，想象中的星际“丛林状态”将对人类道德带来的挑战。第四篇文章是综合性的，一般的讨论现代伦理如何应对高科技时代。后一篇则回到了我早关注技术问题的初衷，即战争技术所带来的安全距离的消失意味着什么。
应该说，经过这一系列的思考，一些一般的看法已经形成。简要地说，就是认为高科技时代的挑战表现出这样一个鲜明的特点——它带来一种来自人自身的却难以预测的严重后果；人的两种能力的不平衡——控物能力与自控能力的不平衡，认知事物能力的发展和精神其他方面能力发展的不平衡——不仅巨大，而且在继续增大。
这本书中的多数文章曾经发表。《何以为人 人将何为》原刊于《探索与争鸣》2017年第10期；《人物、人际与人机关系——从伦理的角度看人工智能》原刊于《探索与争鸣》2018年第7期；《奇点临近：福音还是噩耗——人工智能可能带来的挑战》原刊于《探索与争鸣》2018年第11期；《一种预防性的伦理与法律：后果控制与动机遏制》原刊于《探索与争鸣》2018年第12期；《人工智能与底线思维》原刊于《当代美国评论》2019年第1期；《现代伦理如何应对高科技时代》原刊于《信睿周报》2019年第7期；《回到“轴心时代”思考人工智能》则属于博古睿中心《当中国哲学遇见人工智能》写作计划项目中的一篇，该书将由中信出版社出版。在此，我要向这些刊物和机构致以特别的谢意。
我希望通过这些发表的文章和本书的出版得到各种批评意见。我知道，我所发出的声音肯定还是很微弱的，但也正是因为微弱，才更愿意“嘤其鸣矣，求其友声”。这“友”不仅包括同感之“道友”，也包括批评之“诤友”。
我自己也要继续探索。我基本同意海德格尔在哲学上对技术本质的描述，也赞同技术在我们的时代居支配地位的观点，但认为有些还都主要是对一种状态的描述。我们或许还可以从历史上看看技术发展至此的原因或者说动力机制，也看看和它连带着一起发生了什么。而我们在这些历史原因和社会关联的追溯中，或许能窥见解决这一问题的途径或办法之一二。
何怀宏
2019年12月24日
评论
还没有评论。