首页 >> 哲学 >> 科学技术哲学
赵汀阳:人工智能“革命”的“近忧”和“远虑” ———种伦理学和存在论的分析
2018年09月18日 09:40 来源:《哲学动态》 作者:赵汀阳 字号

内容摘要:

关键词:

作者简介:

Comprehensive Considerations for the "Revolution" of Artificial Intelligence:An Ethical and Ontological Analysis

  作者简介:赵汀阳,中国社会科学院哲学研究所。

  原发信息:《哲学动态》第20184期

  内容提要:人类的技术发展正在取得多种革命性的突破,其中一些技术在给人类带来巨大利益的同时也蕴含巨大风险。本文分析了人工智能在不久的将来可能导致的严重而尚不致命的危险,以及在较远的将来可能导致的致命危险;同时还分析了人工智能的安全条件,提出需要为超级人工智能设置确保自毁的程序以保证人类的存在地位。

  关键词:人工智能/超图灵机/哥德尔程序炸弹

 

  21世纪以来,与人类未来命运最为密切相关的大事莫过于人工智能和基因工程的惊人发展,这些技术将给人类带来存在论级别的巨变。

  基因工程是一个好坏后果相对比较清晰的问题,至少在伦理学上相对容易给出判断。比如说,基因工程中那些能够用于治病救人的生物医学技术无疑都功德无量,对此人们基本没有争议。然而,通过基因编辑而改变一个人的智力水平和生物极限,从而使一个人获得近乎超人的智力或者长生数百岁,这种努力虽然诱人,却是一个有着巨大未知风险的目标。假如此类技术能够普惠每个人,则可能是一个皆大欢喜的结果(但仍然存在未知风险);但假如只能够特惠少数人,则显然不会被众人所接受。经济上的巨大不平等已有可能导致社会动乱和报复性行为,生命权的不平等恐怕会让人们忍无可忍而导致致命的全面动乱、反叛甚至战争。显然,那些导致生命不平等的基因技术完全缺乏伦理支持,既不仁义也不智慧。因此,以理性之名可以推想,将来会有人类公约将基因工程控制在普惠众人的限度内,任何自私狂悖的冒险都可能被禁止。可以说,基因工程是一个需要严肃对待的实践问题,并非一个价值疑难问题。

  与此不同,人工智能的发展却涉及许多理论上的根本困惑,以至于难以判断。仅就单纯的技术应用而言,人工智能似乎能够普惠人类,并不违反平等原则,因此在伦理学上并无明显疑点;但就其革命性的存在论后果来看,人工智能有可能改变或重新定义“存在”概念,有可能在存在论层面上彻底改变生命、人类和世界的存在性质。这个“革命”过于重大,以至于我们难以判断这样深刻的“存在升级”是人类的幸运还是不幸。所以,人工智能不仅是个技术问题,同时也是哲学问题。在这里我愿意以杞人忧天的方式提出几个疑问: (1)人类到底是需要人工智能替人劳作,还是需要人工智能替人思考?(2)如果让人工智能替人劳作,人类因此得以摆脱艰苦的劳动,那么,人类的生活会因此变得更好吗?(3)如果人工智能获得超越人的智慧,人工智能还需要人类吗?人类文明还能够延续吗?或者,人类文明还有意义吗?人类已经习惯了带来“进步”的新发明,但人类真的需要任何一种新发明吗?

  一、人工智能的“近忧”

  尽管有些预言家(例如库兹韦尔)相信达到“存在升级”的人工智能“奇点”已经胜利在望①,但更多的科学家认为“奇点”仍然是比较遥远的事情,潜在可能尚未在望,因为许多根本的技术难点仍然不得要领,特别是尚未真正了解思维的本质、机制和运作方式,所以无从断言其到来。在此,我把能够形成“存在升级”的人工智能看作属于“远虑”的知识论和存在论问题,而把将在近年内确定能够实现的人工智能看作属于“近忧”的伦理学问题,这一讨论也将由近及远来展开。作为“近忧”,人工智能的技术应用非常可能面临以下伦理学问题。

  其一,自动智能驾驶悖论。这是近年来引起普遍关注的一个实际难题。假如人工智能的自动汽车(目前的技术只是无人驾驶汽车,尚未达到完全自主智能的汽车)在路上遇到突然违规的行人,是保护乘车人还是行人?这似乎很难做到两全其美,于是形成了一个两难选择。假如自动智能汽车的原则是舍己救人,即牺牲乘车人而保护行人,那么这样的汽车将没有任何市场前景,没有人会购买或租用一辆毫不利己、专门利人的汽车;假如原则为保护乘车人,也恐怕难以通过市场准入评估,毫不利人、专门利己的汽车同样不可接受,因为每个人都有可能在某些时候成为无意违规的行人,比如一时糊涂没有注意交通灯;因为年老或身体状况而通过路口速度太慢;儿童尚不熟知交通灯或粗心大意,等等。即使人人遵守交通规则,也仍然会担心被设置为优先保护乘车人的程序在某些情况下可能产生误判。

  严格地说,这是人的悖论,不是机器的悖论。机器只是遵循规则而已,问题在于我们不知道应该为自动汽车选定什么样的规则。这个问题看似小事,其理论难度却非同一般,即使引进负有盛名的罗尔斯的无知之幕也无法解决。其难点就在于:假定每个人都是投票人,并且每个人既可能是行人也可能是乘车人(事实如此),那么就无法作出决断——给定人们的选择总是优先满足风险规避原则,因此人们不可能选择一种在某些情况下有可能祸及自身的高风险规则。实际上,自动智能驾驶悖论比广为流行的有轨电车悖论要深刻得多。所谓有轨电车悖论其实只是一个技术难题,它并非无“解”,而是没有适合任何情况的一般“解”,但有多种因情制宜“解”(简单地说,如果当事人皆为抽象人,则有功利主义“解”;如果是具体人,则有多种根据道德附加值的“解”)②。然而,自动智能驾驶悖论在伦理学上真的无“解”。当然,我们可以寄希望于将来会有一个完美的技术“解”,即自动智能汽车的技术能够达到同时保护行人和乘车人。

  这个悖论只是人工智能可能带来的技术应用难题的一个象征性的代表,类似的悖论也许会有很多。此类悖论具有一个通用难点,即当人工智能成为人类的行为代理人,我们就需要为之设置一个“周全的”行为程序,而这正是人类自己的局限性。事实上,人类能够作出许多伟大的事情,却从来没有做过真正周全的事情。这也正是之所以存在那么多哲学问题的一个原因。我们习惯于百思不得其解。

作者简介

姓名:赵汀阳 工作单位:

转载请注明来源:中国社会科学网 (责编:李秀伟)
W020180116412817190956.jpg
用户昵称:  (您填写的昵称将出现在评论列表中)  匿名
 验证码 
所有评论仅代表网友意见
最新发表的评论0条,总共0 查看全部评论

回到频道首页
QQ图片20180105134100.jpg
jrtt.jpg
wxgzh.jpg
777.jpg
内文页广告3(手机版).jpg
中国社会科学院概况|中国社会科学杂志社简介|关于我们|法律顾问|广告服务|网站声明|联系我们