首页 >> 哲学 >> 科学技术哲学
试论深度学习技术对人类社会持续发展所造成的风险
2020年01月10日 10:55 来源:《当代美国评论》 作者:徐英瑾 字号

内容摘要:

关键词:

作者简介:

Deep Learning Poses Potential Threat to the Long-term Development of Human Civilization

  作者简介:徐英瑾,复旦大学哲学学院教授。

  原发信息:《当代美国评论》(京)2019年第20191期 第3-23页

  内容提要:深度学习机制的实质,便是通过大量数据训练的方法,使得人工智能系统能够在一个肤浅的层面上模拟人类在特定输入与特定输出之间建立的映射规律,与此同时,却对人类做出此类归类活动的宏观认知架构不闻不问。深度学习机制无法灵活地应对缺乏既有数据支持的新问题求解语境,因此,人类对于此类技术的过分依赖必然会导致人类社会应对新问题的应变能力不足。同时,此类依赖对于人类教育体制的侵蚀,也会在长远上使得作为数据标注活动得以可能的人力资源受到削弱,并由此使得人类的人文资源枯萎。与之相比较,目前尚且不那么主流的基于认知建模的通用人工智能技术,或许才是能够保证人类社会健康发展的新技术发展方向。

  关键词:深度学习/通用人工智能/人文资源

  标题注释:本文是国家社科基金重大项目“基于信息技术哲学的当代认识论研究”(项目编号:15ZDB020)的阶段性成果。

 

  

  对于“人工智能”的发展历史稍有理解的人都知道,这个概念只不过就是多种科研思路与技术路径的松散联合,而不指涉一个具体的、具有自我统一性的技术实体。从技术发展的根本目的而言,“人工智能”可以被大致分类为“专用人工智能”与“通用人工智能”两类:归类为前者的产品面向特定应用场景,并仅能满足相关应用场景所提出的技术要求;而归类为后者的产品则指向对于人类认知架构的全面建模,却未必与特定的应用场景直接挂钩(尽管这些产品一旦能够完成,在原则上是能够适用于所有应用场景的)。目前主流意义上的“人工智能”研究指的是专用人工智能,也就是面向特定应用场景的人工智能。而这种意义上的人工智能研究的具体技术路径又分为两类:基于规则的人工智能(即从事先编制入系统的一般性的规则性知识出发进行运作的人工智能系统),与基于数据的人工智能(即从大量的输入性数据出发寻找一般性规律的人工智能系统)。近年来被广泛使用的深度学习技术,在归类上属于所谓的“基于数据的人工智能”,因此,我们也可以说目前最主流、最红火的人工智能技术就是深度学习技术。

  关于深度学习技术的伦理风险,目前学界的注意力主要是放在对于“算法偏见”与“算法透明性”这两个问题之上。“算法偏见”指的是这个意思:深度学习对于大量数据信息的处理过程,在原则上就是在某些输入信息与某些目标信息之间建立起特定种类的映射关系的过程。在这种情况下,人类训练员完全可以通过对于训练目标的人为调控,来控制系统的数据归类方向,由此固化人类自己的某些偏见(比如在人脸识别系统中对于具有某种面部特征的人群的“犯罪倾向”的归类),最终造成负面的伦理后果。“算法透明性”说的则是这个意思:与基于规则的人工智能不同,基于数据采集的深度学习系统本身的运作是很难通过线性的公式推导过程而在人类语言的层面上被解释的,其结果更像是某种神秘的“黑箱”运作后的输出结果。在这种情况下,即使是系统的设计者,有时候也说不清楚为何系统会在某些运行条件下给出这样的运算结果。由于这种非透明性,此类人工智能系统若被纳入到以“说理”为基本交流方式的人类公共生活之中,自然就会导致与人类既有社会习俗与法律系统的大量碰撞。

  但在笔者看来,深度学习的伦理风险还不止于此两项。毋宁说,深度学习最麻烦的伦理问题,乃在于对于人类文明的持续可发展性所构成的威胁。或说得更具体一点,深度学习机制的根底,乃是对于人类专家某方面的数据归类能力的肤浅的模仿,因此,其存在的逻辑前提,便是作为被模仿对象的大量人类专家的存在。然而,深度学习系统的大量运用,却对人类专家的稳定培养机制构成了巨大威胁,并由此使得深度学习未来的智慧汲取对象变得枯竭。由此,滥用深度学习技术的人类社会,在吃光该技术所能带来的短期红利之后,可能最终走向文明的衰落。而解决这个隐患的对冲机制,则在于研发在学术前提上与深度学习技术迥异的“基于认知建模的通用人工智能”。

  而为了给如上判断提供佐证,笔者将从回答如下几个关键问题着手,逐步展开论述:

  第一,为何说深度学习系统只是肤浅地模仿了人类既有的部分智慧,而无从把握人类智慧的核心?

  第二,为何说深度学习技术的滥用会导致人类智慧的枯竭?

  第三,为何说基于小数据的通用人工智能技术的发展,才是一条更具可持续性的人类技术发展进路?

  先从第一个问题谈起。

作者简介

姓名:徐英瑾 工作单位:

转载请注明来源:中国社会科学网 (责编:李秀伟)
W020180116412817190956.jpg
用户昵称:  (您填写的昵称将出现在评论列表中)  匿名
 验证码 
所有评论仅代表网友意见
最新发表的评论0条,总共0 查看全部评论

回到频道首页
QQ图片20180105134100.jpg
jrtt.jpg
wxgzh.jpg
777.jpg
内文页广告3(手机版).jpg
中国社会科学院概况|中国社会科学杂志社简介|关于我们|法律顾问|广告服务|网站声明|联系我们