人工智能的伦理问题

人工智能的伦理问题的研究

西北工业大学

计算机学院

2016302358董正宇

文档

人工智能的伦理问题研究

董正宇

(西北工业大学计算机学院，西安)

摘要：2016年3月，谷歌基于“深度学习”的围棋人工智能程序AlphaGo

以总比分4：1战胜“石佛”李世石，被誉为人类智慧王冠上的最后明珠的围棋

也被人工智能“攻陷”。引发了全社会对于人工智能发展的空前关注。随着人工

智能的快速发展，社会将如何应对和接纳这一新的社会元素也成为了摆在人们

眼前的重要问题。

本文将首先简要的介绍人工智能的基本状况、现今发展情况，再就人工智

能的可能发展做简要探讨，最后重点讨论人工智能的伦理问题。

关键词：人工智能、深度学习、伦理

Abstract：March2016，theGoogle’sartificialintelligenceprogramAlphaGobeat

famousgoplayerLeeSe-dolbythetotalscoreof4:1whichabsorbalotattentionto

edevelopmentofartificialintelligence,howtoface

thisnewelementinoursocietyisbecomingmoreandmoreimportant.

Theessaywillfirstlybriefintroducetheartificialintelligenceanditssituation,andthen

y,Iwillmainlyfocuson

theethicofartificialintelligence.

Keywords:artificialintelligence

文档

1.人工智能技术简介[1]

人工智能技术简称AI(Artificial

Intelligence)，AI作为一门学科，于1956年

问世，是由“人工智能之父”麦卡锡

(McCartney)及一批数学家、信息学家、心

理学家、神经生理学家、计算机科学家在美

国Dartnouth大学召开的会议上首次提出来

的，它是在计算机科学、控制论、信息学、

神经心理学、哲学、语言学等多种学科研究

的基础上发展起来的一门综合性的边缘学

科。不过，关于人工智能技术的定义，至今

还没有一个统一的表述，而且不同的学科以

及不同学科背景的学者对人工智能技术有

着不同的理解与认识。广义地讲，人工智能

技术是关于人造物的智能行为，这种智能行

为一般包括知觉、学习、推理、交流以及在

复杂环境中的行为(ilsson，1998年)。另外，

从工程的角度来说，人工智能技术就是通

过用人工的方法使机器具有与人类智慧有

关的功能，如判断、推理、证明、感知、理

解、思考、识别、规划、设计、学习和问题

求解等思维活动。它是人类智慧在机器上

的实现。

意识，且能够对这些变化和刺激进行分析、

推理及判断。强人工智能技术通常分为两种：

一种是类人的人工智能技术，即这类机器有

着与人类相似的推理能力和思维方式；另

一种是非类人的人工智能技术，即这类机器

具有自己的推理能力和思维方式，并有知觉

和自我意识。强人工智能技术具有极大的智

能可以从其行为方式上得到体现：要么会按

照人预先设定的指令具体去做什么，要么就

根据具体环境的需要去做什么，它通常能够

主动完成任务，而且其表现出的行为可以不

按照人类事先设计好的程序来执行。

对于弱人工智能技术的伦理讨论是没有意

义的，所以本文要讨论的是强人工智能技术

的伦理问题。

1.2另一种人工智能的划分方式

或者我们可以将人工智能划分为三个

[2]基本层次以及更高的层次。

1．信息收集辅助与智能筛选

信息收集辅助与智能筛选是最基础的

人工智能服务，现在已经被广泛使用。如目

前的各类搜索引擎，其内在都是采用智能化

的搜索机器人算法，在广域的网络中不断读

取分析，并汇集而来。当用户在使用搜索引

擎时，根据用户的搜索习惯，给出相对最有

可能满足用户需求的排序结果。不同的个体

在使用同样的关键词进行检索时，会得到不

同的结果。因此，从这个意义而言，最基础

的人工智能早已经进入人类社会中。信息收

集辅助与智能筛选看似是最简单的人工智

能领域，然而其难度和复杂度并不简单。关

键的难度在于在大数据时代，如何有效地快

速获取最有价值的信息。因此，如前所述，

大数据时代所产生的海量数据，是促生人工

智能领域的最初和最重要的驱动。在这一层

面，人工智能可以广泛应用于各类信息获取

需要的服务和反馈。

2.识别应答接受模糊任务并完成人工智能

的早期使用如搜索数据，其最基础的命令输

入依然是要用固定形式的格式化命令来实

1.1弱人工智能技术和强人工智

能技术

一般来说，可以将人工智能技术分为弱

人工智能技术和强人工智能技术。其中，弱

人工智能技术一般赋予机器的是某种既定

的、事先设定好了的程序指令，它只能对特

定的外界刺激做出相应的反应，而不能自己

去改变。弱人工智能技术“根本没有意向状

态，它只是受电路和程序支配简单地来回运

动而已”，故其所表现出的智能及行为通常

能够被人类控制，对人类并不会造成威胁。

弱人工智能技术不能使机器像人类那样通

过自我学习来提高自己的智能，且缺乏自我

意识更没有主动性而言。

强人工智能技术则不同，强人工智能技

术能够对外界环境的变化与刺激产生自我

文档

现的。如搜索引擎的“关键字+搜索”就是

一种格式化命令。然而人工智能的进一步发

展，是要求机器能够识别人类相对较为模

糊的自然语言命令并做出有效反应和完成

工作。在接到命令后，可以调动之前的搜索

功能提供信息，或者驱动行为部件实现特

定动作。如人员可以命令“帮我到××信息”，

“帮我提供××方案”等，机器则自动实现有效

信息和动作的反馈。在这一层面上，人工智

能将更广泛地替代传统僵化的人与机器的

交互形式，以声音、图像、动作等多种交互

手段，并为人类提供更有效的决策与行为方

案参考并根据人的命令指示而完成工作。

3.自主的判断与决策

人工智能的第三个层面是要实现机器

的自主判断决策和相应的行为。在这一层面

中，机器可以根据环境条件的变化自主决定

最优的行动方案，从而在更大程度上模拟和

替代人的行为，并形成对前两个层面能力实

现统合，形成完整的人工智能功能体。目前

广泛所知的阿尔法狗程序就是在这一层面

的探索，其他如车载自动驾驶，自主无人机

以及更广泛的人形机器人，都要在一定程度

上实现自主的判断与决策。

以上就是人工智能的三个最基本的层

次，当然，人工智能最高的层次是实现机器

自主意识的出现。这将远超机器拥有自主的

判断与决策能力层面，是否人能够设计或

者机器将自我演化形成具有类似人的自我

意识乃至情绪、情感、好恶，将依然是一个

极为难以判断的问题。也将产生更多的社会

影响，包括自主意识的机器智能体是否还是

机器和基本权利问题等等。

2.人工智能的发展现状

人工智能技术作为一项综合性很强的

技术，其发展到目前，主要应用领域有：专

家系统、人工生命、模式识别、定理证明、

机器人学、机器学习、自动程序设计、自然

语言处理、问题求解、人工神经网络、智能

决策系统等。

人工智能正在经历由弱人工智能向着

强人工智能的转变。

以谷歌的最新人工智能程序AlphaGO

为例，其依靠两个“大脑“来进行整个围棋中

的思维过程：落子选择器（movepicker）和

棋局评估器（positionevaluator）。落子选择

器基于大数据和云计算对于落子概率进行

评估，而棋局评估器针对落子选择器所选择

的可能结果进行分析评估双方获胜的可能

性在反馈给落子选择器。通过这样大量的运

算，来确定对自身最为有利的方案来进行棋

局。其本质是利用了云计算的强大计算能力

来进行一种优选后的穷举运算，这种做法仍

然不足以称为”思维“，但是优选这一过程无

疑是向着这一方向迈出的重要一步。

总体来说，人工智能存在于现代生活的

方方面面，但是人工智能技术仍然没有在

“能力“到”智力“的进程上取得突破性进展。

文档

3.人工智能的未来发展

由于本文需要讨论的是人工智能的伦

理问题，所以在这里只探讨会产生伦理问题

的强人工智能的发展问题，尤其是使人工智

能拥有类似人类思维能力和情感的人工智

能的发展。

要做到拥有类似人类思维能力的人工

智能，现阶段有两种方式是最为可能的：

其一，是通过大量的电子元器件完全模

拟人类的脑神经网络，神经的兴奋和抑制恰

好可以与电路的高电频和低电频对应即其

很好的对应了计算机的以二进制为基础的

语言。目前，人类已经成功的模拟了小鼠的

大脑使得电子的小鼠脑产生了与实际小鼠

大脑相似的电波。这种方式理论上可以制造

出真正的人造人脑，但是，这种方式的问题

也是明显的，即这样的人造人脑在无法自行

建造的情况下，只能使其拥有人类某一特定

状态的思维能力，没有直接以神经网络模拟

的形式来获取新知识的能力。

其二，是制造可以不断自我更新自我进

化的人工智能，随着人工智能的不断的自我

进化，其可以产生基于机器自身的逻辑体系

和思维方式。这种思维方式会与人类的思维

方式是有区别的，但是由于这种形式的人工

智能是程序不断自我完善的产物，所以，其

思维模式等特征是较难预估的，这便产生了

人类无法控制人工智能发展的可能性。而且，

零星的偏移就可能产生蝴蝶效应式的巨量

偏移，其对人类社会的存在造成的影响是不

可预知的。

总的来说，拥有人类情感的人工智能是

可能的，但是仍面临着技术难关和道德伦理

问题。

4.人工智能的道德伦理问题

这部分将就几个随着人工智能的发展

可能浮现出的问题进行讨论。

4.1思维存在是否人就存在[3]

3D活动模拟图在结构上与人脑皮层相

同，如果复制后的“电子人脑”能够产生思维

意识，思维的存在是否就是人的存在呢?

一方面认为思维的存在不等于人的存

在。人是一种自然存在物．自然属性是人存

在的基本属性．人的自然性首先是指人对

于生命的拥有。正如马克思指出：“人直接地

是自然存在物。⋯⋯而且作为有生命的自然存

在物。”一个人如果离开了对于自己生命的

拥有，那么他将不复存在。因此，人的存在

首先是对自身生命和身体的拥有。

其次，在自然存在的前提下，人是一种

社会存在物和精神存在物．社会属性和精神

属性是人类特有的属性。人作为社会动物，

必然在相互交往的过程中发生人与人之间、

人与社会之间的联系。马克思说：“人的本质

并不是单个人所固有的抽象物，在其现实性

上，它是一切社会关系的总和。”同时马克思

实践唯物主义强调实践作为人的存在的基

本方式，是实践创造人本身。人类的思维意

识在实践活动中得到了丰富，并且实践使人

的活动具有社会性。人的存在既是人的自然

属性、社会属性和精神属性的统一又是认识

活动、实践活动的统一。然而，“电子人脑”

仅仅复制的是人脑的承载思维的物质基础。

没有了生命和身体，离开自然环境，脱离了

社会环境。即使存在思维意识也将变得孤立，

认识无从谈起，实践无从谈起。更不能当作

是人的存在。

另一方面，认为思维的存在即人的存在。

黑格尔认为人的本质是一个能够“思考自己”，

即具有自我意识的精神实体，是一个能够摆

脱物质必然性的束缚而实行独立自决的自

由的精神实体，人即精神，精神即人。宗教

哲学中将人看做是有灵魂的生物，他们认为

每个人都是有灵魂的，灵魂所指就是人类的

思维意识。同样，在医学界有着“脑死亡”的

文档

说法，思维活动的停止标志着生命的完结。

因此，在某种程度上来说，思维意识更是标

志一个人存在而永恒不变的东西，思维的存

在即人的存在。

“电子人脑”即使不能达到与人类相同程

度的思维意识。即使是低一级或者迟钝的思

维意识，都同样可以看做强AI研究的成功，

因为思维意识产生规律的发现将使人工智

能逐渐向着人类智能迈进，而且将来为“电

子人脑”安装各种传感设备来代替人类感

觉器官是极为容易的事情，接收外界环境的

感知也将不再是难题，那么高级智能的产生

也将仅仅是时间问题。其次，网络技术的普

及和发展使得网络对人们的影响不断加深，

如今人们除了现实存在外，还在虚拟世界里

有着虚拟存在，通过网络，人们能足不出户

对客观世界进行认识与实践，或者说认识方

式与实践方式随着网络技术的发展而改变。

第一，通过网络。人们能够对想要了解

的事物有一个基本的认识。网上交流、聊天

能获得自己需要的信息，并建立起新的社会

关系。

第二，通过网络。改变了人类的实践方

式。人类的实践活动是一种目的性活动。列

宁曾经简洁地提出一个公式：“人的实践=要

求+外部现实性”问。网络恰好满足这种“要

求和外部现实性”，为虚拟实践提供可能。因

此，我们可以设想如果“电子人脑”与网络相

联接．即使在缺少自然生命和身体的情况下。

其思维意识同样能够与现实社会的人沟通、

交流并在网上进行认识实践活动，如在网上

实现现实物品的买卖、网络视频会议等。而

且认识实践活动中将逐步建立起相应的社

会关系。其社会属性和精神属性都将得到实

现，如果那样我们还能将这些没有生命的

“电子人脑”当作机器看待吗?

4.2有感情有意识的人工智能是

否应该享有人权

假设某一人工智能可以拥有和人类一

样的情感和意识，那么对于该人工智能体的

界定便面临了巨大的挑战。人类是否应该仅

仅作为其创造者的身份与该人工智能相处？

该人工智能是否应该享有同人类相同各种

权利？当这样的人工智能体的数量极其稀

少时这样的问题并非明显，但是一旦拥有自

我意识的人工智能数量达到一定限度时，矛

盾便凸显了出来。对于拥有自我意识的人工

智能在社会中的地位界定是需要提前进行

的，只有拥有了正确的明确定位后，拥有自

我意识的人工智能体才不会给社会的健康

发展带来不利影响。

什么才是对于人工智能正确的定位？

绝不是简单的使其拥有和普通人类完全相

同的人权。做一个极端情况的假设，由于人

工智能在大量领域能力是远远超过人类所

具备的能力的，以个体的利己性进行考量，

人工智能体在择偶市场上可能会拥有超过

大多数人类的竞争力，这种平等，极有可能

对人类自身的生存和发展造成不良的影响。

但是，直接将有情感的人工智能体放在低于

人类的地位上同样是不可取的。无数的历史

事实告诉我们，阶级的不平等必定带来反抗。

人类究竟应该如何看待拥有人类情感的人

工智能，人类应该如何与人工智能体共处，

这将是人类在人工智能发展道路上必须要

面对的问题。

文档

4.3具备自我改造进化能力的人

工智能的危险性

在之前对于人工智能的未来发展的部

分中已经提及了不断自我进化的的人工智

能的不确定性。这种不确定性是危险的，其

危险性不仅在于在不进行人为干预的条件

下其自我进化的不可预知性，更在于人为对

机器自我进化干预的困难性和不可预知性。

在不进行人为干预下的不可预知性较容易

理解，它是由于在不断的自我进化中，任何

微小的改变都有可能由于多次的自我改造

而造成巨大的差别。而人为干预的困难性主

要体现在人工智能体可能出现的对人为干

预的改造的抵触以及其指数增长的进化速

度。而人为干预的不确定性主要在于干预后

人工智能体对于人为干扰的响应不确定性。

5.结语

人工智能技术是人类智慧的体现，如果

应用得当，无疑可以有效的推动人类文明的

发展。但是，在发展人工智能技术时，需要

对其未来可能带来的问题进行充分考量，这

样才能更好的让人工智能服务人类。

文档

参考文献：

[1]武汉理工大学李俊平

人工智能的伦理问题及其对策的研究.

[2]何哲人工智能时代的政府适应

与转型.

[3]武汉科技大学龚园

人工智能的哲学思考.

文档