探究人工智能发展的伦理困境

探究人工智能发展的伦理困境

作者：张帅

来源：《青年时代》2020年第19期

摘 要：科学技术作为人类的第一生产力将会始终伴随人类社会的发展，人工智能技术的成功在很大程度上改变了人类生产生活和思维模式。但是在人工智能技术积极应用在人类社会现象的背后，我们必须看到它的发展带来的以及今后很大可能会带来的伦理困境。对于人工智能所可能会引发的诸如责任、权利、道德等问题，我们必须在反思警惕的同时寻找相应的解决对策，规约人工智能的发展轨迹，完善相关的法律法规，从而使其朝着符合人类根本利益的方向健康发展。

关键词：人工智能;伦理困境;轨迹规约;法规完善 一、人工智能概述 （一）什么是人工智能

人工智能是研究、开发用于模拟和延伸人的智能的理论、方法、技术及应用系统的一门技术科学，同时是一门涉及计算机、控制学、心理学等学科的综合性学科。1956年人工智能学科被美国科学家约翰·麦卡锡正式提出，引起了广大科学家与哲学家的重视。总的说来，人工智能的目的就是让计算机这台机器能够像人一样思考。 （二）人工智能伦理困境研究现状

维纳在《人有人的用处：控制论与社会》这本书中指出，自动化技术或现在的机器人技术可能造成“人脑的贬值”。维纳不仅为研究社会提供了一个全新的视角及方法，而且还描绘出未来社会的图景，警示人类将来会出现的问题以及提出应对的方法。徐英瑾在《心智、语言和机器：维特根斯坦哲学和人工智能科学的对话》一书中对哲学和人工智能之间的内在联系进行了探讨，认为伦理学家需要熟悉决策论、博弈论等理论的哲学前提，并且加强对人工智能的人文思考才能更有效的解决这一伦理困境。 二、人工智能目前发展的伦理困境 （一）人工智能伦理问题的产生

人工智能技术的伦理问题可以追溯到该技术诞生的时候，科学家和哲学家从人工智能诞生时就已经有了关于今后伦理问题的争论，而大众开始形成人工智能伦理问题的概念多是由一系列超前的科幻小说和电影引发的。人工智能之父图灵在《智能机器》中就已经开始详细阐述人

工智能技术，并且预测了其未来发展的光景，并且提出人工智能在未来必然会威胁到人类的生存。人工智能的发展使人类获得了一定解放，但是其技术中的漏洞也在影响着人们对于人工智能的看法，因此有的人提出应该限制人工智能的发展来避免危机的产生。一些科学家认为机器是人的产物，要想从根源上解决这一困境，应该更加积极的关注人本身，提高科学家的伦理道德素养和研发水平，使之有机会在伦理设计中赋予智能机器以道德律令。这样一来，不论智能机器处于何种发展程度都是可以预料和控制的。 （二）人工智能伦理困境的表现

1.权利问题：该不该赋予“人性”的机器以人权

人类社會不断发展进步让人权得到越来越高的重视，维护人权已经成为当今社会的一项基本原则。人权具有普遍适用性，反映了自然人最基本的利益和需求。今天，人工智能技术愈发完善，仿人类机器人在人类生活中应用的增加，使得一些智能机器人具备了一定的感知能力。而这些感知能力被部分人冠以“人性”，从而引发了对这一“人性”是否存在的争论。这些争论的实质其实就是一种关乎人权的争议，是否应该赋予这些具备“人性”的机器人以人权，这可以说是人权发展的一个挑战。但是如果智能机器人真的具备了人权，这在很大程度上已经违背了机器人三大法则，会使人类遭遇真正的生存危机。 2.责任问题：智能机器人的过错谁来承担

20世纪初，乔纳斯等人建立了责任伦理学。责任伦理的目的是更好地规范人类社会的责任关系，避免人工智能产品对人类社会带来风险和挑战，其原则是“绝对不可拿整个人类的存在去冒险”。由于人工智能目前发展依旧不完善，技术的限制导致目前没有任何一种程序或者算法是绝对安全的。由人工智能所引发的事故或是必须要追究责任的，因此这一责任问题是其发展所不可避免的重要议题。人工智能的设计者、使用者、监督者、维护者的责任都会进入学者的研究领域。例如，无人驾驶汽车的推广，当发生事故时，是优先保护驾驶员还是行人，事故发生的责任由驾驶员负责还是行人或者汽车设计者负责？如果这一问题不能够得到很好的解决，必然会在今后的发展中影响人工智能和人类的关系，埋下潜藏的矛盾源头。 3.环境问题：智能机器人引发的环境伦理问题

生态环境问题本质上是人的问题，是社会、经济、生态之间的协调发展问题。人工智能技术在造福人类的同时，必须看到它对环境所造成的伤害。科技发展使世界连成一个整体，人工智能发展所造成的环境污染问题都是没有国界的。由人工智能故障所导致的生态破坏和环境污染该由谁来承担相应的伦理道德乃至法律责任。环境伦理学要求人与自然和谐发展，人工智能的发展不能以破坏生态为前提。人工智能的发展引发的环境伦理问题也是我们今天所一直在批判和修正的，这需要我们建立循环的智能生态循环体系。人工智能技术也只有配合生态科学才能与当代的发展内在需求相协调。

三、人工智能伦理困境的解决对策

人工智能是否真正会具有人性到目前依旧是不可知的，因此所有关于人工智能伦理困境的争议都缺乏一个明确的、可以研究的对象。再加上缺乏相应的伦理规制约束和监管机构，大众通过科幻小说和电影而形成的对人工智能危害盲目认识，很大程度上阻碍了人工智能的发展。让人工智能走出发展的伦理困境，需要社会各个层面的共同努力，小到个人对其的正确认识，大到国家对于人工智能发展方向的整体规划。 （一）正确认识人工智能发展要求

在应对人工智能的困境时，许多人容易把解决重心放在技术本身，而忽略了作为各方面主体的人。在人工智能技术的发展过程中，无论科学工作者，还是普通民众，都要正确认识人工智能技术发展的内在要求，坚持人工智能的发展不脱离“为人类服务”的宗旨。我们在发展人工智能的同时必须始终坚持人的主体性，清醒认识到科技产物都只能是客体。这个关系如果发生颠覆，将导致人类社会灾难性后果。为了实现人工智能的发展造福于人的目标，必须加强科学家的社会责任感，增强民众的基本素养。例如所谓的人工智能威胁论，人们可以担心，但是要建立在了解这门技术的基础上再去做出判断，而不是一味地畏惧和反对人工智能技术的发展。 （二）合理规划人工智能的发展路径

科学的生态伦理观虽然不能直接解决人工智能的生态伦理困境，但是能够准确的揭示人工智能今后在生态伦理上的发展方向和规律。由人工智能所引发的生态困境由来已久，而马克思的科学生态观为今天人工智能伦理困境的解决奠定了重要的理论前提和方向引导。建设生态文明是建设中国特色社会主义的重要环节，人工智能的发展如果能紧跟时代脉搏，将生态思想贯彻到底，将会给人类社会发展带来重要影响。人工智能的技术突破要体现人类生态文明的思想，对于生态环境有破坏的要予以取缔，对于不利于身心健康发展的人工智能设备要严格禁止，对于违背伦理道德的新发明要分析利弊。只有在技术的突破和发展上加以限制，才能真正使人工智能与生态文明相接轨。设想，如果一项即将开发的人工智能技术在开始就对人类进行预警，开发过程中也缺乏生态文明的理念灌输，这时我们必须考虑是否对其取缔了。 （三）不断完善人工智能的伦理设计

科学家对于人工智能的伦理设计不是一蹴而就的，它受到各方面条件的限制。因此，在人工智能的技术研发上，必须不断克服其技术难关，利用算法程序明确人工智能机器所承担的伦理责任和义务。其次，对于人工智能的研發生产销售等环节必须制定严格的标准和责任制度，以确保每一个环节都在人为可控的范围。每一个人工智能机器走向市场时，设计者和销售者必须对人工智能机器负责，明确告知其存在的漏洞风险。而当人工智能机器出售后，对于人工智能机器所引发的事故责任，必须明确每一个独立人工智能机器人的“监护人”，即购买者，对于人工智能机器人所犯下的过错应由其“监护人”承担主要责任。

四、结语

人类运用科技发展人工智能无可厚非，但如果企图通过研发所谓具有“人性”的人工智能机器人来动摇人类的主体地位，就是过犹不及了。人类的决策决定着人工智能技术在今后会究竟会走到哪一步。目前人工智能依旧不具有伦理道德性，而人才是伦理道德行为的主体，人必须对人工智能的行为承担主要责任。人工智能的发展会促进人类社会的进步，接受其发展成果是人类的必然选择。人工智能的本质是为人类社会发展谋福的工具，只有始终遵循以人为本的发展原则，才能真正解决人工智能伦理困境。 参考文献：

[1][美]尼尔森.人工智能[M].郑扣根，译.北京：机械工业出版社，2000. [2]甘绍平.人权伦理学[M].北京：中国发展出版社，2009.

[3][美]库兹韦尔.如何创造思维[M].盛杨燕，译.杭州：浙江人民出版社，2014：195. [4][美]库兹韦尔.奇点临近[M].李庆诚，董振，田源，译.北京：机械工业出版社，2011：80.