摘 要

人工智能的出现给人类带来了机遇，同时也带来了挑战。人工智能具有超强的学习能力以及高度拟人化的特征，这无疑给现行民法制度中的民事主体、权利保护、责任认定等问题带来了极大的困难。本文将从人工智能民事主体适用性、民事行为能力考查、民事责任能力考查三个角度讨论分析人工智能是否能够承担民事责任，并结合已有案例，分析其民事责任的认定，以侵权责任为例总结出人工智能侵权责任的构成要件及归责原则。介于我国目前未形成成熟的法律规范，根据美、德及欧盟等国家立法建议可考虑在我国建立差别化责任、保险制度、警示义务、召回机制等政策进行法律法规创新，以明确人工智能产品的民事责任，规范人工智能行业的可持续发展。

关键词：人工智能；民事主体；侵权责任；立法完善

On the Civil Liability of Artificial Intelligence

Abstract

The emergence of artificial intelligence has brought not only opportunities but also challenges to human beings. Artificial intelligence has superior learning ability and highly anthropomorphic characteristics, which undoubtedly brings great difficulties to civil subjects, rights protection, and responsibility determination in the current civil law system. This paper will discuss whether artificial intelligence can bear civil liability from the perspectives of the applicability of artificial intelligence civil subject, the examination of civil behavior ability and the ability of civil liability. Combining with existing cases and taking the tort liability as an example, it analyzes the determination of civil liability, summarizes the constituent elements of the artificial intelligence tort liability and the principle of imputation. Since there is no mature legal norm in China, the legislative proposals of the United States, Germany and the European Union can be considered to carry out in our country to clarify artificial intelligence products, such as establishing differentiated responsibilities, insurance systems, warning obligations, recalling mechanisms and other policies so as to regulate the sustainable development of the artificial intelligence industry.

Key words: artificial intelligence; civil subjects; liability for tort; legislative perfection

目 录

摘 要 I

Abstract II

一、人工智能对现行民事制度的挑战 1

（一）民事主体 1

（二）隐私保护 1

（三）知识产权 2

（四）民事责任认定 2

二、 人工智能民事主体地位的确立 2

（一） 人工智能作为民事主体的必要性 2

（二） 人工智能作为民事主体的可能性 3

1． 人工智能的民事权利能力 4

2． 人工智能的民事行为能力 4

3． 人工智能的民事责任能力 5

三、 人工智能民事责任的认定：以侵权责任为例 5

（一）人工智能侵权责任的构成要件 6

1． 致使他人损害的客观事实 6

2． 人工智能产品的使用 6

3． 造成的损害与使用具有因果关系 7

（二） 人工智能侵权责任的归责原则 7

1． 操作不当：使用者自行承担责任 7

2． 产品的制作、设计有缺陷：生产者或开发者承担产品缺陷责任 8

3． 销售者未尽到相应警示义务：销售者承担主要责任 8

四、 人工智能民事责任的立法完善 9

（一） 欧美国家的立法现状 9

1． 美国、德国的法制设计 9

2． 欧盟议会的法律创新 10

（二） 我国的立法探索 11

结语 13

参考文献 14

致谢 16

一、人工智能对现行民事制度的挑战

人工智能的崛起给人类社会带来了极大的便利，同时也给现行法律中的民事制度带来了前所未有的挑战。本节将从民事主体、隐私保护、知识产权、民事责任认定四个角度浅要分析人工智能对现行民事制度的挑战。

（一）民事主体

2017年10月25日，索菲亚（Sophia）正式具有沙特阿拉伯籍公民身份，成为一个能够以国家公民身份展示在社会公众面前的人工智能机器人。同时，索菲亚也是世界上第一个具有国籍的机器人。索菲亚的“大脑”由很多种复杂的计算机算法构成，“她”可以做出喜怒哀乐的面部表情，能够与人类进行频繁的互动，如进行各种沟通交流甚至是可以做出各种与众不同的创作。汉森机器人公司有观点表明，“索菲亚是一个发展进化中的天才机器人。伴随着时间一次又一次的推移，她的智慧会不断增长。”在某次采访中，索菲亚甚至表示她的愿望是想上学和成家。索菲亚掌握了许多人类的技能，在法律上也成为了一名公民，同时也对传统法律上的民事主体提出了挑战：人工智能能否被视为法律上的“人”？介于人工智能的快速发展，民法学中的民事主体的界定或将被改写。

（二）隐私保护

人工智能在为人们日常生活带来便捷的同时，也带来了一系列关于隐私保护的问题，尤其体现在手机智能识别相关的应用中。近日，某男子在睡眠中被“刷脸”从而导致其银行卡存款被刷光一事登上微博热搜；犯罪团伙利用信息识别系统盗用他人社交平台账号，并窃取其指纹、银行卡密码等案例屡见不鲜；手机中的指纹识别以及指纹支付等功能同样存在被盗用、非自愿条件下强制操作、隐私泄露的问题。对于智能识别系统存在的隐患以及出现的问题，应当追究谁的民事责任？在面容ID或指纹被盗用的情况下，设备中的数据保护应当如何进行？智能识别系统的开发者又应当申请哪些法律援助？大数据以及人工智能时代也为隐私保护打上了一个大大的问号。

（三）知识产权

人工智能产品通常具有较强的“学习”能力，某些高级的人工智能甚至还可以进行创作。2017年，一部名为《机器人的一天》的小说成功入围日本小说比赛复赛，而其作者正是人工智能机器人。无独有偶，微软人工机器人创作的诗一经发售，销量一度居高不下。^[1]在此情况下，人工智能的“写作”能否算作知识产权生成物？该生成物是否应享受知识产权的保护？该知识产权的归属者应为人工智能，其研发者，使用者还是编程者？同样，利用人工智能写作软件完成的作品，知识产权的归属以及侵权责任的认定仍无定论，因此《三生三世十里桃花》、《花千骨》、《锦绣未央》等网络文学抄袭现象难以界定，相关人士的民事责任也难以追究。

（四）民事责任认定

随着近年来人工智能致人损害报道数量的增多，民事责任认定成为一项新的重大议题。介于人工智能的复杂性以及多方责任人的涉入，民事责任的归责原则或不同于传统民法。^[2]据报道，2018年某展示机器人在展会进行中突然失控，损坏了大量展品并伤及游客，最终由展会的主办方及承办方对展会中的各项损失进行赔偿。然而，该案例中民事责任的认定仍有待斟酌。^[3]在人工智能产品的研发、问世、使用过程中，研发者、生产者、销售者、使用者等民事主体都或多或少地应承担部分民事责任，但具体的归责原则仍是现行民法中的空缺部分，同时也对传统民法的人格论带来了巨大冲击。

二、人工智能民事主体地位的确立

人工智能作为民事主体的必要性

尹田教授认为，“近代民法对于自然人平等自由人格的确认表现了对人类尊严的尊重。”^[4]现行的民法将民事主体定义为参与法律关系、享有一定权利同时应承担相应义务的主体，但并没有对电子人格等未来可能出现的新型民事主体作出准确界定。2003年9月16日，国际律师协会的Martine Rothblatt提出一项难题：如果人工智能产品在即将要被切断电源时提出继续“存在”的诉求并认为自己拥有这项权利时，人类是否有必要将其作为民事主体？本节将集中探讨人工智能成为民事主体的必要性。

人工智能机器人被美国律师协会Steven Wu分为三类：“第一类是直接扩展人类能力的机械系统；第二类是不具备自主控制能力，而是充当人类和机器装置之间中介的机器人；第三类是具备完全自主控制能力的机器人。”笔者认为，介于前二者的属性仍偏向于纯机器，是在人类的控制之下进行运作，因而第一类与第二类人工智能机器人并无必要作为民事主体，应当以客体出现在民事法律关系中。而第三类机器人介于其拥有自主意志、能够做出意思表示，可以不受人类控制而独立存在，则有必要在未来成为民事主体。虽然即便是已经被赋予公民身份的索菲亚也仍受其研发者控制，无法判断其自主意识以及意思表示是否是基于编程或算法控制，更有学者认为沙特授予其公民身份的举动或出于制造噱头，但是介于法律需具有前瞻性，且人工智能必然会发展到能够独立思考、独立行动的阶段，故人工智能具有成为民事主体的必要性。

人工智能作为民事主体的可能性

有学者认为，介于人工智能具有“非自然性、智慧性”，且“思想和语言是生物现象，它们的意义取决于人类的进化史，强人工智能不具备真正的理解力，”因此，出于其不具有“文明”的属性，关于人工智能的伦理及意思表示等问题的设想实际上并无必要，现阶段人工智能无法发展到能够还原人脑的高度，故人工智能并无成为民事主体的可能性。还有学者表示，人工智能发展到一定程度时，其特征从“物理（physical）”角度考虑或符合自然人的定义，^[5]且赋予其法律主体地位并不是导致其致人损害的原因，而是为了更好地规范责任归属。笔者认为，人工智能具有作为民事主体可能性，并将从人工智能的民事权利能力、民事行为能力以及民事责任能力三个方面进行分析。

人工智能的民事权利能力

通常来讲，民事权利能力是指法律所规定的，自然人或社会组织能够参加民事法律关系的资格。同时他们需要行使民事权利和承担民事义务。第一，就目前的发展阶段而言，人工智能虽然超出了原有民事主体的定义范围，不属于自然人亦不属于法人，但是其成长过程可与自然人的“出生”、“死亡”相对应，只需在伦理方面确立相关原则，保证其安全、可控即可。其次，民事权利能力的特点之一为主体平等性，人工智能机器人虽然由人类制造，但其高度智能化的行为并不是在人类控制之下的，且人工智能技术层面的问题非法律可控制，赋予其平等的法律地位并不是导致其致人损害的原因。“民法并不把现实世界的一切实体都确立为法律关系主体，而是在立法政策的作用下，选择一定的实体赋予其民事主体地位。”^[6]综上，笔者认为人工智能应当具有民事权利能力。

人工智能的民事行为能力

对于人工智能的民事行为能力，学术界对其有多种说法，讨论最为广泛的即为工具说和电子奴隶说。工具说主要对应Steven Wu所定义的第一类人工智能。工具说认为，人工智能产品仅仅是人类的使用工具，可以扩展人类能力的机械系统，相较锤子、铲子一类的原始器具而言只不过增加了更多功能及用途或使用起来更加智能而已，是为了方便人类进行劳动的、为人类服务的工具。^[7]因此，该类人工智能的存在相当于普通器具，器具不会被当做法律上的主体，更无行为能力可言。而电子奴隶说则主要针对第二类人工智能，即受人类控制、可根据人类的意思表示做出相应行为的人工智能。电子奴隶说认为，人工智能的地位相当于奴隶社会中的奴隶，只听命于主人，会机械地完成主人所下达的命令或指示，虽然拥有完成行为的能力但不具有完成行为的自主权利。