摘 要

随着互联网技术应用和大数据的快速发展，人工智能时代已经来临。人工智能技术的发展主要依赖于大数据的采集和运用，其更新换代十分迅猛。相应的，人工智能对社会各个方面的影响日益广泛和深刻。人工智能技术在为人类生产和生活带来极大便利的同时，也为国家和社会公共群体、个人安全等领域带来了复杂多变的风险。现阶段，我国部分民法学学者认为，在民事领域可有限的承认人工智能体具备相关的民事责任能力。与此同时，刑事风险同样引起各国学者的广泛关注。随着机器人技术变得越来越复杂，甚至是真正的复杂，人工智能危害面临新的挑战，现行刑法、刑事诉讼法等刑事法律规制的局限性逐渐显现。因此，我们必须正视其带来的各种刑事风险，并寻求出更好的解决途径。其中，人工智能时代的刑事责任认定是解决问题的关键和前提。

文章主要论述各个发展阶段人工智能体刑事责任的认定，主要内容为现阶段的弱人工智能体的刑事归责以及对强人工智能体和超强人工智能体是否应具备刑事主体资格的研究。现阶段的人工智能体处于弱人工智能阶段，自身不具备独立分析与学习的能力，故而不应承担刑事主体的责任，应主要追究其生产制造者、使用者的刑事责任，从而进一步引申出归责原则以及责任分配等相应问题。针对未来即将产生的强人工智能体以及超强人工智能体，论证研究其刑事责任的必要性以及将其视为刑事责任主体的合理性，并对未来人工智能体将产生的责任认定归责进行合理的预测。

关键词：人工智能；刑事责任；风险

Abstract

The development of artificial intelligence technology relying mainly on big data collection and use of the updated very rapidly. Correspondingly, the influence of artificial intelligence on various aspects of society is increasingly extensive and profound. Artificial intelligence technology not only brings great convenience to human production and life, but also brings complex and changeable risks to national and social public groups, personal security and other fields. At the present stage, some scholars of civil law in China believe that in the field of civil affairs, it can be limited to recognize that artificial intelligence has relevant capacity for civil liability. Meanwhile, criminal risk has also attracted extensive attention from scholars around the world. With robot technology becoming more and more complex, even really complex, the harm of artificial intelligence is facing new challenges, and the limitations of current criminal law, criminal procedure law and other criminal law regulations are gradually emerging. Therefore, we must face the risk of all kinds of criminal, and seek out a better solution. Among them, the identification of criminal responsibility in the era of artificial intelligence is the key and premise to solve the problem.

This paper mainly discusses the identification of the criminal responsibility of artificial intelligence agents in various stages of development, mainly including the criminal responsibility of weak artificial intelligence agents at the present stage and the research on whether strong artificial intelligence agents and super strong artificial intelligence agents should have the qualification of criminal subject. At the present stage, artificial intelligence is in the weak artificial intelligence stage, and it does not have the ability of independent analysis and learning, so it should not assume the responsibility of the criminal subject. Instead, it should mainly investigate the criminal responsibility of its producers and users, so as to further extend the principle of attribution of responsibility, responsibility distribution and other related problems. In view of the coming strong artificial intelligence and super strong artificial intelligence, this paper demonstrates the necessity of studying its criminal responsibility and the rationality of regarding it as the subject of criminal responsibility, and makes a reasonable prediction of the identification and attribution of the responsibility generated by artificial intelligence in the future.

Key Words：Artificial Intelligence；criminal responsibility；Risks

目录

目录 1

第1章 绪论 1

1.1 研究背景 1

1.2 国内外研究现状： 1

第2章 人工智能的基本问题 4

2.1 人工智能的定义以及运行原理 4

2.1.1人工智能的基本定义 4

2.1.2人工智能的运行原理 5

2.2人工智能的基本分类 5

2.2.1人工智能的分类 5

2.2.1.1人工智能的基础分类 6

2.1.1.2人工智能的其他分类 6

2.2.2现阶段人工智能 7

2.2.2.1人工智能的技术现状 7

2.2.2.2人工智能的法律地位 8

2.2.2.3人工智能的犯罪类型 10

2.2.3未来阶段人工智能 10

第3章 可控行为下弱人工智能的刑事责任认定 12

3.1作为犯罪行为侵害的间接载体 13

3.1.1将人工智能“工具化”实施的犯罪 13

3.1.2利用人工智能技术漏洞实施的犯罪 14

3.1.2.1负有安全管理义务的管理者责任 16

3.1.2.2设计生产者的责任 16

3.1.3人工智能具有“产品缺陷”导致的犯罪 17

3.2作为犯罪行为侵害的工具或手段 18

3.2.1技术中立原则的适用 19

3.2.2军事智能武器的归责 20

第4章 不可控行为下弱人工智能的刑事责任认定 22

4.1作为刑事辅助工具产生的技术缺陷 22

4.1.1人工智能在刑事领域的适用现状与困境 22

4.1.2产生“错误”后的法律归责 25

4.2非作为刑事辅助工具产生的技术缺陷 25

第5章 强人工智能时代的刑事责任分析 29

5.1强人工智能能否成为刑事主体 29

5.1.1人工智能能否具备社会角色 30

5.1.2人工智能能否作为承担刑事责任主体 32

5.2强人工智能时代刑事责任分析 33

5.2.1强人工智能的主体特殊性 33

5.2.1.1间接正犯理论下的人工智能主体问题 34

5.2.2.2人工智能作为受害者产生的刑事责任问题 35

5.2.2强人工智能时代刑罚的目的 35

结语 37

参考文献： 38

致谢 41

第1章 绪论

1.1 研究背景

人工智能时代的来临，对人类社会各个方面的影响日益广泛和深刻。比如在美国，其海军、陆军领域已经开始使用IBM Watson技术平台设计的人工智能系统诊断军用器械的性能。人工智能技术在为人类生产和生活带来极大便利的同时，也为国家和社会公共群体、个人安全等领域带来了复杂多变的风险。其中，刑事风险已经引起各国学者的广泛关注。面临新的挑战，现行刑法、刑事诉讼法等刑事法律规制的局限性逐渐显现。正如马长山在人工智能的社会风险及其法律规制中指出，“我们无法真正预测未来，因为科技发展并不会带来确定的结果，然而，这不等于我们对人工智能的各种挑战无能为力”。因此，我们必须正视其带来的各种刑事风险，并寻求出更好的解决途径。其中，人工智能时代的刑事责任认定是解决问题的关键和前提。

对人工智能时代的刑事责任认定进行研究，具有重要的理论意义与实践价值。现阶段，针对人工智能体是否具有刑事法律主体地位认定较为模糊，应当如何适用现行法律颇有争议。由于我国未明确规定人工智能体的刑事法律制度，因此，本文通过对人工智能的刑事责任能力进行分析研究，对其是否能够承担起刑事责任主体资格进行探讨；从更为全面的角度，完善当前对人工智能刑事责任认定的相关研究，同时提出适用方案；解决其日后引发的不同程度的、更为复杂的刑事问题，并一定程度上规制人工智能技术的发展。

1.2 国内外研究现状：

针对人工智能的定义，无论国内或是国外，都没有确定的结论，不同的学者有不同的观点看法；针对人工智能的分类，大多数学者将其划分为超强、强、弱三种类型；针对人工智能引发的刑事责任，不同学者的切入角度不同，主要分为从构成犯罪的要件以及风险防控两个角度切入；未来人工智能是否具有刑事主体地位，国内外多数学者认可其具有这一法律角色，从社会伦理以及人工智能体本身的运作形式进行了相关论证。

人工智能的刑事责任认定在国际上虽属于较为热门的话题，但是国外的理论研究较国内研究相对超前，论文发表集中于2017年，针对现阶段的人工智能体的刑事责任认定已较为成熟，当前，国外学者的论证集中在对未来强人工智能体乃至超强人工智能体的研究上，论证将来人工智能体可能引发的各类社会问题在各类论文中比重较大，其是否应具备刑法上的主体资格是重点，从其所承担的社会角色以及引发的社会伦理问题进行探讨，比如A Defense of the Rights of Artificial Intelligences （EricSchwitzgebel and Mara Garza）、Ethical Considerations in Artificial Intelligence Courses（Emanuelle Burton, Judy Goldsmith, Sven Koenig, Benjamin Kuipers, Nicholas Mattei, Toby Walsh ）、From responsible robotics towards a human rights regime oriented to the challenges of robotics and artificial intelligence（Hin‑Yan Liu,Karolina Zawieska）着重强调承担社会角色的人工智能体具备的法律与伦理权利义务。本文将主要借鉴其中涉及强人工智能主体地位的探讨研究。

现阶段，我国部分民法学学者认为，在民事领域可有限的承认人工智能体具备相关的民事责任能力，如司晓,曹建峰.在其论文：《论人工智能的民事责任:以自动驾驶汽车和智能机器人为切入点》、张清,张蓉在其论文《论类型化人工智能法律责任体系的构建》、张童在其文章《人工智能产品致人损害民事责任研究》中的表述。在刑事方面，以刘宪权教授的研究为理论先驱，自2018年以来国内学者对人工智能的刑事法律问题研究出现井喷。刘宪权教授的研究较为全面，涉及到人工智能体的衍变形式以及刑事主体认定，为本研究奠定了基础。如涉人工智能犯罪刑法规制的路径（现代法学,2019,01）与刘宪权教授的研究视角不同，高铭暄教授以侧重于实践运用的角度，划分了人工智能主体的责任形式。如互联网 人工智能全新时代的刑事风险与犯罪类型化分析（暨南学报哲学社会科学版,2018,09）。叶良方教授从风险防控的角度提出针对不同的刑事风险，应采用不同的解决方法，如风险社会视阈下人工智能犯罪的刑法应对（浙江学刊,2018.06）。王肃之同样采取用风险分类的方法进行研究，如人工智能犯罪的理论与立法问题初探（大连理工大学学报，2018，04）。更多学者针从人工智能与刑事风险结合的角度论述了人工智能时代的刑法规制，比如，范聪聪，人工智能时代的刑事风险与刑法规制（刑法论坛），丁紫君，人工智能时代的刑事风险与刑法应对（现代交际，2018,16），黄麟，人工智能时代的刑事风险与刑法应对（法制博览，2018,10），本文将借鉴其中相关论证，并从技术性与工具性角度来论述相应问题。

针对人工智能的定义，不同学者有不同的看法，刘宪权教授在人工智能时代的“内忧”“外患”与刑事责任（东方法学,2018，01）中，采用了外国学者Andrew Arruda的观点，认为“人工智能（Artificial Intelligence，简称为AI）是指使机器像人一样去完成某项任务的软硬件技术。”高铭暄教授在“互联网 人工智能全新时代的刑事风险与犯罪类型化分析”（暨南学报2018, 09）一文中采取较为普遍的观点，认为“人工智能”( Artificial Intelligence，简称AI) 这一概念创造可以分为两个部分，即“人工”和“智能”，前者是指由人类制造的机器或者开发的程序系统，后者是指模拟人脑能动性的思维和智慧，简言之，即“智慧机器”。马治国在“论人工智能体刑法适用之可能性”（华中科技大学学报2018,02）一文中同样采取较为普遍的观点，认为人工智能并未有严格的定义，马长山则在其发表的人工智能的社会风险及其法律规制（法律科学，2018, 06）中详细划分了人工智能（AI）与人工智能体（IA）的区别，更多学者并未严格确认人工智能的定义，如叶良方教授，王耀斌（类人型人工智能实体的刑事责任主体资格审视，西安交通大学学报），张清,张蓉,（论类型化人工智能法律责任体系的构建，中国高校社会科学,2018）本文认同人工智能并未形成严格的定义这一观点，并采用皮埃罗·斯加鲁菲(Piero Scaruff)对人工智能的看法，将人工智能认定为一切实现自动化的物体。

在对人工智能体进行分类研究时，大多学者将人工智能体分为“弱人工智能体，强人工智能体以及超强人工智能体”进行研究，如刘宪权教授，高铭暄教授，叶良方教授。马治国大胆尝试将人工智能的智能化程度进行分类以适用刑事责任年龄制度，其将人工智能分为“智能化程度很低，智能化程度较高。智能化程度很高”，（马治国,田小楚.论人工智能体刑法适用之可能性，华中科技大学学报，2018）。

多数学者在论证过程中主要采取其中一种类型进行分析或并未严格分类，如卢勤忠，何鑫.（强人工智能时代的刑事责任与刑罚理论，华南师范大学学报，2018，06）、孙笛.（人工智能时代的犯罪防控，中国刑警学院学报，2018，05）、刘宪权,胡荷佳，（论人工智能时代智能机器人的刑事责任能力，法学，2018，01）。

针对刑事侦查中人工智能的运用，从21世纪初，便有较多学者针对其运用形式和方法提出了看法，首先论证了人工智能在刑侦方面运用的可能性与合理性，比如纵博在人工智能在刑事证据判断中的运用问题探析（西北政法大学学报，2019,01）中的相关理论，贾铁军，李锦于2002年发表的人工智能在刑事技术中的应用（刑事技术，2002,06），赵艳红，人工智能在刑事证明标准判断中的运用问题探讨（上海交通大学学报学报，2018，03），黄京平，刑事司法人工智能的负面清单（时事观察，2017,10）等。本文在充分借鉴相关研究的基础上，进一步分析在刑侦过程中运用人工智能技术产生刑事问题时的责任承担。

据此可知，我国目前对于当下人工智能的刑事研究上，并未形成定论，对人工智能的定义与分类形成较为主流的学说，多数学者专注于人工智能的一个方面或一种类型进行探讨，但涉及各类人工智能的全面性分析较为欠缺，但以人工智能分类为切入点进行刑事责任的分析较为欠缺。本文将从较为全面的角度分析各个阶段各个类型人工智能体的刑事责任。在技术性问题中，借鉴有关技术中立的研究，如姜先良学者《“技术中立”的是与非》、王霖的《中立帮助行为的刑事责任模式构建研究》（海南大学博士学位论文，2018,05）。

第2章 人工智能的基本问题

欲探讨人工智能刑事责任的认定，必须对人工智能本身进行研究。人工智能是什么？是如何运作的？现阶段对于其达到何种了解程度？在第三次科技浪潮来临的现在，人工智能扮演何种社会角色？这都是亟待解决的问题。因此，为方便后续的论证，本文将从基本定义展开，从人工智能理论自身切入进行研究。