1．本课题的背景及研究意义

研究背景：

无人驾驶汽车技术的概念起源于20世纪70年代的美德等欧洲发达国家，并在近几十年中取得众多技术突破；我国首台无人驾驶汽车也在上世纪末90年代研制成功。进入21世纪后，无人驾驶技术在科技革命的助燃下勃发，尤其是现代科技之源的计算机推动下的人工智能技术，使得无人驾驶技术有了新的生命力。现代无人驾驶汽车依托成熟的汽车制造工业技术，以传统汽车为硬件载体，搭配计算机芯片为内核，以人工智能的程序为软件支持，构成了现代无人驾驶汽车。现今的无人驾驶汽车与上世纪末相比有了质的飞跃，不仅能完成无人驾驶这一任务，在安全性、智能化、人机交互等方面带给用户全新的体验。目前人工智能的发展速度已经超出人类对它的预估，在法律法规、伦理规制、政策取向等方面处于滞后状态，人类社会在人工智能的挑战之下处于极大的不确定性的风险中，对于以人工智能为核心的无人驾驶汽车，人类应该如何对待它，从而让它健康有序地服务人类，我们应该有所准备和思考。

研究意义：

理论意义：无人驾驶技术中存在的伦理问题是人工智能科技发展之路上无法回避的，人工智能程序在面临例如“电车难题”和“隧道难题”这类的伦理难题时，究竟如何做出选择；在不可避免出现伤亡的情况下，无人驾驶技术系统会优先保护车内人员还是车外人员，以及造成事故究竟由谁负责，是研制技术的公司，还是购买产品的用户，亦或是例如没有遵守交通规则跑到道路中间的孩童？这些问题使我们不禁想到人工智能究竟是否有能力解决这种伦理困境难题，是否有资格将它当做人类同等看待以及取代人类作为汽车的“驾驶员”。对无人驾驶汽车技术的伦理问题的研究可以深化和促进我们对一般的人工智能技术的理解和认识，并且有助于我们思考其他的人工智能交通工具（如无人驾驶船舶、无人机）的相关伦理问题，同时提出无人驾驶汽车技术的伦理考量及相关对策也可以扩展并应用于其他的人工智能产品。

应用意义：在无人驾驶技术商业化之前，人工智能必须要解决伦理困境难题，实现这个目标有两种选择；第一种是人机切换，即在汽车处于无人驾驶状态下时，当出现紧急情况，立即切换至人工手动操作，将驾驶权交还给驾驶人，但是这种解决方法不符合无人驾驶汽车的发明初衷，因为使用者不得不随时准备接管汽车以面对突发事件，同时，在紧急情况下，是否有足够的时间来进行人机互换，即使驾驶者接管了汽车的驾驶权，他能否处理好突发事件，达到最优抉择。在我看来这种人机切换的方法不足以解决无人驾驶技术的伦理抉择问题，同时也不符合无人驾驶技术的发展趋势。第二种解决方法则是保证无人驾驶汽车实现零碰撞，即无人驾驶汽车能够通过人工智能的判断和抉择在突发事件中实现最优结果，既保证车内人员的安全也保证车外人员的安全，事实上目前最先进的仪器和系统也无法达到这一预期，在动态的复杂的驾驶过程之中，系统并不能完全规避驾驶道路中突然出现行人和驶入的非无人驾驶汽车，但是我认为这是问题解决的唯一方法，即使目前的各方面技术还不能达到这一要求。对无人驾驶汽车技术的相关伦理问题及对策的研究有利于在实际开发和应用无人驾驶汽车过程中促使技术专家和决策者更加审慎地认识到新技术带来的不确定性风险，增强伦理的敏感性，从而更好地保证这种新技术更好地发展并给社会带来整体福利。

2．本课题的国内外的研究现状

1.国外对无人驾驶汽车技术伦理问题的相关研究

国外学者在应对无人驾驶汽车技术出现的伦理问题上有不同的理论和解决路径的出现。首先，一些学者主张通过技术的提升来解决相关的伦理问题。例如当代著名的荷兰技术哲学家维贝克( Peter－Paul Verbeek)(2008)，在无人驾驶情况下，汽车利用计算机和大数据分析的优势，通过对影响因子的量化与计算确定具体的行车方案，如此，驾驶员在突发情况出现时瞬间作出的本能反应将被极速且精密的程序分析所取代；而后者则是人类价值观念的具体表达。由于程序的编写本质上是由特定的社会价值观主导的，反映了人类社会主流的价值判断和理性抉择。换言之，驾驶程序的编写延长了应对事故所需要的时间，由此为处理突发事件赢得了“时间差”。此间，理性和道德推理的相互融入成为可能。但是融入理性和道德推理的程序设计超出了编程技术的层面，而更多的涉及伦理层面。既然技术在人的认知和行为上发挥着中介调节作用，那么设计活动就天然地蕴含着一定的伦理意义。

对于如何设定体现人类社会主流伦理价值的“善”的程序，另外一些学者提出从编程技术上突破，使计算机持有人类社会相同的道德伦理取向。如沃勒赫（Wendell Wallach）和艾伦（Colin Allen）在2009年提出，认为应该使计算机具有道德推理之功能的主张，以及安德森（Michael Anderson）等人在2011年提出关于为机器创造伦理并使计算机自主的作出正确的伦理决定的看法。也有国外学者认为，可以通过更高层次的价值标准解决处于同一共同体的成员之间的最根本的价值冲突，将他们统辖起来，相互协调一致，例如布兰德（Richard Brandt）和黑尔（Richard Hare）在1998年提出这一理论。无人驾驶汽车等民用产品的面世凸显了伦理学领域一直关注的道德困境。由富特(Philippa Foot)(1976)创设而汤普森(Judith Thomson)、卡姆(FrancesKamm)和桑德尔(Micheal Sandel)等（1978，1989，2010）改编的“电车难题”(Trolley Problem)，以理论抽象的形式反映其蕴含的伦理隐忧。

2.国内对无人驾驶汽车技术伦理问题的相关研究

我国对无人驾驶技术伦理问题的研究上，有人工智能和汽车工程领域的学者从技术层面上分析人工智能应用于汽车驾驶的可能性、可行性以及面临的挑战，例如孙伟平(2017)、端木庆玲等学者(2014)认为无人驾驶技术尚未达到完全自动驾驶的阶段，目前的无人驾驶技术只能作为辅助驾驶系统参与到驾驶员的行车过程之中，起到安全便捷的辅助作用，实现完全的自动驾驶还需要解决自动寻径，车联网环境信息识别等技术难题，同时也需要政策和法律的制定和实施作为保障前提。

另一方面，国内的一些学者也从哲学、伦理道德的方面对无人驾驶汽车技术做出了思考，例如谢惠媛(2017)就提出了在无人驾驶过程中出现的伦理抉择的独特性与现实性，在这种伦理抉择中，往往出现的一种优先性抉择而非否定性抉择，然而这种优先性抉择并不具有积极的促进意义，任何一种抉择都要付出相对应的代价，带来道德遗憾，面临道德质疑，这就对传统伦理观提出了新的挑战。人类社会所认同的主流伦理道德价值观念能否应对无人驾驶汽车技术带来的伦理抉择难题做出相应性的改变是有待讨论的。

无人驾驶汽车技术日渐成熟，人工智能的可靠性与意外事故的发生之间产生的矛盾冲突，对于道德伦理判断和道德责任承担提出了新的挑战。另外，对于人工智能能否达到甚至超越人类智能这一问题，国内学者也提出了看法，例如王晓阳(2015)提出尝试构造一个基于集体人格同一性(collective personal identity)的新论证,他表明:首先,该问题原则上无法仅在经验科学的框架中获得有效解决;其次,该问题其实是一个没有认知意义的问题;最后,如果该问题没有认知意义,那么人工智能研究的一个重要目标,即"生产出一种新的能以人类智能相似的方式做出反应的智能机器",恐怕也无法实现。张劲松(2017)也主张人工智能无法复制、模拟和超越人类主体，他认为人工智能一方面通过符号和机器对简单的、线性的逻辑思维进行复制和应用,从而强化和提升人类的思维能力,另一方面借助各种感官的仿真机器和人工神经网络对人类的感性存在进行模拟,从而使机器具有与人类思维类似的记忆、学习、推理和联想等能力。然而,人工智能在思维能力上无法超越人类思维和意识的整体性,对于感官和人脑的模拟仍处于机械化阶段,更不能产生人类主体性所依赖的社会关系和实践基础。

此外，还有学者例如殷杰(2009)从机器人的语境论范式分析了智能机器人研究已有的分级范式、反应范式和慎思/反应混合范式三种范式,指出制约人工智能机器人学范式发展的核心问题,在于如何解决智能机器人在复杂环境中的任务处理。以现有范式中存在的问题为基点,提出了构造网络化语境论范式,以及"网络智能系统 智能机器人"的智能结构模式。

3．本课题的研究内容

1、 无人驾驶汽车技术的发展与伦理挑战

1.1 无人驾驶汽车发展的历史轨迹

1.2 无人驾驶汽车技术的发展现状

1.3 无人驾驶汽车技术的伦理挑战

2、无人驾驶汽车技术伦理考量的两种进路

2.1 自上而下的进路

2.2 自下而上的进路

2.3 两种进路存在的问题

3、无人驾驶汽车技术的伦理规制策略

3.1 法律强制策略

3.2 个体选择策略

3.3 人工智能机器的伦理决策反思

4、结论

4．本课题的研究方法、进度及预期效果

研究方法

一）案例分析方法：本文最主要的特色在于案例分析研究方法的使用，应用诸多实际案例，对无人驾驶汽车技术中的伦理问题进行翔实、准确的研究讨论：对目前的无人驾驶汽车技术存在的实际问题，尤其是对其面临的伦理困境难题，进行了深入系统的案例分析和相关论证，充分显现出案例分析论证的实证特征。

二）历史分析方法：无人驾驶汽车技术自上世纪70年代被提出至今已有近50年的发展历史，分析其中存在的伦理问题有必要把无人驾驶汽车技术发展的历史由来了解完备，如此才能有系统的连续性的和线性思维，才能对无人驾驶汽车技术未来的发展有较为准确的预估，从而预先性地制定规制策略，以避免由技术发展带来的不确定性的问题产生。

三）对比分析方法：对比国内外学者对无人驾驶汽车技术在伦理问题上的不同考量和规制策略，了解不同的学术观点，从而避免论述的片面性保证思维的辩证性。对比不同的规制策略，分析其各自的优点以及存在的问题，从而保证本文规制策略的可行性和完整性。同时，也将其他新技术引发的伦理问题及其对策研究成果借用来思考无人驾驶汽车技术的相关伦理问题。

预期效果：

（1）通过理论和实证分析研究，应用案例，对无人驾驶汽车技术中的伦理问题进行翔实、准确的研究讨论，试图从诸多案例和国内外学者的各种观点中分析无人驾驶汽车技术在伦理规制策略上的可行性，了解无人驾驶汽车技术的发展历史，从而对该技术的未来发展趋势做出较为准确的预判，进而做出伦理规制策略，以满足无人驾驶汽车技术未来投入市场后的伦理规则要求。

（2）在上述基础上，认真完成指导老师分派的任务，查阅相关文献资料，独立完成较高质量的本专业毕业论文。

5、已查阅参考文献：

一、专著类

【1】弗兰克·梯利：《伦理学概论》，中国人民大学出版社。

【2】龚群、陈真：《当代西方伦理思想研究》，北京大学出版社2013年出版。

【3】罗素、诺维格：《人工智能：一种现代的方法（第3版）》，清华大学出版社2013年出版。

【4】玛格丽特·A·博登：《人工智能哲学》，上海译文出版社出版。

【5】雅克·蒂洛：《伦理学是什么》，世界图书出版公司出版。

二、论文类

【1】查非;任晓明.人工智能和哲学逻辑视野中的局部语义[J].自然辩证法研究,2017,10:10-15.

【2】陈存铜，赵君峤，叶晨等.基于共享内存的智能无人车进程间消息异步传输机制[J].软件学报，2017(5):1-11.

【3】陈慧岩等.无人驾驶汽车概论 [M].北京:理工大学出版社,2014.

【4】端木庆玲.无人驾驶汽车的先进技术与发展[J].农业装备与车辆工程，2014(3):30-33.

【5】甘绍平，余涌．应用伦理学教程[M]．北京:中国社会科学出版社，2008:32－34.

【6】郭俊杰.无人驾驶车GPS自主导航系统设计与实现[D].长安大学，2014.

【7】和鸿鹏.无人驾驶汽车的伦理困境、成因及对策分析.[J]自然辩证法研究，2017(11):58-62.

【8】刘少山等.第一本无人驾驶技术书 [M].北京:电子工业出版社,2017.

【9】马腾.无人车自动泊车引导系统的研究[D].西安：西安工业大学，2016.

【10】乔维高，徐学进 . 无人驾驶汽车的发展现状及方向[J]．上海汽车2007(7)：40-43．

【11】孙伟平.关于人工智能的价值反思.[J]哲学研究，2017(10):120-126.

【12】王晓阳.人工智能能否超越人类智能[J].自然辩证法研究,2015,(7):104-110.

【13】魏明哲，魏云霄.智能无人车综合控制系统[J].电子世界，2017(3)：197-199.

【14】谢惠媛.民用无人驾驶技术的伦理反思——以无人驾驶汽车为例.[J]自然辩证法研究，2017(9):39-43.

【15】殷杰;董佳蓉.论智能机器人研究的语境论范式[J].自然辩证法研究,2009,(2):12-19.

【16】贠兆恒，李建清. “技术中介”视阈下的角色与责任变化——以自动驾驶为例[J].自然辩证法研究，2018(2):37-41.

【17】张劲松.人是机器的尺度——论人工智能与人类主体性[J].自然辩证法研究,2017,(1):49-54.

【18】张贤启，余有晟，刘俊才.无人驾驶汽车的发展及可行性 [J]. 山东工业技术2015(4):50-50.

【19】赵汀阳．有轨电车的道德分叉．[J]哲学研究，2015(5):96-102.

【20】赵阳.无人驾驶汽车关键技术 [J]. 中国科技博览2011(6):272-272.

【21】朱勤．技术中介理论:一种现象学的技术伦理学思路[J]．科学技术哲学研究，2010(1) :101－106．

三、外文文献

【1】Amitai Etzioni, Oren Etzioni. Incorporating Ethics into Artificial Intelligence. ［J］Journal of Ethics, forthcoming, 2017(4):1-16.

【2】Bonnefon, Jean-Franc#184;ois, Azim Shariff, and Iyad Rahwan. The social dilemma of autonomous vehicles.［J］Science 2016, 352: 1573–1576.

【3】Francis Kamm， Harming Some to Save Others［J］．Philosophical Studies，1989,(3) :227-260.

【4】Frankfurt, Harry G. Alternate possibilities and moral responsibility.［J］The Journal of Philosophy 1969, 66:829–839.

【5】Harris, Sam. The moral landscape: How science can determine human values. ［M］New York: Simon and Schuster. 2011.

【6】Hsu, Jeremy. Deep learning makes driverless cars better at spotting pedestrians. IEEE Spectrum. 2016.

【7】Johnson, Eric J., and Daniel Goldstein. Do defaults save lives?［J］Science 2003, 302: 1338–1339.

【8】Judith Thomson．Killing，Letting Die，and the Trolley Problem［J］．The Monist，1976 (2) :204-217.

【9】Markoff, John. Machines of loving grace: the quest for common ground between humans and robots. New York: ECCO. 2015.

【10】Michael Anderson，Susan Anderson ( eds．)．Machine Ethics［M］．Cambridge: Cambridge University Press，2011．

【11】MichealSandel．Justice: What＇s the Right Thing to Do?［M］．London:Penguin Books，2010．

【12】Peter－Paul Verbeek．Morality in Design: Design Ethics and the Morality of Technological Artifacts［M］/ / P．E．Vermaas et al．( eds．)，Philosophy and Design．Springer，2008: 92-103.

【13】Philippa Foot．Virtues and Vices［M］．Oxford: Basil Blackwell，1976.

【14】Ｒ．Hare( ed．)．Essays on Political Morality［M］．New York: Oxford University Press，1998．

【15】Wallach, Wendell, and Colin Allen. Moral machines: teaching robots right from wrong. New York:Oxford University Press. 2009.