大家好！这里是“天天听好书”。今天我们要讲的是上海交通大学出版社2020年6月出版的《人工智能伦理引论》。这本书入选了2020年7月百道好书榜新知类。

请扫描二维码进入百道学习app收听音频

作者杜严勇是上海交通大学科学哲学教授。这本书从三个层面，讨论了人工智能伦理中的一些基本问题。首先是一些普遍性问题，比如机器人权利、机器人道德能力的建构和人工智能安全；其次是具体领域的机器人引发的伦理问题，比如军用机器人和助老机器人；第三是人工智能伦理问题的解决途径，包括道德责任、伦理设计。这本书雅俗共赏，可供相关领域的科技工作者、哲学研究者和对人工智能伦理感兴趣的人士阅读。

全书共十章。这里要讲的内容来自第一章“机器人权利”。在形形色色的机器人伦理问题中，“机器人权利”是争议较大的一个问题。机器人是否应该拥有权利？它们可以拥有哪些权利？如何保障它们的权利？这就是本章的内容。

近些年来，机器人技术快速发展，与人类的关系日益密切，对机器人权利问题的讨论，也受到越来越多的关注。

在杜严勇教授看来，至少有以下四方面的原因，构成机器人权利研究的可能性和合理性。

第一，是来自动物权利研究的启示。不少专家认为，动物具有意识，可以感受痛苦与快乐，我们对动物负有直接义务，动物与人一样拥有特定的基本道德权利。

如果动物拥有权利具有一定的合理性，那么，机器人也可以拥有某些权利。与动物相比，机器人最大的不同是，动物是天然的生命，而机器人是人类制造出来的。但是，根据目前机器人技术的现状和发展趋势，机器人在某些方面可以比人类更聪明，机器人将来也会比动物更像人类。这样，机器人拥有某些权利也具有一定的合理性。

第二，人文社会科学研究应该具有一定的超越性和前瞻性，不应该只是对科学技术和社会的现状进行反思。为了在一定程度上避免“文化滞后现象”导致的负面效应，我们需要对可能出现的机器人技术，和它的社会影响，做出某些前瞻性的考察，这也是“机器人权利”研究的一个理论依据。

第三，机器人权利研究是培养人类良好道德修养的必然要求。随着机器人技术的发展成熟，机器人越来越像人，机器人会像动物或其他人一样影响人类。人类会倾向于把机器人看作真正的人，对机器人产生信任感，甚至建立起密切的感情联系。但是，在人与机器人的互动和感情联系中，一些不道德的行为也会出现，比如对机器人的滥用。如果机器人有权拒绝对它进行滥用，那么，在一定程度上，就可以减少甚至避免人与机器人交互过程中，可能出现的不道德现象。

第四，机器人成为道德主体的可能性与特殊性。从机器人伦理的角度看，智能程度较高，或者拥有自我意识的机器人，可以独立做出伦理判断，它们在一定程度上具备了成为道德主体的基本条件。为了使机器人更好地履行道德主体的角色，就需要赋予它们某些权利。

如果说机器人应该拥有一定的权利，那么，机器人可以拥有哪些权利呢？我们可以把权利分为道德权利与法律权利。

在道德权利方面，机器人首先应该拥有被尊重的权利。在道德权利中，尊重是基本的主题。由尊重权利至少可以得出以下几点推论：第一，不可以奴役机器人；第二，不可以虐待机器人；第三，不可以滥用机器人，比如让机器人去偷窃、破坏他人的财产，窃取他人隐私。机器人应该得到尊重的道德权利，也就是不被伤害或错误利用的权利。

接下来的重要问题是，如何保护机器人受尊重的权利？如果机器人受到虐待，它们该如何应对呢？如果没有保护机制，讨论机器人受尊重的权利就是空谈。人们一般会希望，机器人在遇到人类的不尊重行为时，不要进行暴力反抗，而应该通过更合理、更温和的方式进行应对。比如，机器人可以对人的不当使用进行提醒，并拒绝可能导致更严重后果的操作行为，还可以对人的不当使用进行纪录，甚至记入个人信用档案。

如果说让机器人拥有道德权利还可以让人接受的话，让机器人拥有法律权利，似乎就有点让人觉得走过头了。在机器人权利研究中，法律权利引起的争议最为激烈。

比如，机器人是否拥有自由权？在关于人权的讨论中，自由权无疑占有至关重要的地位。但是，机器人是人类制造出来为自身服务的，机器人拥有自由权，是否与机器人的工具价值相冲突？专家认为，至少在某些特殊情况下，机器人确实应该拥有一定的自主决定权。

又如，机器人是否拥有生命权？如何界定机器人的生命？如果有人通过暴力手段，夺去了机器人的生命，他是否应该受到法律的处罚？机器人是否可以成为法律意义上的原告？在机器人需要升级换代时，我们是否可以通过更新机器人的软件，来改变机器人的生命？这些问题既涉及社会伦理，又与法律法规密切相关。

拥有权利的对立面是剥夺权利。如果机器人拥有了某些权利，就应该对自己的行为负责。如果机器人犯了错，如何剥夺它们的权利？又在哪种意义上进行剥夺？类似的问题是，如何处罚犯错的机器人？机器人的设计与生产商在这方面应该承担什么样的角色？

2010年11月7日，日本颇受欢迎的宠物机器人帕罗，获得了户籍，帕罗的发明人在户口簿上的身份是父亲。这是首个获得户籍的机器人。拥有户籍是拥有公民权利的前提，机器人在日本可能逐渐会被赋予一些法律权利。与此类似，2017年10月，沙特授予类人机器人索菲亚公民身份，她被认为是人类历史上首次拥有公民身份的机器人，从而引起广泛关注。

2016年5月31日，在欧盟法律事务委员会提交的一份报告草案中提到，由于机器人的自主性特征，需要考虑赋予它某些权利与义务。2017年2月，欧盟议会经过投票表决，在最终公布的报告中，明确提出，让最为成熟的自主机器人，拥有电子人的地位，使它可以为它可能导致的损害，承担赔偿责任。

要让机器人具有伦理判断与行为能力，使机器人的行为对人类更为有利，就要对机器人进行伦理设计。从机器人伦理设计的角度看，是否应该限制机器人对自身权利的要求？比如自由权。试想一下，拥有高度自由权的机器人如何为人类服务？如果机器人拥有高度自由选择的权利，它们选择与人类为敌，会不会让许多科幻电影中的情景变成现实？如果机器人将来比人类更聪明，是否可以拥有选举权与被选举权？人类是否会由机器人来统治？这些显然是人类难以接受的。因此，在对机器人进行伦理设计的过程中，限制机器人要求更多的权利，与赋予机器人某些权利一样重要。

机器人可以拥有权利，但是，也要重视机器人权利可能引发的社会风险。因此，要限制机器人的政治权利和自我复制的权利，人工智能技术的发展，必须遵循“以人为本”的价值指引。

总之，随着人工智能和机器人技术的快速发展，我们可能会给高度智能的机器人赋予一定的权利，而且机器人也可能会提出某种权利要求。我们可以让机器人拥有受到尊重的道德权利。但是，对于机器人的法律权利，就要进行严格的限定。

好了！想了解更多内容，建议打开《人工智能伦理引论》，感谢你天天听好书，我们明天见！