2020年10月25日，我院中关村校区2019级和2020级部分民商法专业的研究生召开了本学期第二次线上读书会。由于上一次读书会大家对以一本书作为分享主题共同讨论的形式反响较好，因此本次读书会依旧延续了这种形式，围绕郭锐老师的《人工智能的伦理和治理》一书展开讨论。

　　2019级法律硕士张晨同学提到，从广为讨论的电车难题和”道德机器”调查可以看出，人们在选择牺牲谁的时候，虽然没有标准答案，但是有大体的倾向，例如更侧重保护妇女儿童，牺牲老人残疾人，保护多数人，牺牲少数人。但是在面对个案时，立场和出发点可能完全不同，比如作者在书中举例：在面对保护车主还是路上行人的时候，车辆购买者必定会倾向购买保护车主的算法车辆，那么在发生事故的时候就可能以牺牲几十人为代价。所以这样的道德难题，人类本身就无法达成共识，如果要机器人面对突发情况时及时作出选择，需要提前设定好各种因素对比，机器人在综合计算后，选择一个更符合人类价值取向的决策。那么提前录入的因素对比，一定会有对少数人不公平的地方，人们怎么达成共识？所以要机器人面对突发情况作出道德判断还有一定难度。除此之外，张晨同学近期还阅读了江必新《融资租赁合同纠纷》一书。

　　2019级法律硕士卓志旭同学提到，在当代，人工智能已经渗透了自动驾驶汽车、医疗、传媒、金融、工业机器人以及互联网服务等多个领域和场景，并且深度“参与”人的决策。人工智能有无穷的潜力，但与之相对的，当机器被委以判断的重任时，其决策结果能否符合人类伦理是一个突出的问题。作者认为，处理人工智能的伦理问题在大方向上要强调两点：在使用目的上，人工智能的使用者管理者必须用之行善，不能作恶，第二，人工智能在使用过程中必须服从人的伦理规则。前者主要是对人工智能的管理者与使用者做出的约束，责任落在人身上，通过社会方方面面的合理监督是可行的。后者则涉及到如何将人类伦理嵌入人工智能的执行的问题。随着深度学习的不断进步，机器的判断过程将会越来越难以捉摸。如何让机器的“思考”符合人类的伦理，仍然需要进一步研究探索。除此之外，卓志旭同学近期还阅读了长铗的《区块链：从数字货币到信用社会》一书。

　　2019级法律硕士黄雪静同学提到，本书结合人工智能的发展带来的伦理问题，提出相应的对策。同时，作者指出，人工智能不同于传统意义工具属性的技术，会直接或间接地参与人类决策，当人工智能在某些方面参与人类决策时，有两个方面的根本限制：第一，人工智能对决策结果的伦理判断能力不足。第二，人类在解决真正的伦理难题时往往意见不一，难以一致，从而难以有效干预人工智能系统。针对前述，从法治的角度，作者在书中指出，法学的使命不是赞赏科技进步带来的辉煌成就，而是要审视科技发展的非理性，探索如何通过法治降低科技发展可能带来的风险，符合通过宪法控制科技对人类文明、尊严与未来的威胁，从而真正造福人类的美好生活。除此之外，黄雪静同学近期还阅读了《中华人民共和国合同法：注释本》一书。

　　2019级法律硕士訾政同学提到，《人工智能的伦理与治理》一书从大数据精准营销、推荐系统、自动驾驶等当前热门人工智能领域对其在伦理上的风险和窘境进行了剖析，并提出了解决的思路。人工智能作为工具的属性本质因其独立决策和数据收集传输的能力而发生了异化，人们无法从超智超脑的人工智能中获得安全感和保障感，这种无法控制无法预见的恐惧是人工智能的伦理和治理课题产生的缘由。伦理不同于法律，是一种非强制但为公众所共同遵守的规范，既无法精准规范不同情景下的行为，在某些特定情境也往往没有达成共识，因此试图用伦理规制人工智能，必须要建立在充分的民主讨论的基础上，并且给予公众选择的自由空间，找到工具与人之间的道德平衡。除此之外，訾政同学近期还阅读了贾雷德·戴蒙德的《枪炮、病菌与钢铁》一书。

　　2020级法律硕士何承宸同学提到，本书指出人工智能伦理风险的具体性质与特征，可从算法、数据和应用三个方面度来梳理其风险。其中，数据方面的风险主要包括侵犯隐私的风险和个人敏感信息识别与保护的风险。现行法律通常对个人敏感信息予以更高程度的保护，但人工智能技术的应用极大地扩展了个人信息收集的场景、范围和数量。因此，人工智能技术的进步对个人信息的保护提出了更高的要求。在近期公布的《个人信息保护法》（草案）中对此已经有所回应，比如：第二十五条规定，利用个人信息进行自动化决策,应当保证决策的透明度和处理结果的公平合理。个人认为自动化决策对其权益造成重大影响的,有权要求个人信息处理者予以说明,并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。通过自动化决策方式进行商业营销、信息推送,应当同时提供不针对其个人特征的选项。这就在人工智能技术无孔不入的时代背景下，从规范层面赋予个人选择权，以期为个人信息保护上一道保险。除此之外，何承宸同学近期还阅读了中国政法大学王涌教授的新书《私权的分析与建构》一书。

　　2020年法律硕士夏昆同学提到，人工智能的飞速发展，已经愈发影响人类的生活。这种影响，有的是社会大众可以感知的，比如说对消费者信息的全方面提取和隐私侵犯。有的是基于人工智能的产品的推广，人们没有选择、被裹挟的成为人工智能的算法客体而被影响。这就涉及到对个人隐私的保护和对人工智能算法和数据的透明度的。现在刚出台的《个人信息保护法》（征求意见稿）无疑在这方面是与时俱进的，其规定“利用个人信息进行自动化决策,应当保证决策的透明度和处理结果的公平合理。”但是如何真正在保护商业秘密的同时，保障算法可控，处理结果的可追溯，可能任重道远。除此之外，夏昆同学近期还阅读了迪特尔·梅迪库斯的《请求权基础》一书。

　　“当你读书思考得越多的时候，你就会清楚地看到，你知道得还很少。”其实，读书就是一个不断完善自己的过程，在阅读的过程中我们用书中揭示的道理反省自己、检视自己并逐步成为更好的自己。