5月20日下午，由上海市伦理学会主办，体育投注现金网_沙巴体育-娱乐场*官网@法学院与体育投注现金网_沙巴体育-娱乐场*官网@哲学系伦理与智慧研究中心共同承办的第23届上海市社会科学普及活动周·圆桌论坛在华东师大举行。本次论坛的主题为“人工智能治理中的伦理与法理”，100多位来自复旦大学、上海交通大学、体育投注现金网_沙巴体育-娱乐场*官网@、华东政法大学、上海师范大学、上海社会科学院等院校的专家学者和师生参加研讨，5000多名观众在线参与论坛。
论坛开幕式由体育投注现金网_沙巴体育-娱乐场*官网@哲学系教授、上海市伦理学会副会长兼秘书长付长珍主持。她指出，新一代人工智能正在全球范围内蓬勃兴起，并在深刻改变着人类的生产与生活方式。人工智能技术的变革在增进人类福祉的同时，也向人类社会发起了一系列新挑战。针对人工智能治理中出现的非常态事件和应急伦理难题，亟需跨学科、跨领域深度联合应对。
体育投注现金网_沙巴体育-娱乐场*官网@法学院院长张志铭教授在开幕式上致辞。他指出人工智能正在迅猛发展并作为新质生产力和新业态推动了社会各领域的升级。他强调人工智能治理的复杂性需要跨学科协作来应对，哲学与法学的结合可以使治理问题的探讨更为深入。现有研究多将人工智能视为法律关系的客体，但强人工智能可能需要新的法律主体框架。他特别指出，人工智能法治研究不能只热闹而无深入，这样只会导致学术上的劣币驱逐良币。简单的人类中心主义无法解决监管困境，需平衡人类安全与技术发展。
复旦大学特聘教授、科技伦理与人类未来研究院院长、全国应用伦理专业学位研究生教育指导委员会主任王国豫在致辞中说，伦理与法理的关系是哲学史上弥久不衰的主题，在今天的人工智能时代，这个问题变得更加迫切，更具有现实意义。伦理、法律和社会问题需要置于同一个框架下进行深入讨论。
上海市伦理学会会长、复旦大学特聘教授高国希代表主办方上海市伦理学会致辞。他说，伦理与法律都是社会调节的方式，是一个社会占主导地位的价值追求的两种不同形态，法学与伦理学以问题为中心的联合攻关具有重要的意义。此次法学院与伦理学会的深度交流合作，也是服务于国家战略、推进知识创新的重要举措。
人工智能迅猛发展带来诸多挑战
主旨报告环节由华东政法大学法律学院教授、人权研究院院长、《法学》主编胡玉鸿教授主持。三位来自不同领域的知名学者分享了他们的研究成果。
上海交通大学中国法与社会研究院院长季卫东表示，自2022年11月以来，生成式人工智能的迅猛发展带来了诸多问题。AI的国际化资源和知识拓展了法律选择空间，但也带来了新的伦理和法律风险。季卫东建议，在大模型时代AI治理应采用多层次、多元化的法律规范平衡安全与发展，以确保AI系统的目标与人类价值观一致。
上海社会科学院哲学研究所研究员、副所长成素梅在“人工智能算法系统的归责困境”这一主题的汇报中探讨了算法系统带来的伦理挑战。成素梅指出，算法系统的非线性和复杂性以及开放源码特性，使得传统的因果追溯与责任归属机制面临挑战。复杂算法系统中的“暗知识”不仅加剧信息茧房效应，还可能导致算法错误难以预见。算法系统的普遍应用可能掩盖劝导意图，使人处于不利地位。面对AI带来的冲击，需要从工具主义向互动主义技术观转变，创建有担当的伦理学。
中国社会科学院哲学研究所科技哲学研究室主任段伟文研究员提出当前有关AI伦理风险的认知往往具有猜测性与隐喻性等特征，模糊了我们对AI风险的真实感知，还可能导致AI伦理讨论陷入“伦理漂白”“伦理炒作”与“伦理空转”之中。目前有关AI伦理风险的刻画主要基于“隐私”“歧视”等语词表达，而在语义空间中，这些概念与词汇的固定联系，限制了我们对AI风险动态性的理解。由此，他借助突变理论/灾变论模型，提出了体育投注现金网_沙巴体育-娱乐场*官网@：AI风险“认知－干预”的新视角。
重建人机共生的新型伦理关系
专题报告一环节由体育投注现金网_沙巴体育-娱乐场*官网@哲学系副教授、副主任郁锋教授主持。四位来自不同领域的知名学者分享了他们的研究成果。
复旦大学科技伦理与人类未来研究院教授杨庆峰表示，尽管强人工智能曾被认为只是科幻领域的话题，但技术进步使这一话题的现实性大大提升。杨庆峰勾勒了实现超级智能的三条进路：从通用智能走向超级智能、从具身智能走向超级智能、从交互智能走向超级智能。面对超级智能可能带来的挑战，他分析了作为技术应对的对齐方法，并指出这种方法可能存在的价值化误解和技术化误解。作为一种伦理应对之策，他提出了一种“合约伦理”，认为未来我们与超级智能将处于一种在共存中的相互塑造和相互理解的伦理关联中。
体育投注现金网_沙巴体育-娱乐场*官网@哲学系教授、《体育投注现金网_沙巴体育-娱乐场*官网@学报（哲社版）》常务副主编付长珍表示，随着数智时代的降临，人类文明正面临前所未有之大变局。我们需要通过“究人机之际”来重建人机共生的新型伦理关系，重新认识人的本质，让AI不断朝着“适配人类价值观”的方向发展并实现价值对齐，以实践智慧追寻人工智能的统一理论与认知架构，创造具有自主的感知、认知、决策、学习、执行和社会协作能力，符合人类情感、伦理与道德观念的通用智能体（AGI）。
体育投注现金网_沙巴体育-娱乐场*官网@法学院副教授王军表示，人工智能在行政法中的应用仍处于政策实验和规范酝酿阶段。自动化行政审批、全流程自动处罚机制等人工智能的广泛应用在提高执法效率的同时，也带来了新的法律挑战。当前的讨论，可选取“小切口、大关怀”的视角和教义学为主的方法开展研讨，并在未来“人工智能治理的立法时刻”注重兼顾智能化与法治化、平衡发展与安全，确保在使用人工智能技术时，保护公民、法人和其他组织的合法权益。
体育投注现金网_沙巴体育-娱乐场*官网@法学院副教授陈肇新在探讨“人工智能的法律增强”时指出，人工智能的兴起为法律职业伦理和法律实践带来了新的挑战，他提到了法律增强的概念，即通过人工智能技术帮助法律人克服认知和情感偏见，优化法律决策过程。他还认为，人工智能不仅能辅助法律预测，还能在提升法律认知和决策水平方面发挥重要作用，但应注意保持法律的规范性和独立性。
探讨在伦理和法律领域的问题
专题报告二环节由体育投注现金网_沙巴体育-娱乐场*官网@学报期刊社副编审、副主任胡岩主持。四位专家学者共同探讨人工智能在伦理和法律领域的前沿问题。
上海交通大学数字化未来与价值研究中心教授闫宏秀在探讨“价值对齐是人类通往未来的‘必经之路’吗？”时认为，人工智能的发展需要进行价值对齐，但价值对齐进程中常常出现幻觉、越狱、欺骗性对齐等现象，“对齐”最好被理解为“联盟”或者“相互校准”的过程，而二者的联盟实际上是我们对人类在人机关系中占主导地位的一种期望。
体育投注现金网_沙巴体育-娱乐场*官网@法学院副教授、副院长段磊在探讨“投资领域中运用人工智能的法律困境”时，强调了人工智能在法学中的实用性，同时也以商法为例分享了在法学中运用人工智能遇到的法律挑战。段磊介绍了一家公司利用人工智能工具进行投资决策的实例，在弱人工智能时代，人工智能还只是自然人董事进行经营决策的辅助工具，只要章程中没有禁止规定自然人董事就可以将部分决策事项授权给人工智能进行决策，甚至在必要的时候为了公司利益的最大化，自然人董事还负有让人工智能进行决策的义务。
南京信息工程大学副教授、体育投注现金网_沙巴体育-娱乐场*官网@博士后崔中良在探讨“生成式人工智能作为叙事主体的社会风险及治理”时指出，人工智能的自主性、复杂性，以及人们对人工智能主体的接受和信任伴随人机交互中的相互成长，正在证明生成式人工智能有可能成为叙事主体。这一现象将带来个体、组织和社会层面的风险。对此，他提出了三方面的治理建议：确保人类主体性、限制人工智能在特定领域的应用，以及培养自我反思能力。
体育投注现金网_沙巴体育-娱乐场*官网@法学院副教授、副院长李帅在探讨“人工智能是可税主体吗？”时，讨论了欧盟2016年的建议，指出AI替代人类劳动可能导致税收减少和社会保障体系的挑战。通过具体案例，他演示了AI对企业税收的影响，并分析了对AI征税的可能性。他建议将AI使用视为可税行为或直接对其所得征税，这需要在法律和技术层面进一步探讨。
如何确立人的独特性
会议进入评议环节，由五位专家进行深入点评。
美国肯庸学院教授、体育投注现金网_沙巴体育-娱乐场*官网@客座教授萧阳重点评议了赋予人工智能和机器人道德或法律地位的问题。
体育投注现金网_沙巴体育-娱乐场*官网@哲学系教授蔡蓁在评议中探讨了人工智能时代如何确立人的独特性。她认为，道德哲学中的“理性”概念具有自我立法的内涵，人类意志也具有反思性的结构并远比现在讨论的人工智能层面的理性概念丰富得多。
体育投注现金网_沙巴体育-娱乐场*官网@哲学系教授潘斌在评议中认为，人工智能从伦理倡议到法律规制之间有一个重要的逻辑进路，即如何使得人工智能更具有可解释性。从人工智能的立法必要性而言，AI的透明性、可解释性是立法的前提，但AI本身的复杂性、知识产权保护的必要性以及专业性限制了算法的透明性与模式的可解释性。
河南财经政法大学经济理论研究中心副主任郦平教授指出，随着人工智能技术的快速发展和广泛应用，让人工智能读懂人类的价值观并实现实时双向人机价值对齐，已成为备受关注的研究领域。如今，许多研究团队和专家都提出让AI的价值观与人类的价值观对齐，但这一过程中存在诸多问题，如何根据具体场景选择适用的伦理原则，是一个需要继续深入研究的重要议题。
体育投注现金网_沙巴体育-娱乐场*官网@哲学系副教授王韬洋在评议中认为，强人工智能的到来对伦理与法律构成了两个挑战，首先强人工智能的阶段对伦理学本身以及法学本身提出了挑战，其次是人类对人工智能有超高的要求。
记者丨胡思华
来源丨东方教育时报公众号
编辑丨王蓝萱
编审丨戴琪
体育投注现金网_沙巴体育-娱乐场*官网@阅读：
上海法治报丨专家学者齐聚华东师大研讨人工智能治理中的伦理与法理
