人工智能法律发展状态-陈晓光作发言摘登：探索构建符合中国国情的人工智能治理框架

探索构建符合中国国情的人工智能治理框架——全国政协“人工智能发展中的科技伦理与法律问题”双周协商座谈会发言摘登

■编者按：

任何一项重大科技创新都会促进社会生产力和生产关系的变化，也会影响社会生活方式和伦理秩序的调整。人工智能技术具有广泛渗透性和颠覆性，带来的科技伦理与法律问题更加复杂多元，可能引发潜在伦理和法律风险，需要引起高度重视。12月23日，全国政协召开双周协商座谈会，专门就此问题进行协商议政。现将有关发言摘登如下——

全国政协副主席，民盟中央常务副主席陈晓光作主题发言

全国政协将“人工智能发展中的科技伦理与法律问题”作为双周协商座谈会的主题，紧扣关乎国家发展的前瞻性、战略性问题协商议政，是充分发挥政协人才库、智慧库优势的一次生动实践。

结合参加调研的感受和委员们的发言，我谈以下几点意见。

一、充分认识人工智能科技伦理与法律建设的战略意义

人工智能的健康发展，必须回答人工智能到底该由谁掌控、人工智能发展的基本准则是什么、人工智能发展的禁区在哪里等问题，必须通过建立理性的伦理规则和法律规范为人工智能发展的风险防范设置“控制阀”。

在发展人工智能技术的同时，必须同步开展伦理和法律层面对人工智能的引领和规范工作，改变“先发展后治理”的模式和“重科技研发、轻治理研究”的思维，大力加强人工智能伦理和法律相关问题的研究。

二、构建多元主体共同参与协同合作的治理体系

充分发挥我国国家制度和国家治理体系优势，在国家层面加强顶层设计，统筹多方力量，构建多元主体共同参与、协同合作的人工智能治理体系。通过制定政策和法律，明确政府对人工智能发展的监督管理和规范指导职责，健全人工智能治理的资源统筹、部门协作、信息共享的工作机制，搭建人工智能治理的框架。鼓励行业协会、标准化组织、产业联盟等社会团体，制定人工智能产业标准、技术标准和行业规范，不断加强行业自律。倡导企业率先开展相关研究，制定企业伦理规则、建立内部审查机制，进行自我监管。建立公众参与人工智能治理机制，保障公众的知情权、参与权、表达权、监督权。

积极推动国际社会在人工智能伦理和法律建设中凝聚共识、开展合作。鼓励国内研究机构、智库等利益主体多方参与人工智能治理。与多国多方多边加强人工智能技术、标准等方面的合作、共享，探索人工智能在应对全球性问题方面的应用。

三、构建远近结合的综合规制体系

总的来看，人工智能治理需要在充分发挥技术手段的基础上，注重伦理与制度的结合，逐步形成“技术防范+伦理规范+法律规制”的综合规制体系。

从近期看人工智能法律发展状态，应着重加强技术应对和伦理规范。遵循市场规律，坚持应用导向，完善人工智能标准体系，将基础安全，数据、算法和模型安全，技术和系统安全，安全管理和服务等作为人工智能安全与隐私保护技术标准的重要发力方向。

从中长期考虑，全面研究和论证人工智能法律规制体系，制定立法策略。围绕国家和社会层面的数据安全、数据权利等进行立法。在人工智能发展相对成熟的领域，适时开展相关的规范立法。

四、广泛开展人工智能知识宣传教育活动

在全社会，全面、客观、深入宣传人工智能发展将给人类社会带来的根本性变革，促使公众形成对人工智能的科学、理性认识。抓好学校教育，将人工智能知识、计算机思维普及教育纳入国民教育体系，“从娃娃抓起”，培养良好科技伦理素养。抓好劳动技能培训教育，着眼于人工智能时代对劳动者的要求，积极应对人工智能带来的就业替代。

加强对科研人员的科技伦理和法律教育培训，从源头防范人工智能风险。将科研人员职业道德、学术道德规范等相关内容作为上岗前的重要培训内容，在项目申请、管理中人工智能法律发展状态，加大对人工智能科技伦理、法律法规的考核比重。强化大学科技伦理教育，建立系统性、多维度科技伦理人才培养体系，设置科技伦理专业方向；将人工智能伦理法律等课程纳入与人工智能开发、运用相关专业的核心课程，完善教学体系。