9月25日，国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》（以下简称《伦理规范》），旨在将伦理融入人工智能的整个生命周期，为从事人工智能相关活动的自然人、法人等相关机构提供伦理指导。
《伦理规范》通过专题研究、集中起草、咨询等环节，充分考虑了隐私、偏见、歧视、公平等伦理关切，包括总则、具体活动伦理规范和组织实施。《伦理规范》提出了六项基本伦理要求:改善人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任、提高伦理素质。同时，提出了人工智能管理、研发、供应、使用等18项具体活动的具体伦理要求。《伦理规范》全文如下:
新一代人工智能伦理工智能发展规划，细化贯彻新一代人工智能治理原则，增强全社会人工智能伦理意识和行为意识，积极引导负责任的人工智能研发应用活动，促进人工智能健康发展，制定本规范。
第一章总则
第一条本规范旨在将伦理融入人工智能的整个生命周期，促进公平、公正、和谐、安全，避免偏见、歧视、隐私和信息泄露。
第二条本规范适用于从事人工智能管理、研发、供应、使用等相关活动的自然人、法人等相关机构。（1）管理活动主要是指制定和实施与人工智能相关的战略规划、政策、法规和技术标准、资源配置和监督审查。（2）研发活动主要是指与人工智能相关的科学研究、技术开发、产品开发等。（3）供应活动主要是指与人工智能产品和服务相关的生产、运营和销售。（4）使用活动主要是指与人工智能产品和服务相关的采购、消费和运营。
第三条各种人工智能活动应当遵循下列基本伦理规范。(一)改善人类福祉。坚持以人为本，遵循人类共同价值观，尊重人权和人类根本利益诉求，遵守国家或地区伦理道德。坚持公共利益优先，促进人机和谐友好，改善民生，增强获得感幸福感，促进经济、社会、生态可持续发展，建设人类命运共同体。(二)促进公平正义。坚持包容性和包容性，切实保护各相关主体的合法权益，促进全社会公平共享人工智能带来的好处，促进社会公平正义和机遇平等。在提供人工智能产品和服务时，应充分尊重和帮助弱势群体和特殊群体，并根据需要提供相应的替代方案。(三)保护隐私安全。充分尊重个人信息知情、同意等权利，按照合法、合法、必要、诚信的原则处理个人信息，保护个人隐私和数据安全，不损害个人合法数据权益，窃取、篡改、泄露个人隐私。(四)确保人隐私的可控性。确保人类是否充分自主决策的权利。有权随时退出与人工智能的互动，随时停止人工智能系统的运行，确保人工智能始终处于人类控制之下（5）加强责任。坚持人类是最终责任主体，明确利益相关者的责任，全面增强责任感，在人工智能整个生命周期的各个环节自律，建立人工智能问责机制，不回避责任审查，不逃避责任（6）提高伦理素质。积极学习和普及人工智能伦理知识，客观理解伦理问题，不低估或夸大伦理风险。积极开展或参与人工智能伦理讨论，进一步推进人工智能伦理治理实践，提高应对能力。
第四条人工智能特定活动应当遵守的伦理规范包括管理规范、研发规范、供应规范和使用规范。
第二章管理规范
第五条促进敏捷治理。尊重人工智能发展规律，充分认识人工智能的潜力和局限性，不断优化治理机制和方法。在战略决策、制度建设和资源配置过程中，不脱离现实，不急功近利，有序促进人工智能健康可持续发展。
第六条积极实践示范。遵守人工智能相关法律法规、政策标准，积极将人工智能伦理融入管理全过程，率先成为人工智能伦理治理的实践者和推动者，及时总结推广人工智能治理的经验，积极响应社会对人工智能的伦理关切。
第七条正确行使权利。明确人工智能相关管理活动的职责和权力边界，规范权力运行条件和程序。充分尊重和保护相关主体的隐私、自由、尊严、安全等合法权益，禁止权力不当行使侵犯自然人、法人和其他组织的合法权益。
第八条加强风险防范。增强底线思维和风险意识，加强人工智能发展潜在风险研究判断，及时开展系统风险监测评估，建立有效的风险预警机制，提高人工智能伦理风险控制和处置能力。
第九条促进包容性和开放性。充分重视人工智能利益相关者的权益和需求，鼓励应用多元化人工智能技术解决经济社会发展的实际问题，鼓励跨学科、跨领域、跨区域、跨国界的交流与合作，促进人工智能治理框架和标准规范的形成。
第三章研发规范
第十条加强自律意识。加强人工智能研发相关活动的自律，积极将人工智能伦理融入技术研发的各个环节，自觉开展自我审查，加强自我管理，不从事违反伦理的人工智能研发。
第十一条提高数据质量。在数据收集、存储、使用、使用、加工、传输、提供和披露的相关法律、标准和规范，提高数据的完整性、及时性、一致性、规范性和准确性。
第十二条增强安全性和透明度。在算法设计、实现和应用中，提高透明度、可解释性、可理解性、可靠性和可控性，提高人工智能系统的韧性、自适应性和抗干扰能力，逐步实现可验证、可审计、可监督、可追溯性、可预测性和可信度。
第十三条避免偏见歧视。在数据采集和算法开发中，加强伦理审查，充分考虑差异化需求，避免可能的数据和算法偏见，努力实现人工智能系统的包容性、公平性和非歧视性。
第四章供应规范
第十四条尊重市场规则。严格遵守市场准入、竞争、交易等活动的规章制度，积极维护市场秩序，创造有利于人工智能发展的市场环境，不得破坏数据垄断、平台垄断等有序竞争，禁止以任何手段侵犯其他主体的知识产权。
第十五条加强质量控制。加强对人工智能产品和服务的质量监测和使用评价，避免因设计和产品缺陷而侵犯人身安全、财产安全和用户隐私，不得经营、销售或提供不符合质量标准的产品和服务。
第十六条保护用户权益。人工智能技术在产品和服务中的使用应当明确告知用户，应当识别人工智能产品和服务的功能和局限性，保护用户的知情权和同意权。为用户选择使用或退出人工智能模式提供简单易懂的解决方案，不得为用户平等使用人工智能设置障碍。
第十七条加强应急保障。研究制定应急机制和损失补偿计划或措施，及时监控人工智能系统，及时响应和处理用户反馈信息，及时预防系统故障，准备协助相关主体依法干预人工智能系统，减少损失，规避风险。
第五章使用规范
第十八条提倡善意使用。加强人工智能产品和服务使用前的论证和评价，充分了解人工智能产品和服务的好处，充分考虑各利益相关者的合法权益，更好地促进经济繁荣、社会进步和可持续发展。
第十九条避免滥用。充分了解人工智能产品和服务的适用范围和负面影响，有效尊重相关主体不使用人工智能产品或服务的权利，避免人工智能产品和服务的不当使用和滥用，避免非故意损害他人的合法权益。
第二十条禁止非法使用。禁止使用不符合法律、法规、道德和标准的人工智能产品和服务，禁止使用人工智能产品和服务从事非法活动，严禁危害国家安全、公共安全和生产安全，严禁损害社会公共利益。
第二十一条及时积极反馈。积极参与人工智能伦理治理实践，及时反馈相关主体，协助解决人工智能产品和服务使用中发现的技术安全漏洞、政策法规真空、监管滞后等问题。
第二十二条提高使用能力。积极学习人工智能相关知识，积极掌握人工智能产品和服务运营、维护、应急响应所需的技能，确保人工智能产品和服务的安全高效使用。
组织实施第六章
第二十三条本规范由国家新一代人工智能治理专业委员会发布，并负责解释和指导实施。
第二十四条各级管理部门、企业、高校、科研机构、协会等有关机构可以根据本规范和实际需要，制定更具体的伦理规范和有关措施。
第二十五条本规范自公布之日起实施，并根据经济社会发展需要和人工智能发展情况及时修订。
新一代人工智能治理专业委员会
2021年9月25日
