推进新一代人工智能伦理与治理
人工智能科学与技术的发展日新月异，新一代人工智能的发展不但要将其作为重要的使能技术推动各个领域科技和经济的发展，更要作为重要驱动力之一推动社会与生态的可持续发展，促进人类命运共同体的形成。
人工智能相关应用与服务直接作用于社会，也将以最直接的方式接收到社会的反馈。发展过程中，人工智能产品与服务的整个生命周期（涉及设计、研发、部署、使用）的所有相关方都应当本着负责任的态度进行创新发展。人工智能在推动科技、经济、社会的发展中起到的持续性积极作用毋庸置疑，然而由于在其发展过程中没有对社会潜在影响和可持续性进行充分考虑，可能会造成预期之外的负面影响。因此，对人工智能伦理的考量应贯穿于人工智能产品与服务的整个生命周期。
需秉承以人为本及可持续发展的理念
构建符合人类伦理与价值观的人工智能应秉承以人为本及可持续发展的理念，尊重隐私，促进公平公正，不引入并用技术改善性别、种族、文化等偏见，人工智能技术的发展应做到透明与可解释、安全可控、可验证、可追责，为推动技术普惠各行各业、各个国家与地区，应避免恶意竞争，促进开放合作与包容共享。
倡导和谐发展应当是新一代人工智能伦理与治理的主旋律。一方面为实现通过人工智能增进人类共同福祉这一目标，其途径并不唯一，应当始终秉承与实践和而不同、和舟共济、和合向善的发展理念。另一方面应推动人类与技术的和谐共生，避免技术的误用、滥用、恶用对人类权益的伤害，总体愿景应是发展对人类与生态有益的人工智能。
无论采取哪种技术途径实现新一代人工智能，都无法杜绝在发展过程中可能带来的潜在技术与社会风险及对现代科技伦理的潜在冲击。技术发展的途径与方式的多样性使得其所带来的风险也具有不确定性，因此应当在探索新一代人工智能，特别是不同类型的高等智能的过程中，建立对其技术与社会风险的战略性持续前瞻研究，以避免、降低潜在风险带来的负面影响。美国生命未来研究所和英国剑桥大学生存风险研究中心相关学者认为人工智能的高度发展对人类具有潜在的灾难性风险甚至是存在性风险。我们应当从这种认识中获得一种对颠覆性技术发展过程中潜在风险的危机意识。各个国家的学者、政策制定者、产业创新者都应当明确，在对未来人工智能的潜在风险及应对策略的研究方面，应最大限度的共享对隐患的认识及危机处理方案与经验。只有建立全球共享、群策群力的机制并采取行动，才能共户安全，避免颠覆性技术的发展可能带来的灾难性风险。
多方协作实现发展与治理双轮驱动
作为我国新一代人工智能战略的牵头单位，2019年3月，科技部组建了国家新一代人工智能治理专业委员会。同年6月，该委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，这是我国新一代人工智能战略对发展与治理关系的原则性阐述，也是中国新一代人工智能治理的重要基础。为了确保中国新一代人工智能向对社会有益的方向发展，新一代人工智能应采取发展与治理双轮驱动的战略。治理的目的并不是阻碍发展，而是保持发展的健康与稳健。敏捷治理应成为中国人工智能治理重要特征之一。这里敏捷治理可以被解读为有两方面的含义：一方面是人工智能治理随人工智能技术的进展进行自适应，使得治理工作能够更适应发展的特点；另一方面是相关治理工作动作迅速，并应取得较好成效。与新一代人工智能发展一脉相承，作为中国人工智能发展的重要方面，人工智能治理在中国也应通过多部门联动深度协作方式进行。
政府部门、科研机构、企业等创新单元在人工智能治理工作中应各自承担相应的责任并深度协作。政府相关机构与企业的深度互动是实现新一代人工智能敏捷治理的关键。通过多种治理方式使中国人工智能的研发、部署、使用从自律自查到顶层监管的实施，真正从技术和社会等不同视角实现新一代人工智能的敏捷治理。
建立人工智能治理公共服务体系防患于未然
未来一方面需要政府相关部门、科研机构、产业对人工智能可能存在的风险、安全与伦理隐患进行足够的重视，并对人工智能伦理与治理进行战略性的关注与投入，加强自律自治。另一方面，对于相关国家和地方机构而言，应当推动人工智能治理相关高端智库、执行机构、协作网络的建立，并鼓励公众参与讨论，及时了解公众对技术参与变革社会的思考。未来还需要进一步推动细分领域的人工智能治理原则、标准、法律并在实践、实施过程中不断进行自适应完善。
需要指出，新一代人工智能治理工作的重点和源头应当是防患于未然，而不仅仅是事后的警戒、责令整改与惩治。发展与治理的双轮驱动需要将人工智能伦理与治理工作推动为兼服务与监管于一身的公共体系。应鼓励政府相关部门、科研机构、企业及其他创新单元，乃至公众共建新一代人工智能伦理与治理公共体系。应在政府和相关机构的指导下，鼓励新一代人工智能伦理与治理公共服务平台的建设与面向政府、科研机构、企业、公众提供服务，从而负责任地推动并确保新一代人工智能的稳健发展。
相关文章发表于6月5日《科技日报》
(作者系中国科学院自动化研究所研究员，北京智源人工智能研究院人工智能伦理与安全中心主任，联合国教科文组织人工智能伦理特别专家组专家)
