人工智能治理体系如何平衡包容？中外专家把脉建言******

　　中新网北京12月4日电(记者 孙自法)作为有望引领人类未来变革的一项战略性技术，人工智能(AI)近年来在快速发展并赋能千行百业的同时，也带来安全、隐私、公平等系列问题和挑战，人工智能治理概念应运而生，备受关注。

　　由清华大学主办、联合国开发计划署支持的2021人工智能合作与治理国际论坛12月4日在北京开幕，中国科技部副部长李萌致辞时形象表示，“我们现在正站在智能化社会的门槛上，人工智能这条大船正载着我们向智能化世界驶去，而治理正是随时校正大船航向，确保大船行稳致远”。

　　在随后举行的“如何构建一个平衡包容的人工智能治理体系”主论坛上，中外专家学者线上线下对话，把脉人工智能发展，聚焦治理体系构建。

　　中国国家新一代人工智能治理专业委员会主任、清华大学人工智能国际治理研究院院长薛澜提出，人工智能治理直面数据、算法、算力、场景等四大要素挑战，价值导向上要坚持人工智能技术安全可控的底线思维、维护个人权益尊严与平等的人本思维、人工智能赋能经济社会发展的发展思维和人工智能促进可持续发展的全球思维，遵循“和谐友好、公平公正、包容共享、尊重隐私、安全可控、共同责任、开放协作、敏捷治理”的治理原则，着重从“包容、共享、审慎、负责”价值原则来平衡人工智能治理中的发展和安全需求，形成人工智能治理机制的价值共识，推动实现全球协同治理。

　　关于“审慎”价值原则，薛澜强调，要对人工智能治理给出明确的安全底线，既不能放任不管，任其野蛮生长，也不能出现“一管就死”，避免矫枉过正。

　　世界工程组织联合会主席、中国新一代人工智能发展战略研究院执行院长龚克表示，人工智能是第四次工业革命的代表性技术，人工智能治理旨在促进具有人类价值的人工智能创新发展，以造福人类和地球，因此，人工智能治理应遵循人工智能发展规律，具有开放的多利益相关者共治的结构，应综合运用技术、规则、教育等多种工具，并有效植入到人工智能应用平台之中。他还特别强调，不仅要发展人工智能各式各样的应用技术，还要发展一批保护隐私和公平、加强监管的人工智能治理支撑技术。

　　联合国助理秘书长、联合国开发计划署政策与方案支助局局长徐浩良指出，人工智能不是万能灵药，它的好坏取决于使用人工智能的人及数据基础、治理标准。“我们需要全面地看待人工智能，需要跨越国界、跨行业和跨代际的合作，来制定必要的治理框架”。他说，国际机构和国家间的合作至关重要，联合国教科文组织最近通过有关人工智能伦理的提案，得到许多成员国的支持，这是积极的一步。联合国开发计划署已做好准备，为政府和其他利益攸关方构建人工智能治理框架提供支持，让人工智能成为推动可持续发展的重要力量。

　　“为什么我们需要一种新的、21世纪国际合作方式来治理人工智能？”卡内基理事会资深研究员、人工智能与平等倡议联席主任温德尔·瓦拉赫认为，首先是以数字和生物革命为代表的新兴技术正在重新定义人类的意义，并且重塑世界和未来前景；二是技术速度远远快于道德和法律监督到位的速度，新的人工智能部署的绝对普遍性和速度，颠覆了行业政府、传统机构以及与人们生活息息相关的社会技术结构；三是人工智能和机器学习存在基本控制问题，作为关键系统组建部署时会构成潜在危险。

　　他说，建立一个合作的人工智能国际治理机制，应该是敏捷的、适应性的、预见性的、响应性的、包容性的，“但是我们应该很清楚，如果没有中国和美国的参与，所有人工智能国际治理方案都只能是幻想。如果不大力转向国际合作，我们将无法成功度过未来几十年”。

　　“今天社会不仅仅是外卖小哥被困在算法里，我们每个人都被困在各式各样的算法里。”清华大学智库中心主任、智能社会治理研究院院长苏竣认为，人类即将从工业社会迈向以科技进步和智能技术为基础的智能社会，人工智能技术在颠覆性地重组人类社会的同时，也给人类社会的法律隐私、道德伦理、公共治理带来诸多严峻挑战。

　　他说，技术是中性的，算法是无辜的，在这场人工智能掀起的人类社会巨变中，需要科学的方法研究和应对科技发展带来的种种风险、问题和挑战。“开展人工智能社会实验、探索智能社会治理的中国道路”的倡议自2019年发起以来，经过两年多努力，已在全国有序展开，实现智能技术治理与智能社会治理齐头并举，将为构建有人文温度的智能社会作贡献。

　　加拿大国际治理创新中心总裁罗欣顿·麦德拉指出，人工智能治理体系在数据领域，要有全球所有国家都接受的数据伦理方面的标准，包括如何搜集数据、收集谁的数据、如何储存数据、如何整合数据、如何分析数据、如何加密、如何保证数据安全、如何使用数据等，“在全球层面共同创建普遍性的标准，它需要很多很多的努力，这就是我们这个世纪的治理挑战”。针对现在越来越多的全球价值链当中，因为机器的替代，很多工作机会被失去的问题，他建议由来自不同社会、不同文化或宗教背景的哲学家组建一个全球性委员会，来思考应对和解决之策。

　　清华大学人工智能国际治理研究院副院长梁正表示，当前，中国人工智能发展水平已跻身世界第一梯队，也肩负着参与国际治理规则制定的职责。因此，如何助力全球社会共同构建一个平衡包容的人工智能治理体系，需要进行系统思考，开展国际对话。(完)

城市跨域风险协同治理的模式与路径******

　　作者：张小明（中共中央党校（国家行政学院）应急管理教研部（中欧应急管理学院）教授、博导）

　　城市跨域风险协同治理的必要性

　　城市风险的本质特征为“超辖区化”。城市风险并不总是内嵌于城市行政单元，它的发生地点、影响范围并不局限在固定区域，还可能超越特定的行政边界，向其他城市溢出。城市突发公共卫生事件具有很强的传染性，在密集的城市人流中，病原体迅速传播会加剧风险蔓延和扩散的可能性。各类自然灾害潜藏着次生性灾害威胁，容易触发更大范围的灾情，如暴雨灾害，一旦上游河流决堤，很容易引起中下游城市的洪灾。事故灾难和社会安全事件，虽发生地点和影响范围相对集中，但不妥善的处理同样也可能对其他城市造成不良影响。城市发展中涌现的新兴风险，特别是技术风险、网络安全风险等，具有很强的复合性、联动性和叠加性，更可能产生超越空间范围的颠覆性影响。

　　我国城市风险防控模式具有典型的“辖区性”特征。我国采取属地管理模式应对城市风险。例如，《中华人民共和国突发事件应对法》规定：“国家建立统一领导、综合协调、分类管理、分级负责、属地管理为主的应急管理体制。”又如，《中华人民共和国传染病防治法》指出：“疾病预防控制机构、医疗机构和采供血机构及其执行职务的人员发现本法规定的传染病疫情或者发现其他传染病暴发、流行以及突发原因不明的传染病时，应当遵循疫情报告属地管理原则。”基本法和单行法都强调了突发事件的本地负责、本地化解特征。

　　在面对“超辖区化”的城市风险挑战时，“辖区化”的属地管理防控模式难免会陷入失灵困境。一方面，它固化地引导行政人员遵循应急管理的属地思维，忽略了跨域风险防控中的权责配置与相互协作。当出现跨域风险和危机时，地方政府往往会在辖区利益最大化的理性驱动下“自扫门前雪”，片面强调本地的风险处置责任，忽视甚至搁置“共同责任区”风险问题，继而可能导致跨域风险问题的防控呈现出分散化、碎片化状态，并最终延误风险的最佳处置时机。另一方面，地方政府的资源与能力难以适应跨域风险防控要求。地方政府基本形成了与属地管理模式相匹配的信息收集、报送程序以及资源调集、分配机制。当风险出现后，地方政府能够按照固定规范的流程迅速启动应急响应。而城市跨域风险超越了单一行政区域范围，发展演变趋势不确定，表现形态多变复杂，更重要的是，它突破了地方政府的风险治理权限，涉及到不同应急力量的博弈与权衡，仅仅依靠某一城市的属地管理模式显然很难产生成效。

　　基于此，进行城市跨域风险协同治理极为必要。跨域，顾名思义是跨越地域界限。由于地域具有明确的区划边界性，因此，跨域实际指向的是跨越不同的行政区划；而行政区划又有各自的法定治理权限，这意味着跨域更深层的是对单一治理权的突破。当风险的潜在致灾因子、可能承灾对象超出了城市的行政区划，城市跨域风险就产生了。城市跨域风险协同治理有三种典型情境：一是潜在致灾因子超出特定行政区划范围，涉及两个甚至多个城市辖区，如河流水位暴涨会波及流经的中下游城市。二是潜在致灾因子发生在某一城市范围内，而可能的承灾对象分布广泛，如火山喷发后的火山灰顺着风向飘至其他城市。三是潜在致灾因子与可能承灾对象分别分布在不同城市区划。这三种情况都超出了单个城市的治理权限和治理能力，需要采取跨域风险协同治理模式。

　　城市跨域风险协同治理是城市跨域风险治理的重要类别和突破。协同治理是对原有治理范式的超越和发展，它强调在尽可能满足利益相关者需求的同时，通过协力合作、共同行动的方式，最大可能地维护整体利益。城市跨域风险协同治理过程中，不同城市主体代表着多元利益，它们需要通过博弈协商、相互协作的方式，化解区域风险问题，实现区域利益和地方利益的最大化。因此，跨域风险的协同治理，是在一般性跨域风险治理的基础上，对治理的目标、过程和结果的更高层次追求。根据现有跨域治理模式分类，结合跨域风险治理的现实情况，可将城市跨域风险协同治理划分出两种类型：上级政府主导型和平行区域自发型。第一种类型强调中央政府或者共同上级政府的权威性，他们是跨域风险协同治理的发起方，掌握着治理过程中的决策权和指挥权。第二种类型则出于城市主体的自发性，不同城市特别是毗邻城市，出于各自城市发展的需要和维护城市安全的利益需求而主动形成的治理模式。结合实践看，平行区域自发型的城市跨域风险协同治理运用更为广泛。总之，突破地理空间整合应急力量进行合作应对的城市跨域风险协同治理模式，将越来越成为一种重要趋势。

　　城市跨域风险协同治理的模式建构

　　城市跨域风险协同治理，核心是通过总体顶层设计建构一套行之有效的模式和体制。它囊括了中央政府对城市跨域风险协同治理的总体布局，同时还包括各城市共同体基于区域实践构建的治理体制、组织体系以及与之相适应的职能配置和责任关系。它深刻体现了在服从中央政府关于跨域风险协同治理最高指挥、协调权的前提下，充分发挥跨域城市共同体的自主权与核心地位的模式特征。

　　第一，完善中央政府对城市跨域风险协同治理的顶层设计和总体布局。我国城市种类繁多，行政结构复杂。从城市规模看，包括超大城市、特大城市、大城市、中等城市、小城市。从行政结构看，分为直辖市、副省级城市、省会城市、地级市、县级市等。这些城市在人口规模、经济实力、政治话语权上存在较大差异，完全依靠自组织、自我协调的方式，可能会陷入组织无序、协调不通、效率低下的困境。因此，中央从顶层设计层面进行总体布局、设定规范就极为重要。近年来，中央政府高度重视、统筹布局并积极推进城市跨域协同治理，打造了一套完善的规划体系、规则体系和组织体系，为城市群地方政府进行跨域风险协同治理提供了有效的指导、协调和监督示范。中央政府在强调区域合作、融合互动、资源共通、服务共享等区域发展的同时，还兼顾了风险、灾害、危机的安全统筹。

　　第二，探索“综合协调、协同共治、属地管理”的城市跨域风险协同治理体制。党的十九届四中全会指出“构建统一指挥、专常兼备、反应灵敏、上下联动的应急管理体制”，厘清了应急管理实践中的政府上下级关系，为风险治理工作提供了强有力的组织制度保障。然而，现有的治理体制高度聚焦特定行政区划内的突发事件，一定程度上忽略了跨域风险这一重要类别。基于此，有必要建立面向跨域风险的新体制，以进一步规范城市跨域风险协同治理实践中的权责关系，特别是不同城市领导权、指挥权的配置问题。具体地，应形成“综合协调、协同共治、属地管理”的跨域风险协同治理体制。综合协调是指不同城市政府应急领导力量组成的综合性协调机构享有跨域风险治理的协调权，履行综合协调、信息汇总、应急值守的职能，发挥跨域风险治理的运转枢纽作用。协同共治是指风险的发生地城市、波及地城市政府协同参与、共同治理跨域风险问题，以谈判、商议的方式达成跨域风险治理的最优行动方案。属地管理是在坚持综合性协调机构协调作用和跨域治理共同体协同作用的基础上，延续片区责任制，辖区政府仍然是本区划范围内风险事件的第一责任人和最先响应人，负责向综合性协调机构和其他城市传输信息，在配合跨域治理共同体风险处置方针的同时，负责应急处置本区域的风险事项。

　　第三，设立“综合性协调机构”为主导的跨域风险协同治理组织体系。健全的组织体系是确保跨域风险协同治理工作成效的关键力量。进行城市跨域风险协同治理组织体系的设计，既要兼顾中央政府在工作协调方面的权威性优势，还要尊重跨域城市政府的自主权与核心地位，并妥善适应多元风险类别的外部情境。基于此，城市跨域风险协同治理的组织体系要特别注重三项内容：一是构建中央层面的跨域风险协调办公室，规划全国范围内的城市跨域风险治理工作，必要时还可以由相关部门参与到城市跨域的机构体系中。二是设立综合性协调组织机构。毗邻城市要主动打破行政区划界限，由各地政府、应急管理相关部门主要领导人组建综合性协调组织机构，将其作为跨域风险协同治理的常设机构，发挥指导、协调的核心作用，保障跨域风险治理工作的常态化、规范化运行。例如，2012年，为了应对突发性跨界水污染事故，长三角二省一市成立应急联合委员会、预警应急指挥办公室和应急专项工作组等机构，制定跨域治污的行动方案并负责领导和组织落实工作。三是设立具体风险导向的跨域协同治理办公室。在综合性协调机构内，下设自然灾害、公共卫生、事故灾难、社会安全等主要类别的城市跨域风险协同治理办公室，专门对接各自领域的日常风险管理和应急处置工作，确保跨域风险协同治理的专业性。

　　第四，理顺各类机构的城市跨域风险协同治理职能配置。城市跨域风险治理过程中，综合协调工作普遍面临着双重困境。一是风险的不确定性催生了城市政府差别化的风险回应态度。风险是一种未然状态，具有发生的不确定性。部分存在侥幸心理的城市管理者，往往会选择采取消极、懈怠的态度回应跨域风险事项和合作治理活动，这可能会影响到城市跨域风险协同治理活动的实际进展和整体成效。二是城市主体分布在不同行政区，它们各自有着独立的治理权和多样的利益需求，跨域合作需要统筹的因素多，协调的难度也更大。为了克服双重困境，有必要进一步明晰协同组织机构的职能，加强机构的权威性和规范性。对此，特别需要赋予综合性协调机构以必要的实质性权力，发挥该机构的权威作用，确立该机构的跨域风险常态化预防与治理职责：负责起草跨域风险治理协议，编制风险防控预案，研究制定风险协作的重要政策、年度计划与合作事项，并负责组织召开跨域协调会议。同时，还要明确该机构在风险识别、风险分析与评估、风险处置、风险监控、风险沟通各环节的统一领导、指挥、协调、调度职能。当出现重特大跨域风险，超出综合性协调机构的应对处置范围和能力时，中央相关机构应及时干预，对风险应对处置工作进行统一领导。

　　第五，构建“发生地为主、波及地为辅”的城市跨域风险协同治理责任框架。清晰的权力责任体系是城市跨域风险协同治理工作有序开展的重要保障。城市跨域协同风险的突出问题之一就是地方政府的权责关系不明晰，“谁主责、谁担责”的问题有时处于模糊状态。责任关系不明晰，即便促成了跨域协同治理活动，城市主体由于缺乏刚性约束，很容易在风险的治理参与、评估沟通、响应处置过程中产生侥幸、懈怠心理。对于愿意承担责任积极作为的主体而言，也难免会存在定位不明、把握不清的困惑。因此，城市跨域风险协同治理应当妥善配置权责关系，构建“发生地为主、波及地为辅”的责任框架。一要建立城市跨域风险治理责任体系，建立跨域风险治理的责任清单，明晰各主体单位在跨域合作、联合治理中的权责范围，实现重大跨域风险治理发生地牵头、波及地配合的组织模式。例如，《京津冀协同应对事故灾难工作纲要》将建立协同应急责任体系列为五大工作内容之一，指出要“以区域应急联动综合预案为指导，研究确定京津冀协同应对事故工作中各级政府、相关部门和单位、应急队伍的工作责任，联合编制区域协同应急责任清单”。二是明确城市主体在跨域风险治理中的责任追究制度。以制定法律或者签订协议的方式，明确责任追究的主体、程序和方式。对信息上报不及时、不完全，甚至刻意隐瞒和虚报风险信息，以及不积极参与跨域联合协作，响应不及时，应急处置不配合等行为，给予严厉的责任追究和处罚。

　　城市跨域风险协同治理的运行机制

　　城市跨域风险协同治理的总体顶层设计和模式体制，需要通过完善的运行机制设计来保障落实。当出现跨域风险时，没有任何一个城市能够独善其身，也没有哪个城市能够担负起单独应对风险的防控责任和能力。为此，需要通过各种制度或非制度性约束，鼓励各城市采取联合行动，维持稳定、持续和正式的合作关系。这需要重点处理好城市间三个方面的协同：一是目标协同。不同城市在经济发展水平、主政官员治理理念上存在着差异，这决定了他们参与跨域风险协同治理的目标偏好可能会不太一致，对跨域风险治理的效果也存在着差别化的需求。相比于风险波及地城市，风险发生地往往有着更高的目标追求。而目标的不同又会带来城市主体行为选择的差异。因此，需要对主体目标进行调和，尽可能达成趋同状态，兼顾各城市切实需求的同时，保证目标的可操作性。二是过程协同。风险治理一头连接着常态，一头连接着应急态。因此，风险治理除了要衔接好跨区域的风险排查、联合指挥、跨域救援等全流程防控和资源供应、信息沟通等全方位保障的协同外，还要妥善处理常态与风险态转换时的协同关系。一方面，保证日常演练、风险监测、预防与风险识别、处置的高效衔接，确保跨域风险出现后，城市政府能第一时间从常态管理转换到风险处置状态，迅速调配资源进行响应。另一方面，还需关注风险应对与应急处置的协同，做好跨域应急管理的准备，以在重特大跨域风险转变为跨域灾害后有充分的动员力、处置力。三是资源协同。主要是推进不同城市间应急物资、应急装备的协同，保证跨域资源供应体系完整、规范，在应急状态下能够迅速调配。

　　具体来说，城市跨域风险协同治理的运行机制设计，包括沟通机制、评估机制、利益机制、信任机制等方面。

　　首先，建立有效的沟通机制。在风险识别、风险分析与评估、风险处理以及风险监控这四个步骤中，自始至终都需要进行风险沟通。只有将风险的相关情况，包括风险来源、范围、特性、演变趋势等，传达给相关的人，包括导致风险的人、面临风险的人、需要进行风险治理的人，风险治理活动才有价值可言。跨域风险波及面广，涉及因素复杂，加上不同城市间的地理区位阻隔，信息的分布极为分散，各城市主体往往只掌握着本行政辖区范围内的风险状况，对整体风险情况缺乏判断，这会很大程度上限制风险治理后续活动的开展。因此，建立高效的沟通机制，是保障城市跨域风险治理良性运行的重要前提。一方面，依托统一信息平台，实现预警信息的常态化沟通。借助大数据、物联网、云计算、5G等新兴技术手段，搭建现代化跨域风险信息平台，实时监测、追踪并实时共享自然灾害、安全生产、事故灾难、社会安全等传统风险和新兴技术风险领域的风险源信息，保证跨域治理共同体能够在完整的信息链条下对风险的整体态势和演变情况进行科学的研判、评估，并提醒可能涉及的毗邻城市做好风险的预警预防和应对处置工作。另一方面，完善风险治理过程中的基础信息共享，实现城市基础信息的互联互通。风险是突发事件的萌芽状态，风险治理是应急管理活动的起点。各城市的跨域风险治理活动，除了做好一般性的风险处置活动，还要共同应对重特大跨域风险转变为跨域突发事件甚至跨域危机后的管理活动。因此，城市之间还需要就应急基础信息达成充分沟通，如及时共享城市人口总量与空间分布、应急物资储备、应急队伍规模、应急技术配备等情况，以便充分识别各城市的资源储备情况，明晰区域整体的应急储备短板，以更好地进行跨域风险的协同治理。

　　其次，构建合理的评估机制。跨域风险协同治理是一项长期工程，具有时间周期上的持续性和持久性，它不是一朝一夕就能完成的，也不是某一次风险治理活动就能终结的。因此，及时地发现问题，针对性地改进问题，为之后的城市跨域风险治理积累有益经验就极为重要。这需要依托合理的评估机制，对治理过程中的表现、治理绩效等进行评估。在评估主体上，需要综合性协调机构、跨域城市共同体、第三方机构共同参与，形成以学术机构、专业团队等第三方机构阶段性评估为主，综合性协调机构与跨域城市共同体定期自评为辅的评估体系。在评估内容上，一是针对风险治理活动的评估。还原风险治理情境，就应急预案、治理协议的有效程度，风险预防、评估、处置工作的及时程度，资源准备、信息交流的充分程度，风险应对效率情况等主要内容进行评估和改正，更新和完善风险治理模式与工作机制，推动城市风险治理工作更加有序地开展。二是面向各参与治理主体的评估。确定综合性协调机构在跨域风险治理中领导、指挥、协调行为的有效性情况，掌握不同城市在风险协同治理各个环节的相互配合情况，了解各城市主体参与跨域风险防控中的成本投入、工作成效和责任履行情况。在评估结果的运用上，要实施明确的奖惩结合方式，加大有效经验推广力度。

　　再次，建立清晰的利益机制。对于参与跨域风险治理的不同城市政府主体而言，首先需要调和、平衡的就是政府利益关系。建立利益机制是保障参与主体充分享受利益，实现利益分配最优化的重要渠道，它包括利益共享和利益补偿两个部分。其中，利益共享是跨域风险治理的前提，有效的利益共享有利于维系跨域风险治理活动的稳定性、持续性。但现实中，不同城市政府参与跨域风险治理的收益是不均等的。当跨域风险被成功化解，它很大程度上避免了风险转变为突发事件后的社会经济损失，这一潜在收益对风险发生城市体现的尤为直接和明显。而对于风险波及地城市而言，不仅获利十分受限，还不可避免地存在成本投入损耗问题，这种成本与收益之间的失衡很可能会破坏城市政府参与的积极性。利益补偿机制旨在化解这一问题，它通过调和参与者之间的利益冲突，保障主体间的利益关系，帮助跨域协同治理维系长远发展。然而，具体到城市跨域风险治理领域，相关的利益协调机制和资源补偿机制尚未成型。未来可尝试结合区域间共补和第三方激励两种渠道，丰富专项基金、资金补偿、专业人才培训、应急平台搭建等补偿方式，鼓励跨域城市共同体就跨域风险协同治理中的利益关系达成共识，努力实现区域共同利益的最大化。

　　最后，构建稳定的信任机制。在跨域风险协同治理过程中，各城市主体拥有平等且独立的治理权，缺乏来自治理体系和整体性治理理念对跨域协同的制度硬约束。基于此，寻求一种有效的、促进合作的软约束显得极为重要。信任机制是软约束体系的重要内容。信任的本质是承诺被兑现的程度，高水平的信任不仅能促进合作的生成，同时还能保持合作的灵活性与持续性，并降低合作成本。维系主体间的相互信任是达成城市区域内外安全合作的必要基础。为此，一方面，要积极打造跨域城市共同体自身的政府信誉，结成地区性信任联盟。大多数的城市政府在跨域风险协同治理中都面临着信息不对称和契约不完备难题，这增加了它们资源投入的风险以及跨域合作的监督成本。通过鼓励政府主动守信，并在跨域合作中结成信任联盟的方式，塑造城市良好的信誉形象，营造跨域间的互信文化。另一方面，要构建与信任机制相匹配的监督机制，纵向上强化综合性协调机构对跨域城市共同体守信情况的监督，横向上实现各城市主体相互之间的联合监督。在此基础上，增加城市政府违约失信的成本和代价，以帮助增强城市跨域风险治理共同体的守信意识和信念，促进信任关系的建立和维系。