学习时报：由于生成式人工智能技术的飞速发展，传统治理模式已经跟不上现实内容生态治理需求，我们需要做怎样的调整？

 

薛澜：自2022年底ChatGPT 发布以来，生成式人工智能技术日新月异，几秒钟就可以生成用户所需的视频、音频或文本，人工智能技术的超预期迭代速度和不可预测的发展特征，对治理体系的同步演进提出了巨大挑战。

 

一方面，以生成式人工智能为代表的人工智能产业目前属于新兴产业，其以创新为主要驱动力，满足并激发了海量的社会需求，可以说是一种在市场需求主导下通过技术创新和商业模式创新而形成的产业。高度不确定性是新兴产业的突出特征，关键技术的迭代，市场需求、竞争环境、商业模式、价值理念等方面的变化往往难以捉摸甚至瞬息万变，这就产生了技术发展与技术治理步调不一致的问题。同时，市场信心在新兴产业发展中起着关键性作用。一旦有关方面释放强监管信号，或发生有关产业发展的负外部事件，新兴产业的创新路径和方向将会受到直接影响，甚至遭受毁灭性打击。

 

另一方面，以生成式人工智能为代表的人工智能产业发展带来的伦理风险和负外部性问题也需要引起关注，并采取科学合理的措施降低社会风险，确保其健康可持续发展。在新兴产业发展过程中，政府监管能够对相关产业的技术和商业模式起到一定程度的正向引导作用，帮助企业有效规避可能产生的系列社会风险，营造负责任的企业形象，为产业高质量发展创造良好的社会支持氛围。

 

在人工智能时代，我们要坚持敏捷治理理念，做到监管不是关门禁入，而是实现开门有序进入。敏捷治理的目标框架主要包含两个维度，一是维护产业创新，二是规制产业发展带来的负面影响。具体地说，就是适应人工智能技术发展的速度要求，配置产业发展所需的制度资源，维护技术创新导向，防控产业风险，促进公众利益最大化，从而实现治理目标的有机平衡。

 

学习时报：这么说来，敏捷治理是具有一整套原则体系的治理模式。具体该如何实施敏捷治理？

 

薛澜：一是治理上的快速反应，发挥信号警示作用。传统治理模式的突出特征是治理对象的不确定性低，发展路径和方向比较稳定，政府有充足的时间充实论证、制定相关监管判断的依据，形成完整的制度化的规则体系。而以生成式人工智能为代表的人工智能技术瞬息万变，如果延续这种治理模式，可能尚未完全弄清监管判断标准，治理对象就已经发生了变化。以往我们因为理念调整不及时在其他领域是有过深刻教训的，必须引以为戒。所以，适应人工智能时代的产业发展需要，治理需要突出敏捷性，迅速对已经出现或有苗头性的风险进行规制，给各有关主体一个信号，并随着实践变化不断迭代，及时完善优化措施。

 

二是工具选择上突出柔性原则，引导为主，惩罚为辅。在传统治理中，政府监管是在发现问题、确定问题之后通过正常行政或法律程序制定实施规则的，政策工具以惩处为主，表现为“过程慢、力度大”。而对以生成式人工智能为代表的人工智能产业，敏捷治理在工具的选择上就要反过来，即“下手快、力度轻”。“快”可以减少企业技术路径和商业模式的调整损失；“轻”主要突出方向性和试探性，企业可以马上得知监管态度，知晓对产业治理的方向。需要注意的一点是，这种工具选择的逻辑是引导而不是惩罚，但如果企业对政府的有关引导视而不见、置之不理造成不良后果，政府也有必要采取严格的监管措施。

 

三是治理关系上实现重塑，形成共同体机制。在传统治理模式中，政府监管具有鲜明的问题导向，监管者与被监管者之间呈现典型的“猫和老鼠”关系。政府主要通过抓企业的负面行为实现监管，尽可能制定一套全面完整的监管规则，而企业由于法规意识不强，为了扩大自己的盈利空间，会通过寻找规则漏洞来逃避监管，二者往往位于对立面。但在以生成式人工智能为代表的人工智能时代，企业很多时候不知道再往前会出现什么样的创新，政府也不知道会产生什么样的风险，监管者与被监管者对未来发展趋势处于“共同无知”的状态，二者之间的对立关系演化为互相依赖关系。这就需要双方在共同利益的基础上开展深入交流与充分沟通，探索找到一个合适的空间，使得企业的创新探索不会突破政府规制的底线，政府的规则不会完全地束缚企业创新的手脚。这样的合作关系有助于政府更好了解技术和市场发展走向，正确评估相关风险并执行合理的规制措施，也使企业清晰洞察产业发展可能带来的风险和政府治理目标，明晰产业发展边界，共同塑造和引领产业的技术路径和商业模式选择，实现政府和企业的合作共赢，满足良好的互动预期。

 

学习时报：在内容生成领域，实施敏捷治理的方向和原则已经很清晰了，但在微观层面，需要解决好哪些难题？

 

薛澜：敏捷治理要真正落地并不容易。在内容生成领域，我们面临的其中一个难题就是如何确定内容生成主体行为的责任以及采取什么样的惩罚措施。

 

理论上，实施内容造假的主体肯定存在违法甚至犯罪行为。但假如一个人生成了虚假错误内容，甚至严重一点说涉及敏感话题，但并没有进行广泛传播，也没有产生负面的社会影响，这种情况下如何判定行为的恶劣程度？假如造假内容不敏感，但造成了大范围传播，又该如何判定责任？如果用户仅是出于个人娱乐等目的生成了虚假内容，但被平台误推送，造成了不良社会影响，责任又该如何划分？这些都对政策工具反应的速度和灵活性造成了难题。