中宏国研信息技术研究院官网
  •   [会员中心]  [退出]
  • 注册
  • 会员服务
首页 > 金融科技 > 探索生成式人工智能的治理新境 详情

探索生成式人工智能的治理新境

学习时报 / 2024-06-26 15:48:58

传统人工智能治理模式之“难”

 
生成式人工智能蕴含的通用性、动态性、涌现性等技术特性,势必会对传统治理模式带来相应挑战。
 
一是硬性监管难。一方面,传统硬性监管主要以风险事前规避为技术进路,通过制定法律法规为监管部门提供执法依据。虽然硬性监管为人工智能的设计、开发、部署和使用明确划定了“发展红线”与“合规底线”,但却无法平衡安全与效率。硬性监管的机械性和片面性,在一定程度上限制了生成式人工智能的创新和应用,这使得关注新兴技术发展与变革为初衷的科技初创企业在产品开发和业务运营之初往往较难承担繁重的监管合规义务,以事前治理为导向的硬性监管措施或一定程度上阻碍人工智能初创公司的技术创新能力和市场竞争力。另一方面,硬性监管政策难以应对生成式人工智能快速迭代的技术创新,依照摩尔定律判断,科技更新换代速度平均为1.5年,而GPT1到GPT4.5共用时5年,已完成六次迭代,但生成式人工智能迭代更快而且仍在加速,硬性法律法规出台速度与技术发展很难实现同步。
 
二是分散治理难。面向多元治理主体,分散治理的特点强调独立自主、各司其职;面向单一治理主体,分散治理主张针对独立对象和场景专门化地制定措施。对前者而言,传统人工智能模式聚焦实现特定功能,有着数据需求小、通用能力差、相应治理未完全突破部门和地区边界等特点,运用分散治理有利于权责溯源。对后者而言,分散治理面向生成式人工智能,一方面难以回应模型治理需求,另一方面无法处理整体性风险和发展失衡。由于生成式人工智能汇聚算法、数据和信息,同时其预训练、指令微调、对齐和专门化的模型炼制路线环环相扣,场景拓展能力也持续增强,因此分散治理将无法避免地踏入“注意力失焦”的困境。一年以来,生成式人工智能已跨越式地将全球利益相关方拉入同一个治理框架,在应对算法歧视、人权保护、发展失衡、制度非中性等整体性风险和问题上,早已超越了分散治理的单边行动。
 
特别提示:凡注明“来源”或“转自”的内容均自于互联网,属第三方汇集推荐平台,版权归原作者及原出处所有。分享的内容仅供读者学习参考,不代表中国经济形势报告网的观点和立场。中国经济形势报告网不承担任何法律责任。如有侵权请联系QQ:3187884295进行反馈。

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;
2.本站的原创文章,请转载时务必注明文章作者和"来源",不尊重原创的行为本站或将追究责任;