中宏国研信息技术研究院官网
  •   [会员中心]  [退出]
  • 注册
  • 会员服务
首页 > 金融科技 > 新兴技术突破带来的安全挑战将不断凸显 详情

新兴技术突破带来的安全挑战将不断凸显

2024-05-14 10:22:07
当今世界正越来越强烈地感受到人类正处在新一轮科技革命和产业变革的前夜,一批极具潜力的颠覆性技术正在不断加速发展。美国科技公司OpenAI发布了生成式人工智能应用ChatGPT,更是标志着智能化科技革命的帷幕已被拉开。2023年,各产业各组织均在快速部署生成式人工智能工具,这又促成了后者更快加速的发展。人工智能领域的突破不仅能带动新兴技术的整体发展,显著提高整体社会生产率,而且极大振奋了高科技产业界的信心,有利于增强国际社会对于世界经济复苏的信心。然而,科技的进步又必然带来新的安全问题。生成式人工智能的出现使得利用“深度伪造”(Deepfakes)实施欺骗成为可能,其既能被犯罪分子用来实施经济诈骗,也能被政治力量甚至国家用来制造和传播“虚假信息”,或者用于战争中武器装备的自动化。生产、服务和公共管理领域的数字基础设施智能化可以为全社会显著赋能,但这同时也意味着一旦遭受攻击和破坏,也将对社会的正常运转产生更严重的冲击。鉴于人工智能的高速迭代,关于人工智能与人类关系的道德伦理问题也越发引人关注。
 
人工智能技术的突破不仅会带来社会运行和管理上的问题,还可能使得当前的大国博弈更具破坏性,促使各国更多以零和博弈心态看待技术发展,导致全球技术和经济联系加速阵营化。为了化解和管控人工智能发展所带来的各类风险,各层面的合作也在国际社会中逐渐铺开。首届人工智能安全峰会于2023年11月在英国召开,美、中、印等各方的政府、产业和科技界代表到会,共同商讨人工智能的发展、安全和治理问题。在国际组织和国家层面,关于人工智能的军控规则和伦理立法也得到了讨论和确立。在旧金山元首会晤中,中美两国也承诺要在人工智能领域展开合作。尽管如此,由于以人工智能为代表的新兴技术具有在根本上颠覆现有力量格局的巨大潜力,美国很难抑制在该领域追求绝对领先和相对收益的冲动,也不大可能出于控制风险的目的对人工智能的广泛应用施加有力限制。新兴技术突破带来的安全挑战还将不断凸显。
 
作者:中国社会科学院国际形势报告课题组
特别提示:凡注明“来源”或“转自”的内容均自于互联网,属第三方汇集推荐平台,版权归原作者及原出处所有。分享的内容仅供读者学习参考,不代表中国经济形势报告网的观点和立场。中国经济形势报告网不承担任何法律责任。如有侵权请联系QQ:3187884295进行反馈。

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;
2.本站的原创文章,请转载时务必注明文章作者和"来源",不尊重原创的行为本站或将追究责任;