您的位置:首页>聚焦>科技 >内容

全球首个AI监管法案出炉,欧盟抢占先机?

2023-12-12 17:38:40来源:
导读原标题:全球首个AI监管法案出炉,欧盟抢占先机?近日,欧洲议会、欧盟成员国和欧盟委员会三方就《人工智能法案》达成协议,这被认为是全球...

原标题:全球首个AI监管法案出炉,欧盟抢占先机?

近日,欧洲议会、欧盟成员国和欧盟委员会三方就《人工智能法案》达成协议,这被认为是全球首个全面监管人工智能(AI)的法案。在人工智能呈爆发式发展,而国际社会对人工智能带来的风险担忧不断加剧的当下,这一法案的出炉受到全球瞩目。

基于风险分级的监管

“历史性的!随着《人工智能法案》协议在今天达成,欧洲成为首个为AI使用设定明确规则的大陆。”当地时间12月8日晚,欧盟委员会内部市场专员蒂埃里·布雷顿在社交媒体上发文称,《人工智能法案》不仅是一本规则手册,也将成为欧盟初创企业和研究人员引领全球人工智能竞赛的助推器。

在经过长达36个小时的马拉松式谈判后,欧洲议会、欧盟成员国和欧盟委员会于12月8日晚就《人工智能法案》达成协议。

欧盟委员会冯德莱恩对这项法案表示欢迎。她在社交媒体上表示,“《人工智能法案》是全球首创,为值得信赖的人工智能发展设立了独特的法律框架,这也是为了公众和企业的安全和基本权利。”

这项法案包括在欧盟内使用AI的安全保障条款,以及执法机构在使用AI方面的限制等内容。用户有权对AI的使用提出投诉,AI相关企业违反相关条款则面临罚款等惩罚。

据《卫报》报道,这项法案的核心是基于风险的分级系统,也就是将人工智能技术应用根据风险类别分类,从“不可接受”到高、中、低风险人工智能,不同风险的人工智能应用对应不同级别的监管。

最高级别的监管适用于那些对人类健康、安全、人权造成严重威胁的AI系统,包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。较低级别的监管也对人工智能服务系统规定了主要义务,包括披露相关数据的基本规则等。

在引发争议的生物识别监控技术方面,布雷顿表示,欧洲议会禁止使用实时监控和包括情感识别在内的生物识别技术,但有三个例外,包括面对意外恐怖威胁、需要搜寻受害者以及控诉严重犯罪这三种情况。

据法新社报道,这项法案仍需要欧洲议会和各成员国正式批准,但外界认为,在8日晚达成了协议后,法案通过只是时间问题。但是,外界认为,欧盟《人工智能法案》最早也只能在2025年生效,这为人工智能的发展留足了时间。

欧盟将监督法案的实施,并通过新成立的欧盟人工智能办公室(EU AI office)对那些违反规则的实体进行惩罚,罚金为企业营业额的7%或3500万欧元,以较高者为准。

监管法案仍存在争议

近些年来,随着人工智能技术的不断发展,欧盟一直在全力推进人工智能监管。2018年4月,欧盟发布了《欧盟人工智能战略》,此后成立人工智能高级小组。2019年4月,欧盟发布了《可信赖人工智能伦理准则》。2020年2月,欧盟出台《人工智能》。

2021年4月,欧盟委员会首次提出《人工智能法案》提案的谈判授权草案。此后,欧洲议会和欧洲理事会就草案进行了多轮修订和讨论。去年12月,欧洲理事会通过了关于《人工智能法案》的共同立场文件。

今年6月,欧洲议会高票通过了《人工智能法案》谈判授权草案,推动了该法案进入立法程序的最后阶段,即举行欧洲议会、欧盟成员国和欧盟委员会的三方谈判,以确定法案的最终条款。

上周三,三方为此展开了马拉松式的闭门谈判,第一轮谈判持续了22个小时,但未能达成协议。第二轮谈判于12月8日上午开始,最终各方于当天深夜达成协议。

中国现代国际关系研究院科技与网络安全研究所执行所长、研究员李艳在接受新京报记者采访时表示,欧洲国家在规则领域一直走在世界前列,尤其是在新兴技术方面,欧洲很注重伦理、规则、监管,因此欧盟率先达成了《人工智能法案》符合其一贯的传统和理念。

“今年人工智能领域突然出现了爆发式的发展,在这股热潮之下,全球关于人工智能监管的讨论也越来越热,主要的大国和国际组织也逐渐聚焦这一议题。”李艳表示,“欧洲一直觉得自己在规则领域应该发挥引领作用,因此在内外驱动之下,最终于近期达成了这一协议。”

但是,从欧盟“马拉松式”长跑谈判就可以看到,其内部对于这一法案仍存在争议。李艳指出,对人工智能这一新技术的监管,主要是为了实现安全与发展的平衡,但不同的利益群体对于这种平衡的理解各有不同,在不同的阶段大家的认知也会有所差异,因此争议不可避免。

“在欧盟内部,一些创新企业、技术社群天然的偏好就是,希望让新技术释放足够的生命力和创新力,不要通过监管阻碍其进一步发展。但对于一些关注人权保护的传统机构,他们可能会觉得监管力度不够,应该进行更严格的监管。”李艳表示。

法新社报道指出,欧盟在对《人工智能法案》进行谈判的过程中,遇到的一个最主要障碍就是如何监管ChatGPT等通用人工智能系统。一些人担心,过多的监管会损害欧洲人工智能相关企业的发展,让欧洲的人工智能发展落后于其他地区。

德国工业联合会(BDI)表示,欧洲目前在人工智能关键技术方面面临落后的危险。“随着对人工智能基础模型及应用的全面监管,《人工智能法案》危及制造商和用户双方的竞争力和创新能力。”BDI相关负责人艾里斯·普洛格表示。

一些人权组织则认为法案内容不够成熟,无法保护民众免受AI系统带来的伤害。数字权利团体Access Now高级政策分析师丹尼尔·洛伊弗表示,欧盟《人工智能法案》的最终文本存在“巨大缺陷”。

李艳则认为,当前,欧盟只能尽量平衡各方观点,做出一个符合现阶段能够达到的最佳平衡点的选择,后续其可能会在法案的具体实施过程中不断进行调整,以更好地适应人工智能现实发展的需要。

全球人工智能监管热潮

2022年底开始,生成式AI系统如OpenAI的ChatGPT的快速发展引发世界警惕,很多人担心AI的过快发展将对就业、隐私、著作权保护甚至人类生命都造成威胁。此后,许多人工智能权威专家、AI领域非营利组织都曾发表公开信,呼吁国际社会警惕人工智能带来的风险。

OpenAI ChatGPT。图/IC Photo

国际AI领域非营利组织“人工智能安全中心”今年5月发布的一封公开信称人工智能可能给人类带来灭绝风险,呼吁将其和对抗大流行病、核等风险一同作为全球优先事项。

这封公开信获得超过350人签署,包括三家全球顶尖AI公司的CEO——“ChatGPT之父”、OpenAI创始人兼CEO萨姆·阿尔特曼,谷歌DeepMind公司CEO戴米斯·哈萨比斯,以及美国Anthropic公司的CEO达里奥·阿莫代伊。

“人工智能作为一项前沿技术,其不确定性、模糊性非常大。而在面对一个不确定性比较强的新兴领域时,我们需要保持一种更加审慎的态度,以规避风险。”李艳解释称,这也是为何在面对全球性议题时需要前瞻性治理,因为一旦安全隐患出现了,相应的治理成本、付出的代价都会非常高。

她进一步表示,今年人工智能发展迎来了新一轮高峰和热潮,由此大家开始从发展和安全两个维度思考这项新技术,而监管是其中非常重要的一个部分。

在全球范围内,随着人工智能监管变得愈加紧迫,包括中国、美国、英国以及许多国际组织都在加速推进人工智能治理规则建设。

今年7月,中国国家等七部门联合发布《生成式人工智能服务管理暂行办法》,自8月15日起施行。10月,美国拜登签署了一项关于人工智能安全标准的行政命令——《关于安全、可靠和可信的人工智能发展和使用》。11月,英国举办了全球首届人工智能安全峰会。英国首相苏纳克曾表示,希望英国成为人工智能监管领域的“地理中心”。

10月26日,联合国秘书长古特雷斯宣布成立人工智能高级别咨询机构(High-level Advisory Body on Artificial Intelligence),对这项技术带来的风险和机遇进行探讨,并为国际社会加强人工智能治理提供支持。

李艳表示,“人工智能监管已经成为一项全球性的议题,主要大国都有责任推进人工智能治理。与此同时,人工智能监管也需要各方尽可能地合作、形成共识。”以中欧为例,双方在人工智能领域就有着很大的合作空间,一方面可以进行人工智能监管的经验分享和交流,另一方面也可以共同推进全球层面的共同治理。

欧盟方面认为,此次出炉的《人工智能法案》将具有全球引领作用。欧盟法律和数字监管专家、哥伦比亚法学院教授阿努·布拉德福德(Anu Bradford)表示,欧盟的这一法案“可以为许多考虑对AI进行监管的政府树立榜样”,其他国家“可能不会所有条款,但可能会效仿其中的许多方面”。

但李艳认为,人工智能监管领域可能也不可避免会出现全球竞争。“大家都希望自己在新一轮的技术变革和创新中取得发展优势,人工智能监管也是如此。各国在推进本国的治理时,也希望在国际上能有更大的话语权和规则影响力。”李艳说,“也因此,在全球人工智能监管方面,竞争与合作都不可避免。但最终,还是希望能就全球监管达成共识,共同推进人工智能安全、有利于全人类的发展。”

新京报记者 谢莲

编辑 张磊 校对 刘越

免责声明:本文由用户上传,如有侵权请联系删除!

猜你喜欢

最新文章