英语轻松读发新版了,欢迎下载、更新

AI监视和亚太地区的治理真空

2025-07-07 23:54:13 英文原文

作者:Monique Taylor

欧盟的人工智能(AI)法案引入一个基于风险的基于风险的框架,用于调节跨部门的AI系统,该集团仅是第一个对生物识别监视施加可执行限制的主要政治演员,包括几乎完全禁止公共场所实时面部识别。自2025年2月以来,关键的禁令就已经实施,并在下个月就将生效通用AI系统。尽管欧洲继续实施,但中国正在悄悄地出口亚太地区数字控制的基础设施。该地区正在迅速扩展强大的监视技术,但仍缺乏规范其使用所需的治理框架。

中国是世界领先的出口商AI驱动的监视技术。它的公司 - 华为,Hikvision,Zte,Cloudwalk等智能城市项目整个东南亚,中亚,非洲和中东。这些系统将面部识别,生物特征分析和实时视频分析集成到公共安全和效率的旗帜下。但是,他们的建筑还可以规模进行政治监视,并且具有以前无法获得许多政府的能力。

AI驱动的监视技术,最著名的是面部识别,是双使用技术的教科书示例。

与现在受到法律限制的欧盟不同,亚太地区缺乏统治生物识别监视在公共场所中的全面规则。尽管日本,韩国和澳大利亚等民主国家正在开始探索AI伦理和风险分类,但这些仍然是早期的努力。同时,在东南亚的大部分地区,监视基础设施正在迅速扩展 - 尤其是通过与中国科技公司的合作伙伴关系在机构检查薄弱的环境中,公众咨询的最低限度,透明度通常很低。

由AI驱动的监视技术,最著名的是面部识别,是双重用途技术的教科书示例:作为反恐和预防犯罪的工具促进,但很容易重新使用以巩固政治控制。他们的核心功能 - 实时确定个人在公共场所的实时识别,这使他们不仅在增强安全方面都具有独特的有效性,而且还可以监视抗议活动,恐吓异议者和压制反对派。这种逻辑在中国的国内部署中生动地证明了新疆的面部识别,该州建立了世界上最广泛的监视制度之一,以监视和压制Uyghur少数民族。现在,该模型的元素正在通过中国数字丝绸之路的全球出口。

Facial recognition

一旦运行,监视系统重新设计机构实践并标准化恒定监控(Getty Images)

《 EUS AI法案》值得赞扬,以防止滥用AI监视的保护。尽管该法案构成了基于风险的框架,但该法案嵌入了基于权利的保障措施 - 尤其是在生物识别监视技术治疗诸如远程面部识别之类的生物识别监视技术时。其他用途被归类为高风险,但根据严格的监管要求允许。这些规则不仅适用于欧洲政府和公司,还适用于将AI系统放置在欧盟市场上的任何公司。因此,该法案有可能围绕生物识别监测塑造国际规范,尤其是在与欧盟的监管一致性是理想或经济上必要的司法管辖区。

但是,它的影响仍然超出欧盟管辖范围,尤其是在各州而不是多边出口控制制度(例如Wassenaar安排,旨在调节双重用途技术的贸易。结果是一个零散的全球景观,在该景观中,压制性政权可以在不提出问题的情况下购买监视工具,而面对可预见的滥用,供应商声称中立性。

中国的监视出口不仅是商业产品;它们是规范扩散的强大工具。

这种治理差距并非偶然。它反映了更深的不对称性:欧洲撰写AI规则,中国正在建立AI监视系统。欧盟正在通过法规投资规范领导;中国技术创新,标准制定和地缘政治一致性。华为参与塞尔维亚,肯尼亚,巴基斯坦和老挝的建筑监视网络,通常与智能城市基础设施结合使用。这些是长期的嵌入式系统,难以更换,易于重新使用。它们将政府锁定到中国硬件,软件和维修生态系统中。他们更加阴险地产生了政治惯性。一旦运行,监视系统会重塑机构实践并标准化不断的监视。

亚太地区特别暴露。该地区的许多政治体系都是半自治主义或混合政权,在这些政治制度中,监视工具可以与很少的公众监督一起使用。在其他情况下,国家的行政能力有限,中国公司提供了难以抗拒的捆绑融资和交钥匙解决方案。即使在更加成熟的民主国家中,目前也没有关于如何规范高风险AI系统(例如面部识别)的共同愿景。

这不是采用欧盟模型批发的呼吁。亚太地区的政治,经济和法律背景是不同的。但是,迫切需要就AI监视治理进行区域对话和协调。东盟,亚太经合组织和Quad成员国应在制定透明度,问责制和人权保护的原则中发挥领导作用,以部署生物识别和AI驱动的监视工具。包括日本,韩国和澳大利亚在内的地区民主国家具有领导这一领域努力的能力和信誉。

另一种选择是,规范将在其他地方设置,而不是在监管或公共监督中,而是在技术系统,软件默认和采购合同中。中国的监视出口不仅是商业产品;它们是规范扩散的强大工具。而且,如果亚太地区没有开始定义可接受的AI监视外观,那么它可能很快就会发现这些术语已经被确定。

关于《AI监视和亚太地区的治理真空》的评论


暂无评论

发表评论

摘要

《欧盟人工智能法》介绍了针对AI系统的基于风险的监管框架,包括禁止在公共空间中实时面部识别以及对生物识别监视的可执行限制。相比之下,中国正在亚太地区出口先进的监视技术,将其基础设施嵌入了较弱的治理框架的各个国家。这种出口缺乏全面的监管,引起了对专制政权滥用的担忧。欧盟的方法嵌入了基于权利的保障措施,但面临影响非欧盟司法管辖区的挑战。迫切需要区域对话和协调,以建立管理亚太地区AI监视的原则,以防止中国通过技术出口设定规范。