韩国已开始涉足人工智能监管，推出了号称世界上最全面的法律，这可能成为其他国家的典范，但新立法已经遇到阻力。这些法律将迫使公司给人工智能生成的内容贴上标签，当地科技初创公司和民间社会团体都批评这些法律做得太过分，认为做得还不够。

人工智能基本法案于上周四生效，

全球对人造媒体日益增长的不安和自动化决策，如政府努力跟上步伐随着快速发展的技术。该法案将迫使提供人工智能服务的公司：

为卡通或艺术品等明显的人工输出添加隐形数字水印。

• 对于真实的深度赝品，需要可见的标签。

• “高影响力人工智能”，包括用于医学诊断、雇用和贷款批准，将要求运营商进行风险评估并记录决策的制定方式。如果由人类做出最终决定，则系统可能不属于该类别。

• 极其强大的人工智能模型将需要安全报告，但门槛设置得太高，以至于政府官员承认目前全球范围内没有任何模型能够满足这一要求。

违反规定的公司将面临高达 3000 万韩元（15,000 英镑）的罚款，但政府承诺在实施处罚之前有至少一年的宽限期。

该立法被宣传为“世界上第一个”由国家全面执行的立法，对于韩国成为与美国和中国并列的世界三大人工智能强国之一的雄心至关重要。政府官员坚称该法律 80-90% 的重点是促进工业发展而不是限制工业发展。

韩国科学技术院 (KAIST) 计算机科学教授 Alice Oh 表示，虽然该法律并不完美，但其目的是在不扼杀创新的情况下不断发展。然而一项调查初创公司联盟去年 12 月发现，98% 的人工智能初创公司没有做好合规准备。该组织联席负责人林正旭 (Lim Jung-wook) 表示，人们普遍感到沮丧。“有一点怨恨，”他说。– 为什么我们必须成为第一个这样做的人？ –

公司必须自行确定他们的系统是否符合高影响力人工智能的资格，批评者称这一过程冗长且产生不确定性。

他们还警告竞争不平衡：所有韩国公司无论规模大小都面临监管，而只有达到特定门槛的外国公司（例如谷歌和 OpenAI）才必须遵守。

监管的推动是在一个独特的国内背景下展开的，这让民间社会团体担心立法力度还不够。

韩国账户根据美国身份保护公司 Security Hero 2023 年的一份报告，全球 53% 的深度伪造色情内容受害者都受到了影响。2024年8月，一项调查大量 Telegram 聊天室网络被暴露创建和传播人工智能生成的妇女和女孩的性图像，预示丑闻这件事后来在埃隆·马斯克 (Elon Musk) 的 Grok 聊天机器人周围爆发。

然而，该法律的起源早于这场危机，第一个与人工智能相关的法案于 2020 年 7 月提交给议会。该法案一再陷入停滞，部分原因是一些条款被指控将行业利益置于公民保护之上。

民间社会团体认为，新立法为受人工智能系统伤害的人提供了有限的保护。

包括人权律师团体 Minbyun 在内的四个组织在该法律实施的第二天发表了一份联合声明，认为该法律几乎没有包含保护公民免受人工智能风险的条款。

这些组织指出，虽然法律规定了对“用户”的保护，但这些用户是使用人工智能系统的医院、金融公司和公共机构，而不是受人工智能影响的人。他们认为，法律没有规定禁止的人工智能系统，并且对“人类参与”的豁免造成了重大漏洞。

该国人权委员会已批评该执行令缺乏对高影响力人工智能的明确定义，并指出那些最有可能遭受权利侵犯的人仍然处于监管盲点。

科学和信息通信部在一份声明中表示，预计该法律将“消除法律上的不确定性”并建立“健康安全的国内人工智能生态系统”，并补充说将继续通过修订指南来澄清规则。

专家表示，韩国故意选择了与其他司法管辖区不同的道路。

汉阳大学专门研究人工智能治理的法学教授 Melissa Hyesun Yoon 表示，与欧盟严格的基于风险的监管模式、美国和英国主要针对特定​​行业、市场驱动的方法或中国将国家主导的产业政策与详细的特定服务监管相结合不同，韩国选择了更灵活、基于原则的框架。

这种方法的核心是尹所描述的“基于信任的促销和监管”。

“韩国的框架将成为全球人工智能治理讨论的有用参考点，”她说。