据路透社报道，韩国立法者已通过立法，禁止拥有和观看露骨的 Deepfake 图像和视频。韩国国民议会周四通过了新法律。现在只需总统尹锡烈签字批准即可颁布。
根据新法案的条款，任何购买、保存或观看此类材料的人都可能面临长达三年的处罚监禁或最高相当于 22,600 美元的罚款。
在韩国，为了传播内容而制作露骨的 Deepfake 材料已经是非法的，违法者将面临最高五年的监禁。根据《性暴力预防和受害者保护法》，处以监禁或约 38,000 美元的罚款
如果新立法签署成为法律，制作深度伪造色情内容的最高刑期将增加至七年，无论据路透社报道，创作者是否打算分发这些图像。
近年来，韩国公众对交换露骨的人工智能处理图像和深度伪造图像感到愤怒，上个月当局发起了一项调查韩国记者 Ko Narin 为该国《韩民族日报》于 8 月发表的一项调查发现，几名韩国女毕业生的面孔首尔国立大学出现在与他们一起研究的男性制作和分发的露骨性深度假货材料中。
“我对这个过程的系统性和组织性感到震惊，”Ko 告诉哥伦比亚广播公司新闻合作伙伴网络 BBC本月早些时候的消息。“我发现的最可怕的事情是，在一所学校有一个由未成年学生组成的小组[分享内容]，该小组有 2,000 多名成员。”
此类图像在韩国年轻人中的分布似乎是普遍存在的问题。韩国国家联合通讯社本周援引警方数据报道，仅今年就有 387 人因与深度伪造色情内容相关的犯罪被捕，其中 80% 是青少年。
调查Telegram 是在该科技公司首席执行官 Pavel Durov 被法国当局指控犯有多项罪行后不久宣布的，其中包括指控他的平台被用来传播儿童性虐待材料。
据哥伦比亚广播公司新闻报道，今年年初，流行偶像泰勒·斯威夫特 (Taylor Swift) 的 Deepfake 露骨图片在埃隆·马斯克 (Elon Musk) 的社交媒体平台 X 上迅速传播，吸引了数百万次浏览，并促使 X（前身为 Twitter）在一月份暂时屏蔽了对该艺人的搜索。
5 月，两名美国参议员共同起草了两党立法草案，旨在打击未经同意的网上私密深度伪造图像。该立法提出的处罚包括罚款和最高两年的监禁，民事处罚最高可达 15 万美元。