评论：AI-Fulell的儿童剥削危机是全球性的 - 我们的回应必须是我们的回应

新加坡：儿童性剥削是社会上最普遍的犯罪之一。

尽管政府正在实施阻止这种虐待的法规，但问题是跨国滥用。最近区域跨境操作这导致了400多次逮捕，其中包括新加坡的21名男子 - 揭露了这一令人不安的现实。

这不仅是一个执法问题；这是一个集体挑战，要对我们的道德，法律和技术防御措施更新，以防止犯罪增长的速度比大多数系统所能跟上的速度更快。

全球需求和当地危害

我们知道这个问题会因人工智能等技术而加剧。但是，很难理解该生态系统的规模多么令人震惊。

4月初，一项国际业务击败了Dark Web平台Kidflix，该平台托管了91,000多个虐待儿童的视频，全球拥有180万用户。欧洲刑警组织说，已有79人被捕，并确定了约1,400名嫌疑人。

网络的纯粹大小显示了问题的根源。它强调了检测和消除儿童性虐待材料（CSAM），破坏这些分配网络并起诉肇事者的任务的巨大性。

即使该材料是在其他地方生产的，它的范围也延伸到家里的材料。

在新加坡，被捕的21名男子因涉嫌参与制作，拥有和分发儿童性虐待材料，性侵犯，与未成年人的性交以及拥有淫秽电影的性交而受到调查。

技术改变了如何产生和共享滥用方式。在大流行期间进行的一项国际刑警组织研究发现，在点对点网络上，此类内容的分布增加了，社交媒体和Darknet论坛。

但是，儿童性虐待背后的驾驶员仍然顽固地熟悉。在东南亚的许多地方，轻松货币和犯罪集团的诱惑继续推动了CSAM的生产。数字平台的范围只是放大了伤害。

肇事者有效地是近亲或已知的熟人，他们为经济利益而剥削受害者。还需要数字素养和公共教育，以使儿童及其家人对在线性剥削的风险及其长期不利影响。

受害者需要快速撤下和人为支持

同样紧急的是支持和保护受害者的任务。

对于幸存者，包括那些被用来创造非自愿性，性化内容的人，危害不是抽象的。它是非常个人的，持久的，而且经常孤立。

新加坡新的在线安全委员会将于2026年建立，标志着向前迈出的重要一步。这将使受害者有更清晰的举报虐待并寻求补救的途径。

同样至关重要的是新加坡在线危害受害者的第一个支持中心SCWO的工作@SCWO的工作，该中心提供了情感支持，法律建议和删除内容的帮助。

尽管如此，必须做更多的事情。幸存者基于图像的性虐待（IBSA）经常生活在担心他们的操纵形象会在没有警告的情况下重新出现。只要这些内容循环，儿童的风险也会承受，幸存者也很容易受到重新研究的影响。

由AI提供支持的一种新形式的虐待儿童

AI还使肇事者能够创建合成CSAM这看起来像栩栩如生，但完全是假的，令人不安的访问。

作为一个社会，我们绝不能将合成虐待视为不那么严重。

2023年，一名韩国的一名男子因生产和分发未成年人的性爱形象而被定罪和入狱。这是一个具有里程碑意义的案例，它肯定了许多人本能地理解的内容：不仅在于形象，还在于儿童的性化和抹黑尊严。

这些材料可能是机器生成的，但它们是通过人类意图循环和消耗的。专家警告说，这样的内容可能会增强异常利益，降低心理抑制并引发现实世界的虐待。认为合成CSAM可以用作安全的出口的信念不仅没有得到证实，而且危险。

随着AI工具变得更加易于访问并且更难检测到它们时，实际滥用和合成滥用之间的界线变得越来越模糊。这加剧了对儿童和幸存者的影响。

主流色情平台上的算法可能会升级暴露于日益暴力或极端内容。算法漂移可以巧妙地将用户推向包括CSAM在内的有害材料，尤其是在没有强大的保障措施的情况下。在这种情况下，人工智能不仅反映了需求 - 它有可能塑造它。

利用AI的好处

AI还可以在反击中发挥至关重要的作用。新兴工具可以检测出已知的和新颖的儿童性虐待材料形式，标志着模仿真实个人的旗帜合成内容，并支持平台更有效地消除有害内容。

高级图像检测算法负责任地训练时，可以识别人类主持人会忽略的大量内容的模式。微软为技术公司和执法机构免费提供了Photodna工具，以检测和删除数百万个儿童剥削图像。

现在，某些系统不仅超越了已知的CSAM，还可以发现以前看不见或合成生成的图像，这使得它们在涉及深击或操纵相似性的情况下尤为重要。令人鼓舞的是，诸如技术联盟等行业联盟已将技术公司汇集在一起​​，以部署现有工具，开发新的创新并加速知识共享，以更有效地消除CSAM。

财务公司还利用AI破坏促进这些犯罪的财务网络。银行，金融科技公司和支付处理器跟踪非典型交易模式，例如与高风险地区相关的小型但频繁的国际付款或交易，并浮出水面以进行进一步调查。

接下来必须急切地一起发生什么

显然，没有一个国家可以孤立面对这场危机。这种虐待的跨国性质只能通过协调的全球响应来解决：更新的法律框架，共同的执法策略以及对托管和传播有害内容的平台的更强大的问责制。

技术公司必须改善内容审核和检测系统，包括东南亚语言和文化。

受害者应该得到更快，更透明的清除过程，特别是对于涉及儿童或操纵相似性的物质。在地面上支持受害者的​​非政府组织也被延伸。必须对更多的资源进行编组，以使他们能够更有效地继续这项基本工作。

我们归功于那些纯真的图像被偷走的孩子，单击单击以清晰，信念和集体解决方案做出回应。

Chew Han EI博士是新加坡国立大学政策研究所的高级研究员，也是SG的董事会成员。

Lim Sun教授是新加坡管理大学的副校长，合作伙伴关系和参与，其综合研究学院的李基恩传播和技术教授。

A/P Carol很快是新加坡国立大学通信和新媒体（CNM）的副教授，也是媒体扫盲委员会副主席。