Microsoft托管了该初创公司创始人多年的明确视频。这是她把他们拆除的方式

Breeze Liu的在线噩梦是从电话开始的。2020年4月，当时24岁的大学同学朗格（Rang Liu）告诉她一个明确的视频Pornhub在标题的情况下 - 韩国青少年指控它是在17岁时未经许可并在未经她同意的情况下上传时就被拍摄的。

随着时间的流逝，视频散发出来的和乘以：保存下来，张贴在其他色情网站上，并声称用于创建亲密的DeepFake视频那遍布网络。对刘的影响是深远的。她说，老实说，我不得不为自杀念头而挣扎，我几乎自杀了。”

从网络上擦拭大约400张非自愿图像和视频将需要多年的洲际努力。在这段时间里，刘从担任风险资本家工作，创立自己的公司，以帮助与数字滥用作斗争。但是，在处理自己的内容时，企业家面临着沉默的墙壁，并从互联网上最大的守门人之一的持续延误中延迟了：微软。

随着图像和视频出版在PornHub等网站上，它们经常在云基础架构上托管。一系列与Wired审查的LIU案件有关的电子邮件，以及与法国受害者援助组织和其他与她合作的倡导者的访谈，表明Microsoft尽管重复辩护，但并未删除大约150张明确的LIU图像在其Azure云服务上。当其他公司拍摄了数百张图像时，刘和一位同事说，微软仅在两家在内容审核会议上与科技巨头安全团队的高级成员面对之后采取了行动。

延长了刘的情感损失的引人入胜的过程，为受害者和亲密图像滥用经验的幸存者提供了详细的说明，试图从网络上删除内容。刘的苦难还强调了某些受害者在图像中的年龄有争议或难以辨别的空白，这是一个被忽视的问题，可能会变得更加紧迫裸体 应用 传播在高中。

刘说：``普通百姓几乎不可能驾驶复杂的系统并进行损害控制。”她分享了一部分她 斗争 前，此故事中的许多细节以及Microsoft长期无法删除亲密图像的分辨率尚未得到报道。刘说：``我们面临一个极其破坏的系统，这是一个全球问题。”刘说。这是一个巨大的问题。

微软的首席数字安全官员考特尼·格雷格尔（Courtney Gregoire）表示，该公司已经从刘的案件中的误解中学到了东西，不希望任何人经历她所做的痛苦经历。Gregoire说，这是我们努力在12小时内采取行动的优先领域。对于刘而言，艰苦的过程花了八个月。

被警报后刘说，到2020年4月在网上的第一个非自愿性视频中，她花了整整一天的时间才能平静下来。当年5月14日，她与当时住在加利福尼亚的伯克利警察局联系。

国家认为它轻罪犯罪在知道某人的同意的同时，分享真实或欺骗某人的亲密图像，这会使他们造成困扰。侦探获得了某些网站的搜查令，但无法根据互联网站点保留的有限信息以及所涉及的账户的海外性质确定负责上传内容的人。”部门发言人拜伦·怀特（Byron White）。刘说，她怀疑谁负责上传，但侦探不确定如何证明这一点。

LIU联系了网络民权倡议，这是一项总部位于美国的非营利组织帮助解决滥用内容。尽管该组织找到了另一个具有违规内容的网页，但企业家说，这不能帮助她提出撤离请求，因为她在图像中可能出现在18岁以下。网络民权倡议拒绝对刘的评论，但确认它在法律上被禁止审查未成年人的性图像。

至此，自刘首次了解图像和视频以来已经有几个月了，她需要休息一下。原始视频没有迅速删除，刘怀疑它已经散布了很大。她感到无能为力。她决定放任案件，理由是大流行，在风险投资中疯狂的工作时间表以及对她的健康造成的损失。尴尬和恐惧，她讲的故事是她的猫。

刘说：``我总是有这种直觉的感觉，但是我在精神上还不够稳定，无法处理任何残酷的真理。”``您不想看到自己。人们查找并删除在数字平台上共享的非自愿图像。

Liu准备重新努力以使其被删除的明确内容进行重新审议，花了大约三年的时间。到2023年底，她在Alecto AI联合创始人Andrea Powell的帮助下，是长期贩运和虐待受害者的倡导者。那十月，他们在研究人员的帮助受害者热线求爱由英国政府资助。研究人员的手册和自动化图像搜索发现了832个链接，在亲密状态下似乎显示了刘。刘说，我甚至无法看一下文件，因为那太多了。”当一个朋友为她下载了URL的电子表格时，她拨打了治疗师。她甚至没有点击内容；刘说，她只是看着URL的名字，开始哭泣。

鲍威尔说，这些链接包含了以亚洲为中心的暴力语言。但是，英国资助的热线索热线索是可以帮助受害者在国外进行撤离，而刘却与电子表格陷入困境。她考虑使用Stopncii是一种流行的工具，使用匹配算法来查找虐待图像，但认为这是不合适的。她担心它可能无法发现潜在的深击。

然后，刘与联邦调查局（FBI）联系，后者保留了一些链接作为证据，但她认为并未证明在逮捕原始上传者方面进一步进展。该机构拒绝了《连线》的置评请求。

有一次，刘转向国家失踪和被剥削儿童中心，或NCMEC，非营利组织由美国国会建立，以与儿童性虐待图像合作，以查看是否可以提供帮助。但是，非营利组织无法参与。即使刘的内容看起来很年轻，她当时也无法证明自己年满18岁，这是NCMEC追求下车的先决条件。

NCMEC的执行董事Lauren Coffren表示，它依靠合作伙伴执法机构来评估受害者的年龄。科夫伦说，年龄段的案件很少见，但是对于一个应该有资格获得该组织帮助的幸存者来说，这很臭。这说明幸存者能够导航这一困难。

刘感到似乎无法为她追求砍伐的团体之间被困。她厌倦了被审判。她说，如果我17岁或两天在18岁时会有什么区别？”她说。对我的损害是一样的。这是令人沮丧的

鲍威尔在巴黎和平论坛上恳求法国受害者援助组织时点触点，这有助于人们报告非法内容。鲍威尔说：``我有点威胁着我只是微风飞往法国，并说出她的法国人。”鲍威尔说。最终，在2023年11月13日，Do Point De Contact同意加强其他组织没有的地方。电子邮件显示，在接下来的几天里，热线分析了URL，到12月中旬，已经开始向托管提供商发送合法的要求。刘最终克服了进步。liu在工作开始时在一封电子邮件中写道：``我在打字时都在发抖。

Point de Contact的运营经理Etienne Dirani说，它在Liu提供的链接中发现了395张非自愿图像。其余的437个已经被删除或无法访问。其他人没有清楚地识别刘，也没有直接描绘她。迪拉尼说，在多个网站上发表了几个独特的图像，当时的“联系”调查没有发现AI可能产生的任何内容。

一些公司和托管提供商迅速行动。到2024年1月的第一周，155个URL已死。微软根据与LIU点联系的电子邮件，要求提供其他识别信息，例如她的全名和社交媒体手柄，因此该公司可以验证与她相关的内容。刘提供了这些细节，包括她的护照的副本，但什么也没有发生。

一个多月后，已删除了几十个其他内容。在保留在线的202个中，有142座由微软的Azure服务托管。点联系调查员通过电子邮件发送了刘并指控“微软的滥用团队没有回答我们的通知电子邮件”，并表示该团队正在公司尝试其一些个人联系。大约在那个时候，一个沮丧的刘在接受采访时提到了微软的缓慢回应街。一位未透露姓名的微软发言人告诉新闻媒体，该公司正在调查，并指出任何可能违反其可接受使用政策的行为受到认真对待。再一次，没有采取任何行动。

迪拉尼说：``我们主要的问题是微软缺乏回应。”他声称微软的虐待团队认为它需要更多信息，但他说该公司从未传达出该信息是什么。即使是更高的联系也不会直接答复其他细节可能会触发撤离。Dirani说，Point de Contact试图推动Microsoft更多，包括打开一个新案例。他说，我们正在提醒所有仍在网上的URL。”但是不幸的是，即使我们发送的新报告也没有回应。

随着几个月的时间刘无法做的事情，但想知道每天有多少人遇到她的违规图像。她对自己的职业生涯感到恐惧，并且普遍沮丧。鲍威尔说，她当时与微软的数字安全公共政策总监利兹·托马斯（Liz Thomas）保持联系，但她被告知很难验证显示刘的内容。

但是，在去年7月下旬，鲍威尔和刘制定了一项计划，与托马斯在旧金山酒店举办了Trustcon，这是一个在线信任和安全问题的人们的会议。他们没有注册活动，但鲍威尔与一群同事一起在酒店的公共酒吧找到了托马斯。同事离开后，鲍威尔（Powell）走近托马斯（Thomas）并敦促采取行动，指着刘的案情。在同一个房间里看到刘产生了影响。

在活动开始的几天内，Microsoft的一名员工通过电子邮件向Powell发送了电子邮件，该案已升级，带有Liu的图像的142个URL开始消失。鲍威尔说：``我理想地不想追逐信任和安全的人在Trustcon的大厅上下来处理一个案件。”鲍威尔说。但这是必须做的。

去年八月开始，DE Point Contact告诉Wired，仍保留了四个不同的Microsoft服务器上的两张图像。非政府组织在当时的一封电子邮件中说，我们深深地遗憾的是，这个问题花费了受害者，微软和我们之间的近10个月的沟通。”

微软数字安全负责人格雷戈尔（Gregoire）表示，刘的局势促使她的团队试图改善报告流程和与受害者援助小组的关系。Gregoire表示，该公司最初标记了该公司没有控制的链接。她拒绝详细说明情况。迪拉尼（Dirani）说，这种解释从未传达给他，尚不清楚为什么链接不可行。

只有在鲍威尔（Powell）对托马斯（Thomas）的案件中陷入困境之后，微软才获得了它可以采取的URL。诚实地说，我们非常感谢TrustCon的自发联系，” Gregoire说。但这不应该再次需要：她说，联系点是一种更直接的保持联系方式，她说。

其他受害者援助小组表示，他们与科技巨头的关系仍然具有挑战性。去年，有线调查透露，Google的高管拒绝了员工和外部拥护者提出的许多想法，这些想法旨在主动抵抗搜索结果中有问题的图像。一些幸存者发现，删除内容的最快方法是提交版权索赔，一种在线安全行业工作的策略说，不足。

据英国最大的家庭虐待组织避难所促进了避难所，科技公司艾玛·皮克林（Emma Pickering）表示，科技公司之间缺乏一致性的政策和流程有助于确保撤离的延误。她说：``他们都只是回应了，而且反应通常是非常差的。”（谷歌引入了新的政策2024年7月，加速拆卸。）

Pickering索赔尤其是微软一直很困难。她说，我最近被告知，如果我想与他们互动，我们需要提供证据表明我们使用他们的平台并提倡它们，并补充说，避难所正在尝试与尽可能多的技术平台互动尽可能。

Microsoft的Gregoire说，她将研究这些问题，并开放对话。该公司希望迫使对撤军的需求部分吓到肇事者。去年12月，微软起诉一群10个未知人据称他对Azure进行了保护，并使用了AI工具为了产生令人反感的图像，包括一些格雷格尔（Gregoire）描述为性危害。她说：“我们不希望我们的服务滥用造成伤害。”

对于刘而言，挑战尚未结束。根据Wired评论的链接，描绘她的裸露的视频和图像至少在一个自称的免费色情网站上可用。她还不得不倾注自己的积蓄Alecto ai因为投资者的支持一直很乏味。据称，一些投资者告诉她不要在球场上使用自己的经验。刘说，当她介绍一对正在考虑投资的男女夫人时，他们对围绕使用AI来检测在线图像滥用的业务建立业务的想法大为笑。刘说，即使回答说她几乎在受害后几乎自杀了。

自噩梦开始以来，2024年12月，超过四年半，刘发现了一丝希望。她提倡在美国国会提倡的一项建议，要求网站在48小时内删除不需要的明确图像，几乎最终在当时的总统乔·拜登（Joe Biden）的桌子上。它最终被搁置了，但是真正的进步从未如此接近。刘和一个由20多名立法者组成的两党组都没有放弃；一月份他们重新引入了提案，这威胁到每次违规最高50,000美元的潜在罚款。尽管异议从权利组担心过度审查，法案通过了参议院上周。甚至微软已经落后了。

如果您或您知道需要帮助的人，请致电1-800-273-8255 免费提供24小时的支持民族自杀预防生命线。您也可以向741-741发短信给危机文字行。在美国以外，参观国际预防自杀协会 为了世界各地的危机中心。