生成的AI使经营在线业务成为噩梦

去年的某个时候，伊恩·拉蒙特（Ian Lamont）的收件箱开始堆积查询工作清单。一家HOFTO指南公司的波士顿所有者没有开设任何新职位，但是当他登录时LinkedIn，他找到了一个与他的业务名称和徽标相关的“数据输入文员”。

拉蒙特很快意识到自己的品牌被骗了，当他遇到声称是他公司的“经理”的人的身材时，他证实了这一点。该帐户的连接少于十几个AI生成脸。接下来的几天，他警告访问者到他公司的网站上有关骗局的信息，并说服LinkedIn删除了伪造的个人资料和上市。到那时，有20多人直接与他联系了这项工作，他怀疑更多的人申请了。

生成的AI潜力促进业务令人震惊。根据麦肯锡（McKinsey）的2023年估计，在未来几年中，预计每年将为全球经济增添更多价值，而不是英国的整个GDP。同时，Genai几乎可以立即生产大规模观察内容的能力产生了同样惊人的损害企业的潜力。

自Chatgpt于2022年首次亮相以来，在线业务不得不迅速扩展深层经济，越来越难以辨别任何文字，电话或电子邮件是真实的还是骗局。根据骗局报告平台Chainabuse，仅在过去的一年中，支持Genai的骗局就达到了三倍。在去年秋天对小型企业主的全国保险调查中，有四分之一报告在过去一年中面临至少一个AI骗局。微软说它现在每小时都关闭了近160万个基于机器人的注册尝试。在乔治敦大学（Georgetown University）研究在线对抗性虐待的Renâ©e Diresta告诉我，她将Genai Boom称为“骗局的工业革命”，因为它可以自动欺诈，降低进入障碍，降低成本障碍，降低成本和增加目标。

跌倒AI-Warmeniped Scam的后果可能是毁灭性的。去年，一位财务店员工程公司阿鲁普（Arup）加入了他认为是他的同事的视频电话。事实证明，每个与会者都是真正的同事的深层娱乐活动，包括该组织的首席财务官。欺诈者要求店员批准超过2500万美元的海外转让，并假设该请求是通过CFO提出的，则他绿色地点了交易。

业务内部人士与多个行业的专业人员进行了交谈，包括招聘，图形设计，出版和卫生保健他们争先恐后地保持自己和客户的安全，以防止AI不断发展的威胁。许多人觉得他们正在玩无尽的whack-a摩尔游戏，而痣只是繁殖并变得更加狡猾。

去年，欺诈者使用AI来建立在线日本刀商店Oishya的法语副本，并在Instagram上向公司的10,000多名追随者发送了自动骗局。这家假公司告诉他们赢得了免费刀的真实公司的客户，他们所要做的就是支付少量运费来要求这件事，近100人为此而倒下。卡米拉·汉基维奇（Kamila Hankiewicz）经营了奥西亚（Oishya）九年，他才在几名受害者联系她需要等待包裹到达需要多长时间之后才得知骗局。

这是汉基维奇的粗鲁觉醒。从那以后，她加大了公司的网络安全现在开展活动来教客户如何发现假沟通。尽管她的许多客户对被欺骗，Hankiewicz帮助他们向他们的金融机构提交报告以退款。她说：“这一事件实际上加强了我们与许多赞赏我们积极主动方法的客户的关系。”

网络安全公司Netcraft战略副总裁Rob Duncan对对Oishya等小型企业的个性化网络钓鱼攻击的激增并不感到惊讶。Genai工具现在允许新手孤独的狼，几乎没有技术专业知识来克隆品牌的形象，并写出完美无瑕的，令人信服的骗局他说，在几分钟之内。借助便宜的工具，“攻击者可以更轻松地欺骗员工，傻瓜客户或通过多个渠道模仿合作伙伴。”

尽管当您要求侵犯版权的主流AI工具（例如ChatGpt）具有预防措施，但现在有很多免费或廉价的在线服务，允许用户使用简单的文本提示来复制企业的网站。使用称为Llama Press的工具，我能够生成Hankiewicz商店的近乎脱颖而出的克隆，并通过几个说明单词进行个性化。（Llama Press的创始人Kody Kendall说，克隆像Oshiya这样的商店并没有触发安全区，因为可能会有合理的理由这样做，例如当企业主试图将其网站迁移到新的托管平台时。人类Openai的内置安全检查以清除不良信仰的要求。）

文字只是战争的一个前面，正在与AI的恶意使用作斗争。使用最新工具，带一个独奏对手 - 没有技术专业知识的一个小时来创建令人信服的虚假工作候选人参加视频采访。

总部位于纽约的科技招聘人员塔蒂亚娜·贝克尔（Tatiana Becker）告诉我，Deepfake求职者已成为“流行病”。在过去的几年中，她不得不经常拒绝使用Deepfake Avatars的骗局作弊面试。在这一点上，她能够辨别出他们的一些伪造迹象，包括小故障视频质量以及候选人在通话中拒绝切换其出现的任何元素，例如摘下耳机。现在，在每次采访开始时，她都要求候选人的身份证，并提出更开放的问题，例如他们在业余时间喜欢做的事情，以使他们成为人类。具有讽刺意味的是，她在采访时使自己更具机器人性机器人。

公关主管妮可·耶兰德（Nicole Yelland）说，她在今年早些时候发现自己处于Deepfakery的另一端。冒充一名初创招聘人员的骗子通过电子邮件接近她，说他正在寻找通讯头，并提供了包括慷慨的薪水和福利的要约。据称的人甚至与她分享了详尽的幻灯片甲板，上面装饰着AI生成的视觉效果，概述了角色的责任和好处。她诱使她安排采访。

但是，在视频会议上，“招聘经理”拒绝讲话，而是要求Yelland键入她对书面问题的回答微软团队聊天部分。一旦面试官开始要求她分享一系列私人文件，包括驾驶执照，她的警钟确实消失了。

Yelland现在使用Speko等工具进行背景调查，然后再与任何陌生人在线互动。她说：“这很烦人，需要更多的时间，但是与垃圾邮件发送者互动更加烦人和耗时；所以这就是我们所处的地方。”

尽管视频会议平台喜欢团队Zoom在检测AI生成的帐户方面变得越来越好，一些专家说，检测本身有可能产生恶性循环。这些平台收集的数据最终用于培训更精致的Genai模型，这将有助于他们更好地逃脱伪造的探测器，并为“武器竞赛捍卫者无法获胜”，贾森·凯西（Jasson Casey）说，Beyter Identity的首席执行官是一家专门从事身份盗用的网络安全公司。凯西（Casey）和他的公司认为，重点应该放在对一个人的身份进行身份验证。超越身份出售的工具可以插入缩放中，从而通过其设备的生物识别技术和位置数据来验证参与者会议。如果检测到差异，工具将参与者的视频供稿标记为“未验证”。苏黎世Eth Zurich的计算机科学教授TramârFlorian同意，认证身份可能会变得更加必要，以确保您始终与合法的同事交谈。

不仅仅是伪造的候选人企业家现在必须与之抗衡，这总是自己的假版本。2024年下半年，Scammers在Facebook上进行了广告，以录制录像带，其中包括乔纳森·肖（Jonathan Shaw），乔纳森·肖（Jonathan Shaw）是墨尔本贝克心脏和糖尿病研究所副主任。尽管其中的人看上去和听起来完全像肖博士，但声音被深深地发出，并编辑说二甲双胍对2型糖尿病的一线治疗是“危险的”，而患者应该改用未经证实的饮食补充剂。假广告伴随着对肖的假新闻采访。

他的几位诊所的患者认为该视频是真实的，他伸出援手，询问如何掌握补充剂。肖告诉我：“我的一位长期患者问我，当我在视频上说那是一种糟糕的药物时，我如何继续向他开二甲双胍。”最终，他能够让Facebook删除视频。

然后是同样烦人和烦人的问题AI斜坡–低质量，批量生产的图像和文本淹没了互联网，使普通人越来越难以告诉什么是真实或假的。在她的研究中，迪斯塔（Diresta）发现了社交平台的推荐引擎促进了恶意斜率的实例 - 骗子会在其中放置诸如不存在的租赁物业，设备等物品的图像，以及更多用户经常为此而下落并提供付款细节。

在Pinterest上，AI生成的“ Inspo”帖子困扰着人们的情绪委员会，以至于基于费城的蛋糕生活店现在经常收到客户的订单，要求他们重新创建AI生成的蛋糕。在与商业内部人士共享的一个中，蛋糕类似于充满苔藓的雨林，并具有功能性的瀑布。值得庆幸的是，对于联合创始人Nima Etemadi，大多数客户“接受我们爆破AI泡沫后真正的蛋糕可能会有什么可能”。

同样，AI生成的书籍已经蜂拥而至，现在正在损害出版商的销售。

Pauline Frommer，总裁旅行指南出版商Former Media说，AI生成的指南已在虚假评论的帮助下设法达到了列表的顶峰。AI出版商购买了一些Prime会员资格，将指南的电子书价格设置为零，然后通过免费下载其副本来保留看似“验证的评论”。她说，这些实践将使新的合法品牌指南几乎不可能立即进入该业务。”伊恩·拉蒙特（Ian Lamont）说，他去年收到了一份AI生成的指南作为礼物：台湾仅一本文字指南，没有图片或地图。

虽然FTC现在认为发行假AI生成的产品评论是非法的，但官方政策尚未遵守AI生成的内容本身。Pinterest和Google等平台已经开始在AI生成的帖子上加水印和标记，但是由于尚未无错误，有些人担心这些措施可能弊大于利。迪斯塔（Diresta）担心无处不在的AI标签的潜在意想不到的后果是人们遇到“标签疲劳”的人们，他们盲目地认为，未标记的内容总是“真实的”。她说：“如果一个复杂的操纵者（例如国家演员的情报服务）设法使虚假信息经过标签，这是一个潜在的危险假设。”

现在，小型企业主应该保持警惕。他们应该始终验证自己正在与一个实际的人打交道，并且他们寄出的钱实际上是在他们打算去的地方。

Cake Life Shop的Etemadi认识到，尽管Genai可以帮助他的业务提高效率，但骗局艺术家最终将使用相同的工具来提高效率。他说：“在线开展业务每年都会变得更加必要和高风险。”“ AI只是其中的一部分。”

Shubham Agarwal是来自印度艾哈迈达巴德（Ahmedab​​ad）的自由技术记者，他的作品出现在《连线》，《边缘，快速公司》等中。