为了打击AI欺诈，应在电子商务中更广泛地使用AI
由于人工智能的发展，预计电子商务欺诈将在未来五年内激增，商家被建议用……人工智能来应对。
英国汉普郡的咨询公司Juniper Research发布了一份报告指出一份报告周一预测电商欺诈的价值将从2024年的443亿美元增加到2029年的1070亿美元——增幅达141%。
该公司表示，人工智能工具使欺诈者能够领先于安全措施，并且使得更为复杂、规模更大且频率更高的攻击成为可能。它指出，伪造账户和合成身份的创建可以轻松实现自动化，从而欺骗商家。据称，这些攻击可以压倒基于规则的预防系统。
托马斯·威尔逊，该报告的作者，在此基础上表示：一个声明电子商务商家必须寻求整合具备人工智能能力的防欺诈系统，以便快速识别新兴的欺诈手法。这一点在发达市场尤为重要，在这些市场上，大型商家面临更高的被用于测试被盗信用卡等欺诈行为的风险。
人工智能被用来帮助制作可信的骗局的可能性已经成为公众广泛关注的问题。今年五月，加州检察长罗布·邦塔警告了加州人关于利用“深度伪造”技术冒充家庭成员和政府官员的AI驱动的虚假信息。而且FTC上个月宣布了操作AI合规针对夸大AI声称或销售可被用来欺骗的AI技术的公司提起五起法律诉讼。
研究人工智能安全性的学者也对人工智能的欺骗潜力发出警告。去年，在一篇预印本论文中纸张，麻省理工学院、澳大利亚天主教大学和AI安全中心的研究人员表示，“各种人工智能系统已经学会了欺骗人类。这种能力带来了风险。但可以通过对具有欺骗能力的人工智能系统实施严格的监管标准，并开发防止AI欺骗的技术工具来缓解这一风险。”
- Meta给Llama 3加入了视觉能力，现在如果它能有一个大脑就好了
- 如果戴尔搭载高通芯片的Copilot+电脑是这一类产品的典型代表，其他同类产品就很难与其竞争了。
- 竞争对手浏览器在微软Edge通过欧盟看门人规定漏洞后表示不满
- 159 名 Automattic 员工接受遣散费并离开，原因是与 WP Engine 的纠纷
然而，政界领导人却拒绝了严格的监管标准，担心会对……（句子不完整，未提供完整句子以供准确翻译） Political leaders, however, have rejected strict regulatory standards, over concerns about经济损失例如，上个月在加利福尼亚州，州长加文·纽森拒绝签名SB 1047，被视为迄今为止最广泛地试图立法规范人工智能的法案之一。人工智能公司反对该法案发起游说.
然而，其他与人工智能相关的拟议规则，旨在应对由人工智能驱动的欺诈行为，如无AI欺诈法，等待美国立法者的采纳。欧盟的人工智能法案，一项全面的法律框架，旨在促进人工智能的透明度和问责制，现已生效。八月而其中大部分条款将于2026年8月生效。
juniper在这些问题上的贡献是敦促商家以火攻火，也就是说，因为AI欺诈检测机制可以帮助解决第一方诈骗——即客户为了个人利益而故意欺骗商家——以及其他形式的欺诈。“例如，AI可以检测到不寻常的消费模式、意外的行为变化或与单个设备相关的多个账户。”该公司在一份白皮书中解释道。
然而，也存在一些缺点：需要大量的数据，并且运行这些系统的基础设施和人才都需要付出成本。此外，AI欺诈检测可能会产生误报。“使用不熟悉的浏览器和VPN（虚拟私人网络）的真正客户更有可能被标记为欺诈用户；这会降低客户的满意度并导致商家失去收入”，Juniper Research解释道。
此外，涉及的AI——机器学习——常常以一种不易解释的方式运行，这使得根据观察到的错误来改进欺诈预测算法变得困难。
然而，Juniper 对 AI 的回应是更多使用 AI，这看起来不会有什么好结果。®
暂无评论