让网络安全领导者夜不能寐的顶级人工智能威胁

Team8这家风险投资公司对与会者进行了调查，包括《财富》500强公司的CISO们，发现AI驱动的网络钓鱼攻击和深度伪造技术的兴起已成为主要担忧，而就在一年前，许多人还希望生成式人工智能只是一时的流行趋势。四分之三的人表示，对抗AI驱动的网络钓鱼攻击——即让电子邮件、短信或消息欺诈变得更加复杂、个性化且难以检测——已经成为一场艰难的战斗。超过一半的人表示，深度伪造技术（通过AI生成视频或音频冒充他人）正日益成为一种常见的威胁。

然而，财富独家采访了几位闭门会议的与会者，他们表示虽然AI钓鱼和深度伪造目前确实是网络安全方面的重大关切，但在涉及人工智能相关网络攻击对公司构成日益增长的风险方面，还有其他问题让他们夜不能寐。

公司数据泄露甚至更令人不安的深度伪造诈骗

软银投资控股公司的首席安全官Gary Hayslip表示，他最担忧的问题是如何在人工智能时代保护私人公司数据免受供应链攻击——也就是说，如何应对那些在其工具中添加了生成式AI功能但未实施必要治理措施以保障SoftBank数据使用的第三方供应商带来的风险。

“有一些可靠的供应商……正在开发他们自己的生成式AI产品，这个工具你现在可以使用了，”他说。“这很棒，但是它如何处理数据？数据在与什么交互？”他补充说，组织需要像质疑想要在智能手机上下载应用的青少年一样提出这些问题。

“你必须有点怀疑心态，”他说，并补充道一家公司不能“随便打开大门让成千上万的应用进来，数据就这样随意飞散到无人管理的地方。”

亚当·佐勒（Adam Zoller），位于华盛顿雷顿的非营利性医疗系统Providence Health & Services的首席信息官，同意保护公司数据和系统的同时使用第三方人工智能工具是目前他最大的安全难题，尤其是在像医疗保健这样监管严格的行业中。供应商可能会将LLM集成到现有的医疗软件平台或生物医学设备中，并且可能没有像他们应该做的那样重视安全问题。

他说：“其中一些能力是在我们不知情的情况下部署的，比如作为后台软件更新。”他还补充说，他经常不得不与企业领导人进行谈话，告知他们使用某些工具会产生“不可接受的风险”。

其他安全领导者特别担心当前的攻击是如何迅速演变的。例如，虽然深度伪造（deepfakes）已经非常逼真，但阿莉莎·阿卜杜拉（Alissa Abdullah），副首席信息安全官提到，.Mastercard她说她非常担心未来一年可能出现的新深度伪造骗局。这些骗局将使用AI生成的视频和音频，不是假装成用户认识的人，而是来自值得信赖的品牌的一个陌生人——例如，某家最喜欢公司的帮助台代表。

“他们会打电话给你，说需要对你进行身份验证才能进入我们的系统，并要求支付20美元来移除我账户上的‘欺诈警告’。”她说，“现在不是要几十亿美元的比特币了，而是从1000人每人那里骗取20美元——数额小到甚至像我妈妈这样的人都会愿意给，觉得无所谓。”

AI能力的指数级上升曲线

说归说，克林顿表示他对防守方利用人工智能来应对由人工智能驱动的攻击所取得的进步持“谨慎乐观”态度。“我认为我们在防御方面占据优势，因此没有必要悲观。”他说，“我们发现漏洞的速度比我知道的任何攻击者都要快。”此外，最近的DARPA人工智能网络安全挑战赛展示了开发者可以创建新的生成式AI系统保护支撑从金融系统和医院到公用事业等各个领域的关键软件。

“从经济、投资和技术的角度来看，似乎在防守一方努力做正确事情的人们得到了好处，”他说。

人工智能“冷战”

软银的海斯利普同意防守方可以领先于针对公司的AI驱动攻击，称之为一种“冷战”。

“犯罪团伙利用人工智能迅速制定新的威胁类型和赚钱方法，”他说。“这反过来又促使我们在发生入侵和事件时开发新技术。”

好消息是，他说道，尽管一年前只有少数几家公司专注于监控生成式AI工具或提供防范AI攻击者的安全服务，但今年已经有几十家了。“我甚至无法想象明年会看到什么，”他说。

但他说，公司面临着巨大的挑战，因为威胁确实在加剧，他补充说，安全负责人不能对即将发生的事情视而不见。

“我知道有一部分CISO们想要大声反对，但他们试图阻止或延缓这种趋势。”他说。“从某种意义上说，这就像是一股浪潮，无论他们喜不喜欢，它都会强势来袭，因为[人工智能威胁]正在以如此快的速度成熟和发展。”

推荐新闻通讯
数据表：紧跟科技行业的动态，提供对业内顶级公司深思熟虑的分析。
在这里注册。