- MLflow 被认定为最易受攻击的开源 ML 平台
- 目录遍历缺陷允许 Weave 中未经授权的文件访问
- ZenML Cloud 的访问控制问题导致权限升级风险
最近对机器学习 (ML) 框架安全形势的分析表明，与 DevOps 或 Web 服务器等更成熟的类别相比，ML 软件更容易受到更多安全漏洞的影响。
机器学习在各行业的日益普及凸显了保护机器学习系统的迫切需要，因为漏洞可能导致未经授权的访问、数据泄露和操作受损。这
报告JFrog 声称 MLflow 等 ML 项目的关键漏洞有所增加。在过去的几个月里，JFrog 发现了 15 个开源 ML 项目中的 22 个漏洞。 在这些漏洞中，有两类漏洞最为突出：针对服务器端组件的威胁和机器学习框架内的权限升级风险。
机器学习框架中的严重漏洞
JFrog 发现的漏洞影响 ML 工作流程中经常使用的关键组件，这可能允许攻击者利用 ML 从业者通常信任的灵活性工具，获得对敏感文件的未经授权的访问或提升 ML 环境中的权限。
其中一个突出的漏洞涉及 Weave，这是 Weights & Biases (W&B) 的一个流行工具包，它有助于跟踪和可视化 ML 模型指标。WANDB Weave 目录遍历漏洞 (CVE-2024-7340) 使低权限用户能够跨文件系统访问任意文件。
此缺陷是由于处理文件路径时输入验证不当而导致的，可能允许攻击者查看可能包含管理 API 密钥或其他特权信息的敏感文件。这种漏洞可能会导致权限升级，使攻击者能够未经授权访问资源，并危及整个机器学习管道的安全。
ZenML 是一种 MLOps 管道管理工具，也受到一个严重漏洞的影响，该漏洞会损害其访问控制系统。此缺陷允许具有最小访问权限的攻击者在 ZenML Cloud（ZenML 的托管部署）中提升其权限，从而访问受限信息，包括机密机密或模型文件。
ZenML 中的访问控制问题使系统面临重大风险，因为升级的权限可能使攻击者能够操纵 ML 管道、篡改模型数据或访问敏感操作数据，从而可能影响依赖这些管道的生产环境。
另一个严重漏洞，称为 Deep Lake 命令注入 (CVE-2024-6507)，是在 Deep Lake 数据库中发现的，该数据库是一种针对优化的数据存储解决方案人工智能应用程序。该漏洞允许攻击者利用 Deep Lake 处理外部数据集导入的方式执行任意命令。
由于命令清理不当，攻击者可能会实现远程代码执行，从而损害数据库和任何连接的应用程序的安全。
Vanna AI 中也发现了一个值得注意的漏洞，Vanna AI 是一款专为自然语言 SQL 查询生成和可视化而设计的工具。Vanna.AI 提示注入 (CVE-2024-5565) 允许攻击者将恶意代码注入到 SQL 提示中，该工具随后会处理这些提示。该漏洞可能导致远程代码执行，允许恶意攻击者瞄准 Vanna AI 的 SQL 到图形可视化功能来操纵可视化、执行 SQL 注入或窃取数据。
Mage.AI是一种用于管理数据管道的MLOps工具，已被发现存在多个漏洞，包括未经授权的shell访问、任意文件泄漏和弱路径遍历检查。
这些问题使攻击者能够控制数据管道、暴露敏感配置，甚至执行恶意命令。这些漏洞的组合带来了特权升级和数据完整性破坏的高风险，从而损害了机器学习管道的安全性和稳定性。
通过获得机器学习数据库或注册表的管理员访问权限，攻击者可以在模型中嵌入恶意代码，从而导致后门在模型加载时激活。当模型被不同的团队和 CI/CD 管道使用时，这可能会影响下游流程。攻击者还可以窃取敏感数据或进行模型中毒攻击，以降低模型性能或操纵输出。
JFrog 的调查结果凸显了 MLOps 安全方面的运营差距。许多组织缺乏将人工智能/机器学习安全实践与更广泛的网络安全策略进行强有力的整合，从而留下了潜在的盲点。随着机器学习和人工智能继续推动行业的重大进步，保护推动这些创新的框架、数据集和模型变得至关重要。
您可能还喜欢
- 看看最好的云防火墙今天有空
- 这些是最佳商业 VPN现在附近
- Deepfakes 和人工智能攻击是工人最大的安全担忧