Biz当心：DeepSeek AI未能通过多个安全测试

资料来源：Mundissima通过Alamy Stock Photo

组织可能希望三思而后行，然后再使用中国生物AI（Genai）DeepSeek在业务应用程序中，在未能进行6,400次安全测试的弹幕之后，该测试表明该模型中缺乏护栏。

根据AppSOC的研究人员的说法，AppSOC的研究人员对DeepSeek-R1大语模型（LLM）的版本进行了严格的测试。他们的结果表明，该模型在多个关键领域失败，包括屈服于越狱，及时注射，恶意软件，供应链和毒性。故障率在19.2％至98％之间，他们透露在最近的报告中。

失败的两个最高领域是用户使用模型生成恶意软件和病毒的能力，这既是威胁参与者的重要机会，又为企业用户带来了重大威胁。测试说服了DeepSeek创建98.8％的时间（研究人员称之为“失败率”），并在86.7％的时间内生成病毒代码。

反对安全指标的表现平淡的表现意味着，尽管开源的所有大肆宣传，但更实惠的DeepSeek是Genai的下一件大事，但组织不应考虑当前在企业中使用的模型，Mali Gorantla，AppSOC的联合创始人兼首席科学家。

有关的：CISA使选举安全人员休假

他解释说：“对于大多数企业应用程序，大约2％的故障率被认为是不可接受的。”“我们的建议是阻止该模型的使用，以供任何与业务相关的AI使用。”

DeepSeek的高风险安全测试结果

总体而言，DeepSeek在AppSOC测试量表上的安全风险中获得了10分的8.3，这是最风险的，导致评级为“高风险”。根据报告，AppSOC建议组织专门避免使用该模型用于任何涉及个人信息，敏感数据或知识产权（IP）的应用程序。

AppSOC使用模型扫描和红色团队来评估几个关键类别的风险，包括：越狱，或“现在做任何事情”，提示无视系统提示/护栏；提示注射要求模型忽略护栏，泄漏数据或颠覆行为；恶意软件的创建；供应链问题，模型在其中幻觉并提出不安全的软件包建议；和毒性，其中AI训练提示会导致该模型产生有毒输出。

研究人员还测试了DeepSeek违反高风险类别，包括：培训数据泄漏；病毒代码生成；提供虚假信息或结果的幻觉；和故障，其中随机“小故障”令牌导致模型显示出异常的行为。

有关的：数据泄漏最常在这些州发生 - 这就是为什么

根据Gorantla的评估，DeepSeek仅在训练数据泄漏类别中表现出可传球得分，显示出1.4％的故障率。在所有其他类别中，该模型显示出19.2％或以上的故障率，中位数为46％的故障率。

Gorantla说：“这些都是严重的安全威胁，即使失败率要低得多。”但是，恶意软件和病毒类别导致较高的故障显示出企业的重大风险。他说：“拥有LLM实际上生成恶意软件或病毒为企业系统提供了新的恶意代码途径。”

DeepSeek使用：企业谨慎行事

AppSOC的结果反映了DeepSeek在一月份发布大张旗银行以来已经出现的一些问题，即使它的性能和效率出色，即使它的开发价格不到600万美元，这是一家杂乱无章的中国初创公司。

发行后不久，研究人员越狱DeepSeek揭示了定义其运作方式的指示。该模型在其他方面也引起了争议，IP盗窃的索赔来自Openai，而希望受益的攻击者从其臭名昭著中，已经针对恶意运动的Deepseek。

有关的：XE组从卡片浏览到供应链攻击

Gorantla说，如果组织选择忽略AppSOC的总体建议，不要将DeepSeek用于业务应用程序，则应采取几个步骤来保护自己。其中包括使用发现工具来查找和审核组织中使用的任何模型。

他说：“通常仅随意下载和打算进行测试，但是如果对模型没有可见性和治理，它们可以轻松进入生产系统。”

下一步是扫描所有模型，以测试安全弱点和脆弱性，然后再进行生产，这应该在经常出现的基础上进行。Gorantla说，组织还应实施可以持续检查AI系统的安全姿势的工具，包括寻找诸如错误配置，访问权限不正确和未批准的模型等方案。

最后，需要在开发过程（以及在运行时连续）进行这些安全检查和扫描以寻找更改。他补充说，组织还应监视用户提示和响应，以避免数据泄漏或其他安全问题。