元用新的骆驼工具加大AI安全性

如果您使用AI建造或试图防御技术的咸味一面，Meta刚刚放弃了新的骆驼安全工具。

Llama AI模型的改进的安全工具与Meta的新资源一起到达，旨在帮助网络安全团队利用AI进行防御。他们全力以赴，使发展和使用AI更安全。

现在，与Llama模型家族合作的开发人员现在可以使用一些升级的套件。您可以直接从Meta自己的Llama Protections页面上捕获这些最新的Llama保护工具，也可以找到许多开发人员居住的地方：拥抱的脸和Github。

首先是Llama Guard 4。将其视为Meta可自定义安全过滤器AI的演变。这里的重大新闻是它现在是多模式的，因此它不仅可以理解和应用安全规则，还可以将安全规则应用于文本，还可以将安全规则应用于图像。这至关重要，因为AI应用程序获得了更多的视觉效果。该新版本也被烤成Meta的全新Llama API，该API目前正在有限的预览中。

然后是Llamafirewall。这是Meta的一个新难题，旨在像AI系统的安全控制中心一样。它有助于管理不同的安全模型，并将其连接到Meta的其他保护工具中。它的工作？为了发现并阻止AI开发人员在夜间使AI开发人员的风险 - 诸如巧妙的注射攻击之类的旨在欺骗AI的攻击，旨在欺骗AI，潜在狡猾的代码生成或AI Plug-ins的风险行为。

Meta还给了Llama提示守卫。现在，主要的提示后卫2（86m）型号现在更好地嗅出那些讨厌的越狱尝试和迅速注射。更有趣的是，也许是引入及时的Guard 2 22m。

及时的Guard 2 22m是一个小得多，更nip的版本。Meta认为，与更大的模型相比，它可以将延迟和计算成本削减多达75％，而不会牺牲过多的检测能力。对于需要更快回复或提高预算更紧密的任何人来说，这是一个受欢迎的补充。

但是，元只是专注于AI建筑商。他们还在数字安全的前线上查看网络辩护人。他们听到了寻求更好的AI驱动工具来帮助与网络攻击斗争的呼吁，他们分享了一些针对此目的的更新。

Cyber​​sec评估4基准套件已更新。这个开源工具包可帮助组织确定AI系统在安全任务中的实际状况。该最新版本包括两个新工具：

• Cyber​​soc评估：在网络安全专家CrowdStrike的帮助下，该框架专门衡量了AI在真实安全操作中心（SOC）环境中的表现。它旨在更清楚地了解AI在威胁检测和响应中的有效性。基准本身即将到来。
• AutoPatchBench：该基准测试了骆驼和其他AIS在坏人可以利用它们之前自动查找和修复安全孔的良好性。

为了帮助将这些工具掌握在需要它们的人的手中，Meta正在启动Llama Defenders计划。这似乎是关于让合作伙伴公司和开发人员特别访问AI解决方案的混合 - 一些开源，一些早期访问，有些也许是专有的不同的安全挑战。

为此，Meta正在共享他们内部使用的AI安全工具：自动敏感的DOC分类工具。它会自动在组织内部的文档上拍摄安全标签。为什么？为了阻止敏感信息走出门，或防止将其意外送入AI系统（例如在RAG设置中），在此可能会泄漏。

他们还解决了AI产生的假音频的问题，AI越来越多地用于骗局。美洲驼生成的音频探测器和骆驼音频水印探测器正在与合作伙伴共享，以帮助他们在潜在的网络钓鱼电话或欺诈尝试中发现AI生成的声音。像Zendesk，Bell Canada和AT＆T这样的公司已经排队以整合它们。

最后，梅塔（Meta）偷偷偷看了可能在用户隐私的可能巨大的东西：私人处理。这是他们为WhatsApp致力于的新技术。这个想法是让AI做有用的事情，例如总结未阅读的消息或帮助您起草答复，但没有Meta或WhatsApp可以读取这些消息的内容。

梅塔（Meta）对安全方面非常开放，甚至发布了威胁模型，并邀请安全研究人员在建筑之前戳破孔。这是他们知道需要正确的隐私方面的一个迹象。

总体而言，这是META的广泛AI安全公告。他们清楚地试图将严重的肌肉放在确保其建造的AI的后面，同时还为更广泛的技术社区提供了更好的工具来安全地建造和有效防御。

参见：AI驱动的骗局令人震惊的上升：微软揭示了$ 4B的挫败欺诈

想从行业领导者那里了解有关AI和大数据的更多信息吗？查看AI和大数据博览会在阿姆斯特丹，加利福尼亚和伦敦举行。综合事件与其他领先活动共同分居，包括智能自动化会议，，，，块，，，，数字转换周， 和网络安全和云博览会。

探索由Techforge提供支持的其他即将举行的企业技术活动和网络研讨会这里。