新研究表明，抹布可以使AI模型更具风险，更可靠

检索授权一代（RAG）对于寻求利用生成AI的全部力量和其业务数据的组织，迅速成为一个强大的框架。随着企业寻求超越通用AI的回应并利用其独特的知识基础，Rag Bridges Bridges General AI功能和特定领域的专业知识。 

数百人甚至数千个公司已经在使用RAG AI服务，随着技术的成熟，采用加速。

还：我测试了10个AI内容检测器，这5个每次都正确识别了AI文本

那是个好消息。坏消息：根据彭博研究，抹布也可以大大增加得到危险的答案。一个 

在潜入危险之前，让我们回顾一下抹布及其利益。” 

什么是抹布？

抹布是一种AI架构，结合了生成AI模型的优势 - 例如 Openai的GPT-4，，，，元的骆驼3， 或者Google的Gemma - 带有公司记录的信息。RAG使大型语言模型（LLM）能够访问和推理数据库，文档和内部数据流中的外部知识，而不是仅依靠LLMS的预先训练的“世界知识”。

当用户提交查询时，抹布系统首先从精选的知识库中检索最相关的信息。然后，它将这些信息与原始查询一起馈入LLM。 

Maxime Vermeir，AI战略高级总监阿比，将RAG描述为一个系统，使您可以“不仅从其培训数据中产生响应，而且还可以通过您提供的具体，最新的知识来产生响应。这会带来更准确，相关且针对您的业务环境量身定制的答案。”

为什么要使用抹布？

使用抹布的优点很明显。尽管LLM强大，但它们缺乏针对您企业产品，服务和计划的特定信息。例如，如果您的公司在利基行业中运营，那么您的内部文档和专有知识对于答案比公共数据集中的知识更有价值。

通过让LLM访问您的实际业务数据 - 这些PDF，Word文档或常见问题（FAQ） - 在查询时间，您将获得更准确的问题和点的答案。 

此外，抹布还减少了幻觉。它通过将AI答案接地，以对可靠，外部或内部数据源进行接地。当用户提交查询时，抹布系统将从策划的数据库或文档中检索相关信息。它为语言模型提供了这种事实上下文，然后根据其培训和检索的证据产生响应。此过程使AI构成信息的可能性较小，因为它的答案可以追溯到您自己的内部来源。” 

还：60％的AI代理在IT部门工作 - 这是他们每天所做的

作为Pablo Arredondo，汤森路透副总裁告诉有线，“而不是仅根据模型初始训练期间编码的记忆来回答，而是利用搜索引擎要拉出真实文档 - 无论是案例法，文章还是您想要的任何内容 - 然后将模型的响应锚定给这些文件。”

赋予RAG的AI发动机仍然可以产生幻觉，但发生的可能性较小。 

另一个破布优势是，它使您能够从多年的无组织数据源中提取有用的信息，而这些信息本来很难访问。 

以前的破布问题

虽然抹布具有很大的优势，但这并不是一个魔术子弹。如果您的数据是，嗯，不好，就会想到“垃圾，垃圾”一词。一个 

一个相关的问题：如果您的文件中有过时的数据，则RAG将把这些信息删除并将其视为福音真相。这将很快导致各种头痛。 

另外： 是否想要与您的业务数据集成的生成型AI LLM？您需要抹布

最后，AI不够聪明，无法为您清理所有数据。您需要组织文件，管理RAG的Vector数据库，并将其与LLM集成到启用RAG的LLM之前。 

新发现的抹布的危险

这是彭博社的研究人员发现的：抹布实际上可以使模型降低“安全”，其产出降低了可靠。” 

彭博测试了11个领先的LLM，包括GPT-4O，Claude-3.5-Sonnet和Llama-3-8 B，使用了5,000多个有害提示。拒绝标准（非rag）设置中不安全查询的模型在启用LAG时会产生有问题的响应。

他们发现，即使是“安全”模型，与抹布的不安全产量增加了15英寸30％。此外，随着LLMS努力优先确定安全性，更长的文件与较高的风险相关。尤其是彭博社报道，即使是非常安全的模型，“拒绝在非剥离环境中几乎所有有害查询，在抹布环境中变得更加脆弱。”

还：为什么忽视AI伦理是如此冒险的业务 - 以及如何做AI权利

什么样的“有问题”结果？正如您所期望的那样，彭博社正在研究财务业绩。他们看到了AI泄漏的敏感客户数据，创建了误导性的市场分析，并提供了有偏见的投资建议。 

除此之外，支持抹布的模型更有可能产生可用于恶意软件和政治竞选活动的危险答案。” 

简而言之，正如彭博社在CTO办公室的AI策略和研究负责人Amanda Stent所解释的那样，“这一反直觉发现具有深远的含义，因为在AI代理（例如客户支持代理商）（例如诸如客户支持代理商）（例如，提问的系统）中使用了无处不在的rag，并与基于RAG的互联网用户相互作用。确保输出合适。”

彭博负责人AI负责人塞巴斯蒂安·盖尔曼（Sebastian Gehrmann）补充说：“抹布对外部数据的固有设计填充动态创造了不可预测的攻击表面。缓解需要分层的保障措施，而不仅仅是依靠模型提供者的主张。”

你能做什么？

彭博组织建议为域特异性危害创建新的分类系统。部署破布的公司还应通过结合业务逻辑检查，事实验证层和红色团队测试。对于金融部门 彭博建议检查和测试您的抹布AIS``用于潜在的机密披露，反事实叙述，公正性问题和金融服务不当行为问题。 

还：研究人员警告

您必须认真对待这些问题。随着美国和欧盟的监管机构加强了对金融中AI的审查，抹布虽然强大，但需要严格的特定领域的安全协议。最后但并非最不重要的一点是，如果他们的AI系统不仅为客户提供贫穷，而且是完全错误的答案和建议，我可以轻松地看到公司被起诉。” 

想要更多有关AI的故事吗？报名，我们的每周新闻通讯。