检索卫生保健生成人工智能的生成生成

1，，，，^2和骆驼3，，，，^{4文本生成系列，dall-e5}用于图像生成以及Sora⁶用于视频生成。^{在卫生保健系统中，生成AI对咨询，诊断，治疗，管理和教育的应用有望}7，，，，^{8。此外，生成AI的利用可以提高患者的卫生服务质量，同时减轻临床医生的工作量8}，，，，^{9，，，，10。尽管如此，要确认生成AI模型的固有局限性至关重要，这些局限性包括对训练数据的偏见的敏感性}11

，缺乏透明度，产生错误的内容的潜力以及保持最新知识的难度⁷。^{例如，大型语言模型（LLM）被证明通过采用过时的基于种族的方程来估计肾功能来产生偏见的响应}12。^{在产生图像的过程中，已经观察到与性别，肤色和地质文化因素有关的偏见}13。^{同样，对于诸如问答回答之类的下游任务，LLM生成的内容通常是不一致的，并且缺乏验证的证据}14。^{此外，由于它们的静态知识和无法访问外部数据，生成的AI模型无法为医生提供最新的临床建议或为患者提供有效的个性化健康管理}15。^{在应对这些挑战时，探索了检索功能的一代（RAG）作为潜在的解决方案}16

，，，，^{17。通过为模型提供外部检索数据，RAG可以提高生成内容的可靠性。}一个典型的抹布框架由三个部分组成（图。1）：索引，检索和世代。在索引阶段，外部数据分为块，编码为向量，并存储在矢量数据库中。在检索阶段，将用户查询编码为向量表示，然后通过查询和矢量数据库中的信息之间的相似性计算来检索最相关的信息。检索技术不仅限于密集的检索，还包括稀疏和混合检索方法，可以采用先进的重读方法来提高检索内容的相关性。在生成阶段，用户的查询和检索到的相关信息均由模型引起生成内容。与特定任务的模型微调相比，抹布通常在计算上更有效，并且已被证明可以提高知识密集型任务的准确性¹⁸，为模型更新提供更灵活的范式，并与其他AI技术集成。

首先将外部数据编码为向量并存储在向量数据库中（其中向量是高维空间中各种数据的数学表示）。在检索阶段，当收到用户查询时，回猎犬从矢量数据库中搜索最相关的信息。在生成阶段，用户的查询和检索到的信息都用于提示模型生成内容。

从这个角度来看，我们在生成AI的背景下讨论了抹布的作用，尤其是其在医疗保健中的可能应用。我们从三个方面进行了RAG的可能贡献：公平，可靠性和个性化（图。2）。此外，我们探讨了在医疗应用方案中抹布的局限性，强调需要进一步研究以了解其在卫生系统中的实施影响¹⁹。

生成的AI具有偏见的繁殖，缺乏透明度，信息不正确和静态知识等局限性，这阻碍了其在医疗保健中的进一步应用。检索声明的一代具有减轻这些问题并从公平，可靠性和个性化的角度推动医疗创新的潜力。

减少偏差

生成AI模型产生的内容可能会持续培训数据中固有的偏见，这些偏见反映在包括人口特征，政治意识形态和性取向的各个方面^{12，，，，13，，，，20}。这种偏见不仅可以导致不公平的诊断和治疗，而且会加剧特定人群的健康不平等。

RAG能够从外部知识来源获取信息，包括医学文献，临床指南和病例报告，以优化生成AI模型的输出¹⁷。通过检索特定于某些亚群的信息，该模型可以从多个角度分析患者的状况，从而有可能降低生成内容中所含偏见的风险。例如，当针对不同的性别群体时，抹布可以检索有关其特定生理模式，常见疾病光谱，临床表现以及临床实践的相关建议的研究结果^{21，，，，22，，，，23}。同样，对于不同的族裔，RAG可以访问涉及其遗传，环境和生活方式因素的研究报告，以了解疾病发病率和独特症状表现的差异²⁴。此外，对于其他特定的亚群（例如不同的年龄段，社会经济地位等），RAG可以检索量身定制的医学证据，以帮助全面了解其独特的健康需求²⁵。尽管在确保访问代表性不足的群体的高质量数据方面仍然存在挑战，但RAG提供了缓解这些问题的可能解决方案。

减轻差异

健康差异在获得医疗资源和卫生服务方面给边缘化群体带来了其他挑战，有可能阻碍公平的成就。尽管生成的AI模型经过广泛的数据培训，但预训练数据本身在代表不同的组方面表现出不平衡。例如，GPT-3的前训练前训练语料库的92.64％来自英语，导致使用其他语言的社区覆盖有限¹。这种偏斜可能使得满足代表性不足的群体的医疗需求具有挑战性。

收集特定于这些代表性不足的人群并将其纳入抹布系统的数据具有减轻医疗保健差异的潜力。具体而言，在低资源区域中，抹布系统可能会利用将当地医学研究文献，临床准则和实践经验整合的知识，以向当地居民提供更相关的诊断和治疗建议²⁶。尽管某些区域指南可能不会数字化，但音频和图像识别技术可以将此信息转换为数字格式，从而创建特定于区域的上下文数据库²⁷。同样，通过开发高质量的多语言医学知识库，RAG可以在跨语言信息检索和知识整合中发挥重要作用，并有可能消除因语言差异而带来的障碍。但是，值得注意的是，即使是目前最先进的LLM，也仅支持有限数量的主流语言，这限制了抹布在多语言环境中的有效性，尤其是在低资源设置中处理语言时²⁸。此外，RAG系统能够检索预收集的材料并以各种格式（例如文本，图像和视频）展示它们，以促进患者的教育。这种方式可以向具有多种教育和文化背景的患者解释复杂的医疗概念²⁹。

减轻错误

卫生保健中生成AI模型的一个重大挑战是它们产生不正确或不忠信息的潜力^{7，，，，8}。尽管已经在大量医学数据（例如Med-palm2和Med-Gemini）上进行了预先培训的特定模型，但无法避免幻觉的现象^{29，，，，30}。此问题非常敏感，因为与疾病诊断，治疗计划或药物指导有关的任何虚假信息都可能对患者造成严重伤害³¹。

例如，用药错误是医疗错误的主要类别，每年导致许多患者死亡^{32，，，，33}。在将处方说明转换为标准格式的阶段，药房技术人员可能会错误记录剂量，频率或给药途径³²。此外，当患者将药物从原包装转移到其他容器时，药剂师很难识别药物，这可能导致遗漏错误³³。鉴于电子健康记录建议和警报通常不精确，并且传统的自然语言处理方法需要广泛的人类注释，因此生成的AI提供了有吸引力的解决方案。但是，生成的AI模型有时也会产生不正确的药物信息，从而进一步危害。破布可能有助于解决其中一些问题。通过搜索各种药物信息，RAG可以在数据输入阶段自动解析处方并生成更准确的药物指导，从而减少信息传输引起的医疗错误。此外，在药物识别过程中，多模式抹布系统具有识别药物的外观特征，例如颜色，形状和烙印。通过将这些特征与数据库信息匹配，抹布系统可以生成可靠的药物信息以作为药剂师的参考，从而提高药物识别的效率。但是，至关重要的是要强调，这些应用程序仍处于开发的早期阶段，并且需要在实施之前进行彻底验证。

透明度提高

生成AI模型的黑盒性质使得很难解释如何得出特定的诊断或治疗建议。这种缺乏透明度不仅破坏了医生和患者在产生的内容中的信任，而且更重要的是，它可能构成严重的医疗风险和道德问题。尽管一些研究试图通过诸如思想链之类的方法来增强模型推理能力和透明度³⁴，多代理讨论³⁵和事后归因³⁶，医疗应用程序仍然存在限制³⁷。

相比之下，RAG能够从外部知识库中检索可追溯的医学事实，从而促进了更透明的内容的产生。但是，此过程仍然需要手动验证³⁸。在协助临床决策时，RAG可以提供诊断所基于的信息来源，包括临床准则，医学证据和临床病例。通过将查询分类为简单的事实搜索或多步推理过程，RAG可以进一步阐明不同类型的信息如何促进给定建议，从而提高其决策的透明度。此外，一些研究还利用了外部医学知识图（例如统一的医学语言系统）或自我构造的知识图来增强模型的诊断能力^{14，，，，39}。基于给定的查询，抹布系统首先识别知识图中的相关节点，例如疾病，症状或药物，然后检索直接关系和连接这些节点的多跳路路径。这个过程使抹布系统可以有效提取结构化的，相关的知识并利用其提供明确的诊断解释¹⁴。

健康管理

破布还显示了个性化医疗保健管理的潜力。生成的AI模型缺乏合并个人信息的能力，因此难以提供有效的健康服务⁸。例如，他们可能不知道用户的过敏并推荐过敏性食物。相比之下，抹布系统可以整合个人的健康数据和生活方式习惯，以建立全面的个人资料，这可能可以实现更自定义的健康指导。

对于患者，通过连接他们的病历和临床数据，同时允许实时更新，抹布系统具有提供更精确的健康管理指导的能力。例如，对于需要长期服用多种药物的慢性病患者，该系统可以根据医生处方生成药物提醒，以确保患者正确及时服用药物，从而改善药物依从性。对于公众来说，抹布系统可以分析个人健康数据，生活方式，环境因素和遗传信息（如果是单个用户的访问权限），以识别潜在的健康风险。通过这种方式，抹布系统提供了个性化的健康建议，包括饮食，运动和压力管理，有效地促进了预防疾病。例如，对于患有心脏病遗传风险高的个体，该系统可以建议特定的饮食计划和适当的运动方案，以降低最终患上疾病的风险。

精密医学

Precision Medicine旨在根据患者的遗传特征，环境影响，生活方式和其他个体因素来调整治疗策略，从而最大程度地提高医疗效率和患者益处⁴⁰。尽管当前的生成AI模型表现出了协助临床决策的潜力^{35，，，，41}，他们仍然面临精密医学的挑战⁴²，由于他们难以利用高度个性化的患者数据来提供精确的治疗建议。

抹布可能会为推进精密医学提供独特的优势。通过检索患者的复杂临床和分子数据，抹布系统使医生有能力制定针对每个患者量身定制的更准确和个性化的治疗计划⁴³。例如，生成的AI模型通常向表现出相似体征和症状的癌症患者提供类似的一般临床建议。但是，实际上，由于其生物标志物的差异（例如，DNA，RNA，蛋白质，代谢物，宿主细胞和微生物组），这些患者通常具有不同的疾病进展和预后。⁴⁴。尽管收集和保护此类敏感数据仍然是一个挑战，但RAG可以更好地利用此信息进行精确医学实践。具体而言，抹布系统可能能够全面分析患者的生物标志物，将其分类为更颗粒状的亚组，并根据既定的临床指南向医师推荐适当的个性化治疗计划。

作者和隶属关系

1. 新加坡新加坡杜克大学医学院定量医学中心

   Rui Yang，Yilin Ning，Mingxuan Liu，Daniel Shu wei＆nan liu

2. 加拿大多伦多多伦多大学艺术与科学学院

   Emilia Keppo

3. 美国北卡罗来纳州达勒姆大学杜克大学生物统计学和生物信息学系

   Chuan Hong

4. 美国马萨诸塞州波士顿的哈佛医学院弥​​撒将军医学计划中的人工智能计划中的人工智能

   Danielle S. Bitterman

5. 新加坡新加坡新加坡综合医院药房部

   茉莉花

6. 新加坡新加坡新加坡新加坡新加坡的新加坡眼睛研究所

   丹尼尔·舒·韦（Daniel Shu Wei）

7. 拜尔斯眼科研究所，斯坦福大学，美国加利福尼亚州斯坦福大学

   丹尼尔·舒·韦（Daniel Shu Wei）

8. 新加坡新加坡杜克 - 纳斯医学院卫生服务与系统研究计划

   Nan Liu

9. 新加坡新加坡国立大学的NUS人工智能研究所

   Nan Liu

贡献

R.Y.和N.L.想到了这个想法。R.Y.起草了初始论文。N.L.监督工作。所有作者都为论文的内容，修订和最终批准做出了贡献。

相应的作者

对应Nan Liu。

竞争利益

作者没有宣称没有竞争利益。

开放访问本文均根据创意共享归因4.0国际许可，允许以任何媒介或格式使用，共享，适应，分发和复制，只要您适当归功于原始作者和来源链接到Creative Commons许可证，并指示是否进行了更改。本文中的图像或其他第三方材料包含在文章的创意共享许可证中，除非在材料的信用额度中另有说明。如果文章的创意共享许可中未包含材料，并且您的预期用途不得由法定法规允许或超过允许的用途，则需要直接从版权所有者那里获得许可。要查看此许可证的副本，请访问http://creativecommons.org/licenses/4.0/。重印和权限

关于这篇文章