FDA 发布医疗器械、药品和生物制品人工智能指导文件草案JD 苏普拉

FDA 最近发布了两份指导文件草案，讨论了：(1) 使用人工智能 (AI) 生成信息来支持有关药物或生物制品安全性、有效性或质量的监管决策；(2) 安全有效的人工智能设备的开发和营销。每份指导文件草案都提供了 FDA 当前关于应对人工智能应用特有挑战的想法，并为申办者在人工智能上市前和上市后使用以及与该机构的互动中提供了具体期望。

1. 药品和生物制品指导：使用人工智能支持药品和生物制品监管决策的考虑

FDA 见证了人工智能在生成支持药品安全性、有效性和质量监管备案的数据和信息方面的增长。此类用途包括临床药代动力学的预测模型、开发临床试验终点、评估结果以及促进选择生产条件等。但这些用途特有的挑战包括：由于训练数据集的质量、大小和代表性的可变性而导致的偏差和可靠性问题；人工智能模型在开发和决策过程中的黑箱性质；确定模型输出的准确性的难度；以及数据漂移和模型性能随时间或跨环境变化的危险。FDA 认为，任何这些因素都可能对申办者向 FDA 提供的数据的可靠性和相关性产生负面影响。

为了缓解这些问题，FDA 提出了一个基于风险的可信度评估框架，包括建立和评估特定用途的人工智能模型可信度的七步流程。该框架的第 1 步和第 2 步涉及定义用于解决特定兴趣问题的人工智能模型的具体作用和范围。在步骤 3 中，申办者评估模型风险（即模型影响和决策结果的组合）。步骤 4 到 6 需要制定“可信度评估计划”，以建立人工智能模型输出的可信度，执行该计划，并将结果记录在“可信度评估报告”中。最后，步骤 7 进行回顾确定人工智能模型是否适合其特定用途。如果申办者或 FDA 确定模型的可信度对于模型风险没有充分建立，该指南将提供具体结果。另外，出于对人工智能模型中的数据漂移和其他批准后变化的警惕，FDA 强调在整个产品生命周期中保持人工智能模型输出可信度的重要性。

为了说明如何应用该框架，该指南提供了 (a) 临床开发和 (b) 商业制造方面的假设示例。临床开发假设涉及一个人工智能模型，该模型根据患者的不良反应风险将患者分为住院患者和门诊患者。商业制造示例涉及基于人工智能的视觉分析系统，该系统可自动评估药瓶的填充体积，其中体积是药瓶释放的关键质量属性。

该指南鼓励申办者使用该框架尽早与 FDA 接触，并设想交互式反馈，特别是对人工智能模型风险的评估（步骤 3）和申办者可信度评估计划的充分性（步骤 4）。为了促进该机构和申办者之间的合作，该指南确定了 FDA 的各种计划（例如，C3TI,来电显示,ETP,卡特彼勒）根据赞助商如何使用其人工智能模型，赞助商可以与谁互动。

FDA已邀请公众意见2025 年 4 月 7 日之前审议本指南草案。

2. 医疗器械指南：支持人工智能的设备软件功能：生命周期管理和营销提交建议

FDA 在其第二份指导文件草案中解释了具有人工智能设备软件功能的设备的营销提交中应包含哪些文件和信息。本指南符合 FDA 的规定产品总生命周期(-TPLC-) 审查和监控医疗设备的方法，包括 FDA 目前对解决人工智能设备 TPLC 透明度和偏见的策略的思考。

该指南解释了赞助商应如何在营销提交中描述其设备的人工智能方面，并确定支持人工智能的设备的赞助商必须在设备标签中披露哪些内容。营销提交和标签的建议披露将要求赞助商提供有关其设备的详细信息——使用、输入、输出、架构、开发、性能、安装和维护等。

FDA 同样为风险评估、数据管理和性能验证等提供建议和理由。为了帮助 FDA 了解申办者是否已识别并能够控制风险（例如，误解、误用或无法获得信息），FDA 建议申办者进行全面的风险评估并提交风险管理文件，其中包括风险管理计划、风险评估和风险管理报告。FDA 还寻求对数据管理的清晰解释，以了解人工智能设备的开发和验证方式。对于提交的材料，该机构鼓励申办者提供有关数据收集、开发和测试数据独立性、参考标准和代表性的信息。此外，FDA 要求进行验证测试，以表征模型相对于其预期用途的性能。FDA 认识到 AI 模型可能会随着时间的推移而发生变化，从而给患者带来风险，因此 FDA 还建议主动进行设备性能监控，并包括 – 性能某些上市前提交材料中的监控计划。

FDA 的指南强调了人工智能设备透明度的重要性，因为这些设备“大量由数据驱动，并包含表现出一定程度不透明性的算法”。为了提高透明度，FDA 的指南呼吁申办者提供“公开提交摘要”，描述设备和支持监管决策的信息。申办者提交的材料应确定设备中使用了人工智能，并描述了如何使用人工智能、模型的类别和模型的局限性、开发和验证数据集、预测的统计置信度以及模型将如何更新并随着时间的推移进行维护。

FDA已邀请公众意见2025 年 4 月 7 日之前就该指南草案进行审议，并将举办一次2025 年 2 月 18 日网络研讨会，仅讨论本医疗器械指南草案。

*                *                *

FDA 的指导文件使申办者能够直接了解 FDA 的优先事项以及该机构在快速发展的人工智能领域的具体期望和担忧。鼓励有意实施人工智能解决方案为其药物或生物产品提供安全性、有效性或质量信息的申办者在设计和训练其人工智能模型时尽早考虑 FDA 可信度评估框架的参数。寻求批准含有人工智能组件的医疗设备的申办者应仔细评估 FDA 的要求，并确认他们能够在产品的预计使用寿命内充分解决 FDA 的担忧和要求。在任一框架内，Sterne Kessler 建议公司的人工智能专家和内部法律顾问尽早参与，以确保申办者满足 FDA 将产品推向市场的所有要求。