2024年9月26日,美国食品药品监督管理局(FDA)发布了一份数字健康、人工智能(AI)和机器学习领域常用术语及其定义的汇编,可供查阅。这里.1FDA意欲将词汇表用于一般教育目的。定义要么直接来自,要么改编自各种公共来源,包括共识标准组织和已发表的文献,并且FDA在词汇表中包含了对这些来源的引用。
FDA在此发布了术语表,随着关于制定适用于AI的国家标准的需求讨论日益增多而发布。该机构已经在调整其监管框架以适应AI的独特属性方面取得了显著进展。作为术语表的一部分,该机构定义了一个持续困扰FDA的问题:数据漂移。FDA将“数据漂移”定义为“部署模型接收的输入数据分布随时间变化的现象,这可能导致模型性能下降。当底层数据的特性发生变化时,就会发生这种情况。数据漂移会影响预测模型的准确性和可靠性。” FDA解释说,由于在模型开发所用数据和临床操作中使用的数据之间存在统计差异(这些差异可能源于训练与临床应用之间的医疗实践或使用场景的不同,以及患者人口统计数据、疾病趋势和数据收集方法随时间的变化),AI赋能的医疗产品可能会经历数据漂移。
一种避免数据漂移的方法是进行FDA所说的“AI性能监控”。FDA将AI性能监控定义为定期收集和分析已部署的AI系统在实际应用场景中完成其预定任务的数据,以评估其性能的过程。尽管这种AI性能监控的概念已经纳入了AI赋能医疗器械的整个生命周期管理之中,但FDA表示该机构需要扩大权力以便充分监管AI的使用,特别是对于AI赋能的医疗器械。2
FDA计划定期更新术语表。FDA欢迎利益相关者通过电子邮件提交反馈意见。digitalhealth@fda.hhs.gov.
1FDA,数字健康与人工智能词汇表教育资料(2024年9月26日),https://www.fda.gov/science-research/artificial-intelligence-and-medical-products/fda数字健康和人工智能词汇表教育资源.
2美国政府问责办公室(GAO),联邦法规: selected emerging technologies highlight the need for legislative analysis and enhanced coordination,GAO-24-106122(2024年1月25日),https://www.gao.gov/products/gao-24-106122.