美国食品药品监督管理局发布其关于监管医疗领域人工智能的立场
作者：By Jessica HagenOctober 21, 202412:15 pm Share
美国食品和药物管理局（FDA）美国食品药品管理局）已发布其关于监管人工智能的视角在医疗和生物医学领域，声明监管需要在所有受监管行业、国际组织和美国政府之间进行协调。
该机构表示，它监管将产品分销到全球市场的行业，因此美国的监管标准必须与国际标准兼容。
它强调，为了实现这一目标，正在领导国际医疗器械监管机构论坛的一个AI工作组，该工作组不仅在全球推广最佳的AI实践，而且还领导了国际协调理事会内的一个工作小组，致力于在临床试验中容纳AI。
机构表示，监管者还“需要推进灵活的机制以跟上生物医学和医疗保健领域人工智能变化的步伐”，并且在市场准入前开发中使用人工智能方面必须存在透明度，并且监管者的专业能力也必不可少。
"FDA展示了对新兴技术的创新项目的开放态度，例如软件预认证试点项目。然而，正如该项目所展示的那样，成功开发和实施此类途径可能需要FDA获得新的法定授权。这些变化的数量及其影响也表明，行业和其他外部利益相关者需要加强在FDA监管范围之外的更大生态系统中对AI的评估和质量管理，"该机构写道。
根据FDA的规定，包括市场后性能监控的生命周期管理也是必要的，并且需要有独特的机制来审查大型语言模型及其用途。
"生成式人工智能的应用，如大型语言模型（LLM），由于可能存在不可预见的、新兴的后果，带来了独特的挑战；FDA尚未授权任何LLM。然而，鉴于许多在医疗保健领域的提议应用旨在用于疾病的诊断、治疗或预防，这些应用将需要接受FDA的监管，" FDA写道。
即使是用于总结医疗记录的“AI书记员”也可能出现幻觉或包含就诊过程中未讨论的诊断。大型语言模型（LLM）的复杂性和输出的可能性需要个人、机构以及监管机构的监督。由于我们不能过度加重个别临床医生的这种监督负担，因此有必要开发专门工具，以便更好地评估这些模型在将要使用的情境和环境中表现。
监管方法也必须制定，以平衡整个医疗生态系统的需求，从大型公司到初创企业，并且监管机构必须集中关注患者的健康结果，同时权衡使用人工智能来优化医疗系统的财务状况、开发人员和支付方的利益。
该机构写道，它早已在为将人工智能融入医疗保健和生物医学产品开发做准备，但它也承认人工智能带来了独特的挑战和机遇。
“AI的发展表明了一个重大的质量和监管困境。由于许多AI模型的安全性和有效性取决于对其运行特征的反复评估，所需的努力规模可能超出现有任何监管方案的能力，”FDA写道。
生物医学、数字和技术行业的利益相关者应当识别和处理不负责任的行为，并避免夸大其词。受监管行业、学术界以及美国食品药品监督管理局（FDA）需要开发和完善评估人工智能在医疗保健和生物医学领域持续安全性和有效性的工具。FDA将继续发挥核心作用，重点关注健康结果，但所有涉事部门都需要以应有的严谨态度对待这项可能具有变革意义的技术。
更大的趋势
8月1日，欧盟人工智能法案生效了，规章概述为了在欧洲联盟开发、市场投放、实施和使用人工智能。
当时，委员会指出，《法案》旨在“促进以人为本和值得信赖的人工智能的采用，同时确保高水平的健康、安全以及[基本权利]的保护……包括民主、法治和环境保护，以防止欧盟内人工智能系统的有害影响，并支持创新。”
该法案突出了理事会保护欧盟公民免受人工智能潜在风险的意图；然而，它也表明了不扼杀创新的目标。
"本条例应支持创新，应尊重科学自由，并不应妨碍研究与发展活动。因此，有必要将专门为科学研究和发展目的开发和投入使用的AI系统和模型排除在其适用范围之外，"欧盟监管机构写道。
关于《美国食品药品监督管理局发布其关于监管医疗领域人工智能的立场》的评论
暂无评论