听听药物警戒中人工智能的需求和新兴药物安全技术计划音频播客。
成绩单
韦伯博士：欢迎来到 CDER 小型企业和工业援助 (SBIA) 纪事播客。
今日主题：药物警戒中人工智能的需求
我是 Ellicia Weber 博士，今天加入我们的是 FDA 药物评价和研究中心监测和流行病学办公室副主任 Robert Ball 博士。Ball 博士在药物警戒领域的人工智能（AI）系统研究和开发方面拥有十多年的经验。
感谢您加入我们鲍尔博士！我很想先听听您在人工智能和药物警戒方面的经验。
鲍尔博士：谢谢你今天邀请我。回想起来，在大学里我学习了数学和计算机科学，后来在上医学院之前担任了一名计算机程序员。从那时起，我的大部分工作都集中在计算科学和医学的交叉领域。十多年前，我对将自然语言处理应用于提交给 FDA 的疫苗不良事件报告中的叙述感兴趣，并随着人工智能技术的进步继续这项工作。
韦伯博士：FDA 最近宣布了新兴药物安全技术计划，旨在促进人工智能在药物警戒中的应用的讨论和相互学习。但我们稍后会讨论这个问题。让我们从药物警戒以及它如何从人工智能中受益开始。
鲍尔博士：正确的。药物获得批准后，可能会出现新的安全问题。药物警戒涉及与检测、评估和了解这些不良事件相关的所有科学和数据收集活动。这个过程包括广泛的科学方法和数据源。
那么，如果我们能够更快地分析如此大量的信息呢？人工智能提供了做到这一点的潜力。事实上，制药行业正在探索的一个领域是使用人工智能来处理个例安全报告（ICSR）。这些报告是新安全信息的重要来源，是全球监管机构所要求的。
通过应用人工智能，我们可以快速处理来自多个来源的数据，这可能有助于更有效地识别不良事件。人工智能还可以帮助公司准备 ICSR，从而更快地报告和评估它们。
韦伯博士：为什么选择 ICSR？
鲍尔博士：ICSR 可以作为安全信号的早期预警系统，特别是对于罕见事件。随着需要评估的数据源的数量和种类不断增加，每天提交的 ICSR 也越来越多。事实上，FDA 每年都会收到近 200 万份行业向 FDA 不良事件报告系统 (FAERS) 提交的报告。除此之外，公众还直接向 FDA 提交了数十万份报告。由于举报数量庞大，案件处理是一个很大的挑战。
人工智能可能有利于 FDA 和行业的这一过程。它可能能够帮助自动化任务，例如识别需要提交给 FDA 的病例或确定事件的严重性。这不仅可以节省时间，还可以让我们的安全评估人员更加关注对公共健康产生影响的复杂任务，而不是从 ICSR 中提取和组织信息。
韦伯博士：听起来人类监督仍然至关重要，这是准确的说法吗？
鲍尔博士：绝对地！虽然人工智能技术在药物警戒方面前景广阔，并且可能发挥重要作用，但重要的是不要忽视人类专业知识的重要性。人们担心人工智能模型的潜在缺陷可能会导致它们错过关键信息。因此，人类的监督仍然是不可或缺的。
这里的挑战是在“人参与循环”之间找到适当的平衡，以确保质量而不影响人工智能算法的效率收益。换句话说，人类专家不应该做机器可以高效完成的工作，而机器不应该把人类专家可以做好的工作做得很差。一个
对于某些任务，例如在 ICSR 接收期间识别记者的职业，人工智能可能就足够了，但人类专业知识很重要的任务的一个例子是案例因果关系评估。这个过程涉及专家判断和高度专业化知识的应用。
人工智能模型尚无法像人类专家那样复制或做出细致入微的判断，这可能会导致性能不足。
因此，需要进行质量检查，以确保人类与人工智能相结合的系统至少与仅依赖人类的系统一样有效。
韦伯博士：FDA 将如何在利用人工智能在药物警戒方面的潜力和确保其安全应用之间取得适当的平衡？
鲍尔博士：是的，这是一个重要的问题。我们寻求实现这种平衡的方法之一是与机构外部的团体进行合作和对话。例如，我们目前通过诸如国际医学科学组织理事会（或 CIOMS）人工智能在药物警戒中的工作组，正在制定人工智能在药物警戒中的使用原则。
我们寻求实现这一目标的另一种方法是与行业进行直接对话。为此，我们启动了新兴药物安全技术计划，以帮助促进参与者就新兴技术在药物警戒中的使用进行讨论。
韦伯博士：Ball 博士，您能告诉我们更多有关新兴药物安全技术计划的信息吗？
鲍尔博士：我很乐意这样做。新兴药物安全技术计划 (EDSTP) 是我们在 CDER 发起的一项令人兴奋的举措。它旨在通过使用我们称之为“会议”的新会议途径，促进 FDA 和行业以及支持行业药物警戒活动的其他各方（例如学术界和软件开发人员）之间的相互学习和讨论。新兴药物安全技术会议。
我们邀请这些团体要求与我们会面，以便我们可以与他们就药物警戒领域尖端技术（特别是人工智能）的研究、开发和实施进行对话。在早期阶段，这些会议的重点将是相互学习——分享想法，讨论挑战。这将使 CDER 能够从他们的第一手经验中学习。
我们从这些对话中学到的知识将为我们在药物警戒中潜在的监管和政策方法提供信息，并帮助我们考虑提供有关特定技术的监管建议，以帮助在适当的时候促进其采用。
希望了解有关该计划的更多信息的感兴趣人士可以访问我们的网站，我们在网站上介绍了如何请求会面。
韦伯博士：FDA 希望从新兴药物安全技术计划中获得什么类型的信息？
鲍尔博士：通过 EDSTP，我们希望更深入地了解制药行业如何探索或应用人工智能和其他新兴技术进行药物警戒。我们之前提到了一些例子，例如使用人工智能进行 ICSR 处理或因果关系评估。我们也有兴趣了解我们没有想到的其他潜在应用。例如，如何使用人工智能来分析社交媒体或科学文献以识别潜在的药物安全问题？
除了具体的用例之外，我们还非常有兴趣了解行业如何努力确保他们开发的人工智能模型可信且值得信赖。例如，他们计划如何纳入以人为主导的治理？他们正在采取哪些措施来确保数据质量并减少偏见？他们验证模型性能的计划是什么？这些是我们希望通过会议探讨的几个领域。
韦伯博士：该计划仅关注人工智能在药物警戒中的应用吗？
鲍尔博士：人工智能目前备受关注，因为它受到了广泛的关注和投资，以及它在药物警戒中的应用潜力。然而，我们的计划实际上涵盖了药物警戒领域的广泛新兴技术和数据源。欢迎符合条件的开发人工智能以外新技术的团体申请。一个
韦伯博士：参与者将从该计划中获得什么？
鲍尔博士：通过会议，我们希望建立一个学习环境，使各方能够相互学习如何将新兴技术应用于药物警戒。
我们预计，通过 EDSTP 会议获得的知识将有助于为未来与新兴技术挑战相关的潜在监管和政策方法提供信息，并有助于增强对其持续投资的信心。
请记住，对仍具有很大不确定性的技术可能进行大量投资，人工智能等新兴技术的使用有可能通过降低管理负担和成本，为组织进行药物警戒的方式带来变革性的好处，提高安全监察的效率和效果。
韦伯博士：听起来像是双赢！鲍尔博士，非常感谢您今天接受我们的采访。最后您还有什么话想与我们的观众分享吗？
鲍尔博士：好吧，谢谢您邀请我，我想我只想说，虽然 EDSTP 专注于药物警戒，但 FDA 也在积极开展许多其他领域的工作，以了解如何在整个药品生命周期中最好地使用人工智能。
我们还认识到，技术正在迅速发展——我们今天的理解可能会在不久的将来发生变化。
我们真诚地希望业界和其他相关方能够通过新兴药物安全技术计划与 CDER 合作，以促进相互学习如何以及何时将这些技术应用于药物警戒以及如何应对挑战。
韦伯博士：有关参与新兴药物安全技术计划的详细信息，请参阅本播客的剧集网页。
FDA 将在初始阶段的 12 个月内，每个日历年每季度批准最多 9 名参与者的会议请求。第一轮提交的截止日期是 2024 年 10 月 1 日，但有兴趣请求参加下一轮会议的各方应在 2025 年 1 月 1 日之前提交请求。参与将涉及满足资格和选择标准并提交通过电子邮件发送会议包。
您可以在以下位置找到完整 SBIA Chronicles 文章的链接：fda.gov/cdersbiachronicles。还访问FDA.gov/cdersbia与即将举行的网络研讨会和会议保持联系，注册 SBIA 电子邮件更新，并关注 SBIA领英。感谢您收听！