OC
英语轻松读发新版了，欢迎下载、更新

国际医学生成人工智能模型的国际合作伙伴关系

2025-06-30 10:01:26 英文原文

作者：Liu, Nan

生成人工智能（Genai）模型，例如生成对抗网络（GAN）和基于变形金刚的大语言模型（LLMS），以加速的节奏开发，并将其定位为全球临床工作流程和医疗保健系统。但是，Genai在医学和医疗保健领域的迅速增长不仅带来了前所未有的机会，而且还带来了这种新技术和关键脆弱性在安全，治理和监管监督方面的系统风险。Genai和LLM本质上是非确定性的，具有广泛的通才功能，并显示不断发展的能力1。这些特征挑战了为确定性的，特定于任务的人工智能（AI）模型而设计的常规监管框架，例如用于医疗设备的软件（SAMD）的模型。

与Genai和LLM在医疗保健中的应用相关的一些基本风险是明确的，但尚未通过当前的监管框架（已知未知数）充分解决，而其他风险和挑战甚至尚未浮出水面（未知未知）。已知的未知数包括缺乏训练数据的透明度（包括可能使用合成数据进行培训2），对偏见的敏感性，不正确的医疗内容幻觉以及在高风险临床环境中的潜在滥用1（方框1）。

参考

  1. Ong，J。等。柳叶刀数字。健康 6，E428 e432（2024）。

    文章一个 CAS一个 PubMed一个 Google Scholar一个 

  2. Sheng，B。等。纳特。生物。工程 9，443 444（2025）。

    文章一个 PubMed一个 Google Scholar一个 

  3. Gallifant，J。等。纳特。医学 31，60 - 69（2025）。

    文章一个 CAS一个 PubMed一个 PubMed Central一个 Google Scholar一个 

  4. Ning，Y。等。柳叶刀数字。健康 6，E848 e856（2024）。

    文章一个 CAS一个 PubMed一个 PubMed Central一个 Google Scholar一个 

  5. Lekadir，K。等。BMJ 388，E081554（2025）。

    文章一个 PubMed一个 PubMed Central一个 Google Scholar一个 

  6. Callahan，A。等。NEJM CATAL。5，Cat.24.0131（2024）。

  7. Freyer，O。等。柳叶刀数字。健康 6，E662âE672（2024）。

    文章一个 CAS一个 PubMed一个 Google Scholar一个 

  8. Christopher，A。L。等。nejm ai1（8）（2024）

  9. Booth，A。等。BMJ Glob。健康 4，E001107（2019）。

    文章一个 PubMed一个 PubMed Central一个 Google Scholar一个 

下载参考

致谢

这项工作得到了新加坡卫生部资助的杜克 - 纳斯签名研究计划的支持。本材料中表达的任何意见，发现和结论或建议是作者的意见，并不反映卫生部的观点；Horizo​​n Europe计划的欧洲委员会是Cymedsec项目（101094218）和欧盟的一部分。所表达的观点和观点仅是作者的观点，不一定反映欧盟的观点。欧盟或授予当局都不能对他们负责。在其中表达的信息和观点的责任完全在于作者；德国联邦教育与研究部（通过欧盟资助的NextGenerationU计划，根据赠款编号16KISA100K，项目路径掌握健康和健康数据的个人掌握；NIH R01CA294033，NIH U54CA274516-01A1，美国癌症学会和美国放射肿瘤学会，Astro-CSDG-24-1244514-01-CTPS。

作者信息

作者和隶属关系

  1. 新加坡新加坡新加坡综合医院药房部

    茉莉花

  2. 新加坡新加坡杜克 - 纳斯医学院的公爵AI +医学科学倡议

    茉莉·奇特·林格（Jasmine chiat ling ong）

  3. 新加坡新加坡杜克大学医学院定量医学中心

    yilin ning，mingxuan liu，yianmaâ＆nan liu

  4. 英国赤道中心，牛津大学医学统计中心，英国牛津大学

    加里·柯林斯（Gary S. Collins）

  5. 美国马萨诸塞州波士顿的哈佛医学院大众米布里姆，美国马萨诸塞州马萨诸塞州的人工智能（AIM）计划（AIM）计划

    Danielle S. Bitterman

  6. 美国马萨诸塞州波士顿，杨百翰和妇女医院/达纳 - 法伯癌研究所的辐射肿瘤学系

    Danielle S. Bitterman

  7. 美国纽约州纽约市威尔·康奈尔医学科医学系医学系

    Ashley N. Beecy

  8. 信息技术数据科学，纽约 - 总理医院，纽约，美国纽约州

    Ashley N. Beecy

  9. 美国加利福尼亚州帕洛阿尔托市斯坦福大学医学院

    Robert T. Chang，Kuldev Singh和Nigam H. Shah

  10. 拜尔斯眼科研究所，斯坦福大学，美国加利福尼亚州帕洛阿尔托

    Robert T. Chang，Kuldev Singh和Daniel Shu Wei

  11. 英国伯明翰伯明翰大学医学与健康学院

    Alastair K. Denniston和Xiaoxuan刘

  12. 英国伯明翰的大学医院伯明翰NHS基金会信托基金

    Alastair K. Denniston

  13. 埃德斯·克雷恩·弗雷斯尼乌斯数字健康中心，tud德累斯顿技术大学，德累斯顿，德国

    奥斯卡·弗雷耶（Oscar Freyer）和斯蒂芬·吉尔伯特（Stephen Gilbert）

  14. 荷兰乌得勒支大学乌得勒支大学医学中心朱利叶斯健康科学与初级保健中心，荷兰

    Anne de Hond，Artuur M. Leeuwenberg和Karel G. M. Moons

  15. 加利福尼亚大学旧金山分校的药学系，美国加利福尼亚州旧金山

    Liang Zhao

  16. 新加坡新加坡杜克 - 纳斯医学院的卓越监管中心

    John C. W.Limâ＆silke Vogel

  17. 新加坡新加坡杜克 - 纳斯医学院的Singhealth Duke-Nus全球健康研究所

    约翰·C·W·林

  18. 加利福尼亚大学圣地亚哥分校医学系，美国加利福尼亚州拉霍亚

    克里斯托弗·A·朗赫斯特（Christopher A. Longhurst）

  19. 加利福尼亚大学圣地亚哥分校的儿科，美国加利福尼亚州拉霍亚

    克里斯托弗·A·朗赫斯特（Christopher A. Longhurst）

  20. 中国北京的Tsinghua大学Tsinghua医学

    YueQiuâ＆tien yin wong

  21. 英国伦敦的柳叶刀小组

    Rupa Sarkar

  22. 上海上海大学电子，信息和电气工程学院计算机科学与工程系，中国上海

    本·尚

  23. AI，电子，信息和电气工程学院的MOE主要实验室，上海

    本·尚

  24. 新加坡新加坡，新加坡新加坡卫生服务的人工智能办公室

    Iris Siu KwanTanâ＆daniel Shu Wei

  25. 新加坡新加坡新加坡新加坡新加坡的新加坡眼睛研究所

    Yih Chung Tham，Daniel Shu Wei＆tien Yin Yin Wong

  26. 新加坡新加坡国立大学Yong Loo Lin医学院眼科系

    Yih Chung Tham

  27. 新加坡国立大学和新加坡国立大学卫生系统的Yong lin医学院创新与精密眼保健中心，新加坡

    Yih Chung Tham

  28. 新加坡新加坡杜克 - 纳斯医学院的眼科与视觉科学学术临床计划（EYE ACP）

    Yih Chung Tham

  29. 纳菲尔德临床神经科学系医学科学系，牛津大学，英国牛津大学

    Arun J. Thirunavukarasu

  30. 新加坡新加坡杜克大学医学院教育办公室研究生研究系

    西克·沃格尔（Silke Vogel）

  31. 明尼苏达州明尼阿波利斯大学明尼苏达州明尼苏达州明尼苏达州明尼苏达州明尼阿波利斯大学手术系计算健康科学系

    Rui Zhang

  32. 美国明尼苏达州明尼苏达州明尼苏达大学的学习卫生系统科学中心

    Rui Zhang

  33. NEJM AI，美国马萨诸塞州波士顿

    Jianfei Zhao

  34. 中国上海的斋河医学研究与教育

    Jianfei Zhao

  35. 墨尔本大学，墨尔本大学，澳大利亚维多利亚州墨尔本大学数字化转型中心

    温迪W.查普曼

  36. 美国加利福尼亚州帕洛阿尔托市斯坦福大学医学系

    Nigam H. Shah

  37. 美国加利福尼亚州帕洛阿尔托市斯坦福大学临床卓越研究中心

    Nigam H. Shah

  38. 北京视觉科学与转化眼研究所（BERI），中国北京北京的临床医学学院

    Tien Yin Wong

  39. 新加坡新加坡杜克 - 纳斯医学院卫生服务与系统研究中心院前与紧急研究中心

    Nan Liu

  40. 新加坡新加坡国立大学的NUS人工智能研究所

    Nan Liu

  41. 美国北卡罗来纳州达勒姆大学杜克大学生物统计学和生物信息学系

    Nan Liu

作者

  1. 茉莉花
  2. yilin ning
  3. 加里·柯林斯（Gary S. Collins）
  4. Danielle S. Bitterman
  5. Ashley N. Beecy
  6. 罗伯特·张
  7. Alastair K. Denniston
  8. 奥斯卡·弗雷耶（Oscar Freyer）
  9. 斯蒂芬·吉尔伯特（Stephen Gilbert）
  10. 安妮·德·本德（Anne de Hond）
  11. Artuur M. Leeuwenberg
  12. Liang Zhao
  13. 约翰·C·W·林
  14. mingxuan刘
  15. 小刘
  16. 克里斯托弗·A·朗赫斯特（Christopher A. Longhurst）
  17. Yian MA
  18. Yue Qiu
  19. Rupa Sarkar
  20. 本·尚
  21. 库尔德夫·辛格（Kuldev Singh）
  22. 虹膜siu kwan tan
  23. Yih Chung Tham
  24. Arun J. Thirunavukarasu
  25. 丹尼尔·舒·韦（Daniel Shu Wei）
  26. 西克·沃格尔（Silke Vogel）
  27. Rui Zhang
  28. Jianfei Zhao
  29. 温迪W.查普曼
  30. Nigam H. Shah
  31. Karel G. M. Moons
  32. Tien Yin Wong
  33. Nan Liu

相应的作者

对应Tien Yin Wong或者Nan Liu。

道德声明

竞争利益

的。在Whalesdontfly GmbH中担任领导角色，并与Peraa Health Ltd有咨询关系；S.G.是Ernst＆Young协调的研究研究咨询小组的成员，该研究代表欧洲委员会的健康和食品安全局代表医疗设备领域进行的医疗设备领域。S.G.与UNA Health GmbH，Lindus Health Ltd，Flo Ltd，Thimia Ltd，Forum Institutfã¼r管理GmbH，High-TechGrã¼nderFondsManagement GmbH和Ada Health GMBH的咨询关系D.S.B.是辐射肿瘤学，hemonc.org（无财务补偿），副编辑JCO临床癌信息，在Mercurialai进行咨询和咨询工作（与本文无关）。所有其他作者都没有宣称没有相关的利益冲突。

关于这篇文章

Check for updates. Verify currency and authenticity via CrossMark

引用本文

Ong，J.C.L.，Ning，Y.，Collins，G.S。等。国际医学生成人工智能模型的国际合作伙伴关系。Nat Med（2025）。https://doi.org/10.1038/s41591-025-03787-4

下载引用

  • 出版：

  • doi：https://doi.org/10.1038/s41591-025-03787-4

关于《国际医学生成人工智能模型的国际合作伙伴关系》的评论

暂无评论

发表评论



摘要

生成的AI模型，包括基于gan和基于变压器的LLM，正在迅速整合到全球医疗保健系统中，但在安全，治理和监管监督方面存在系统性风险。这些技术的非确定性和不断发展的能力挑战了为确定性，特定于任务的AI模型而设计的现有监管框架。已知的挑战包括数据透明度问题，潜在的偏见，不正确的内容产生以及在临床环境中的滥用，而其他风险仍然不明。

相关新闻

相关讨论