就在几周后最大规模的护士罢工在纽约市的历史上，纽约市健康与医院的首席执行官对未来有一个大胆的愿景，即由人工智能（而不是人类放射科医生）来检查和诊断 X 射线。

在由克雷恩的纽约业务纽约 11 家医院公益公司的总裁兼首席执行官米切尔·卡茨 (Mitchell Katz) 公开表示，他希望用视觉语言 AI 模型取代训练有素的放射学专家，放射科业务报道。

“如果我们准备好应对监管挑战，我们现在可以用人工智能取代大量放射科医生，”卡茨在小组中说。

据他举的一个例子放射科通过使用人工智能工具自动进行乳腺癌筛查，将特别影响女性的医疗保健。卡茨宣称，通过让放射科医生待在人工智能系统将读数标记为异常之前，医院可以实现“重大节省”。

圣地亚哥北海岸成像公司的放射科医生穆罕默德·苏海尔 (Mohammed Suhail) 告诉我们放射科卡茨的言论“无可否认地证明，自信无知的医院管理人员对患者构成危险”，并且“很容易被根本没有能力提供患者护理的人工智能公司欺骗。”

“任何实施仅人工智能读取的尝试都会立即导致患者受伤和死亡，只有对放射学零了解的人才会说出如此幼稚的话，”Suhail 继续说道。“但从某种意义上说，他们是正确的：只要合法，医院就乐意削减成本，即使这意味着患者受到伤害。”

事实上，越来越多的研究表明，X 光室中的人工智能是一场即将发生的灾难。

在一个尚未经过同行评审的研究，斯坦福大学研究人员发现人工智能胸部X光工具建立在前沿人工智能模型无需看到 X 射线的实际图像即可通过医学基准测试。而不是承认这一点e如果图像丢失，得分最高的人工智能系统就会采取一种相当于廉价客厅伎俩的做法：为它从未接触过的 X 射线发现构建一个详尽的解释。这种情况超出了单纯的人工智能幻觉，成为研究人员所说的人工智能“海市蜃楼”。

生成人工智能错误我们已经预料到，人工智能的幻象从始至终都是极其理性的。问题是这些海市蜃楼没有任何根据，这意味着通常幻觉保障措施不足以阻止他们。

“在这种认知模仿中，模型模拟了得出答案的整个感知过程，”斯坦福大学的科学家们写道哦特。– 这有助于解释为什么推理痕迹本身无法证明视觉推理：痕迹可能是流畅的、连贯的，并且显然是基于图像的，但根本不锚定于任何图像。 –

除了强化先前的研究表明视觉语言人工智能模型功能盲，这项研究对于任何转向人工智能来精简放射科的医院都具有重大意义，更不用说那些不幸成为医学成像海市蜃楼的患者了。

有关医疗保健领域人工智能的更多信息：ChatGPT Health 在识别危及生命的医疗紧急情况方面表现得非常糟糕