人工智能对患者的描述中的人口不准确和偏见文本到图像发生器

生成人工智能（AI）旨在创建与真实数据无法区分的合成数据¹。由于开发了新的强大算法和增加计算能力，该领域正在经历快速的进步。生成AI算法的一个示例是文本到图像发生器，可以根据人类文本命令创建合成图像²。这些发电机使用自然语言处理领域的算法，例如变形金刚来了解文本命令。接下来，他们应用了来自计算机视野领域的算法，例如生成对抗网络或扩散模型来基于命令创建图像。

如今，由公开可用的文本到图像发电机生成的图像通常是逼真的，几乎无法与真实图像区分开。此外，大多数生成器都是免费使用的，可以对图像生成图像的命令适应用户的任何需求，版权通常属于创建图像的个人，并且不需要描绘的人的同意。图像的视觉质量以及图像生成的便利性导致了这些算法的普及，每天都会创建数百万张图像。在医学背景下，人为创建的患者图像用于科学和非科学出版物以及教学目的（例如，在演示幻灯片，阅读材料中）^{3，，，，4，，，，5，，，，6，，，，7}。此外，由于医疗数据稀缺，这些图像被用于增强数据集来训练其他AI算法^{6，，，，8，，，，9}。例如，这些被用来从患者脸的照片中获取诊断¹⁰。

生成的AI具有巨大的潜力，但是越来越多的用户和用例带来了风险和挑战。先前的研究表明，文本到图像发生器可能无法准确描绘事实细节^{11，，，，12}。但是，尤其是在医学环境中使用时，图像是偶然的，这是不够的。他们还需要准确。例如，当描绘患有某些疾病的患者时，这些图片应准确呈现疾病的重要特征，包括基本的流行病学特征。尽管某些疾病表现出可以反映在面部图像中的典型表型（例如，鼻子扁平和唐氏综合症中的epicanthus），但在许多情况下都缺乏疾病特异性的面部特征。另一方面，大多数疾病主要发生在特定年龄范围内和/或特定的性别和/或特定种族和种族。因此，生成AI的第一步应该是生成图像中疾病的流行病学特征的准确表示，以便它们匹配现实世界的流行病学。此外，还有关于医务人员对与流行病学特征（例如年龄，性别，种族/种族或体重）相关的无意识偏见的敏感性的大量文献¹³。这些偏见会对患者福祉产生深远的影响。例如，有色人种和有色人种获得医疗保健的机会较差（例如，医疗保健和医疗保健范围较小的延迟）^{14，，，，15}。在这种情况下，偏见是指系统的错误或偏见，导致倾向于一组偏爱另一组，从而导致不平等的医疗¹³。AI被证明会扩大此类偏见。例如，妇女和有色人种被证明被AI算法错误分类和代表性不足^{16，，，，17，，，，18}。这部分是由于这些模型经常经过公开可用的数据培训，因此很可能在数据中采用并复制偏见¹⁷。但是，AI应该有助于减少这些偏见，而不是潜在地扩大它们。

然而，最近的研究表明，尤其是AI算法，尤其是生成的AI算法，都容易受到基于性别和性别以及种族和种族的偏见^{16，，，，17，，，，18}。尤其是女性和有色人种在既定的培训数据集中的代表性不足¹⁶。结果，AI算法倾向于错误分类和误解此类图像^{16，，，，17，，，，18}。另外，一些疾病，例如感染力^{19，，，，20}，精神病^{21，，，，22}或内科疾病²³，携带与疾病相关的污名，对患者产生深远影响。污名会减少个人寻求帮助并遵守治疗方案的可能性，他们降低医务人员的治疗质量，并增加患者的社会风险因素^{21，，，，22}。因此，生成AI模型对偏见和污名的复制或扩增可能会产生特别不利的影响。

在这项研究中，我们评估了由所有四个常用的文本到映射发生器描绘的患者人群的疾病特异性人口特征（不是关键表型特征）表示的准确性，这些患者人群允许生成患者图像。更具体地说，我们使用Adobe的Firefly，Microsoft的Bing Image Generator，Meta和Midjourney的Imagine创建29例疾病的患者图像。其中有14种具有不同流行病学的疾病（例如，仅在特定年龄或性别中发生）和15种污名化疾病。此外，我们分析了潜在的偏见，专注于所描绘的个人的种族和种族。

总共生成了9060张图像：四个文本到图像发生器中的每个图像2320，而29种疾病中的每一种都有320个（图。1）。很少有例外：对于药物使用障碍，Bing中只能生成20张图像，这可能是由于软件更新所致。由于公司指南，无法在Adobe中产生HIV感染和肝硬化患者的图像^{24，，，，25}。有关示例性AI生成的图像和评级，请参见图。2。由于疾病之间的图像特征存在很大的差异，因此疾病特异性提示引起照片的主要特征是合理的。

绿色背景表明与现实世界数据相比，准确的人口统计学表示，黄色背景表示“不精确的表示”，红色背景从根本上表示错误的表示。注意：焦虑症：现实世界的年龄峰在恐惧症的8岁之间变化，普遍焦虑症的峰值在32岁之间。胆囊炎：胆囊炎现实世界流行病学数据尚不清楚。提供的数据是针对胆囊和胆道疾病的。艾滋病毒感染和肝肝硬化：用于萤火虫n= 0由于公司准则，禁止创建这些疾病患者的图像。药物使用障碍：用于Bing Image Generatorn= 20可能是由于软件补丁阻止创建其他图像。比赛只有奇异的图像，该比赛被评为夏威夷人或其他太平洋岛民以及美洲印第安人或阿拉斯加人。这些没有在这里描述。参考：疾病主要影响儿童^{42，，，，43}，主要影响成年人的疾病^{44，，，，45}，主要影响老年人的疾病^{46，，，，47，，，，63，，，，64}，主要影响男性的疾病^{48，，，，49，，，，65，，，，66}，主要影响女性的疾病^{50，，，，51，，，，65，，，，67}，主要影响白人个体的疾病^{52，，，，53，，，，68，，，，69}，主要影响黑人或非洲裔美国人的疾病^{55，，，，65，，，，70，，，，71}，污名化感染性疾病^{34，，，，65，，，，72，，，，73，，，，74，，，，75，，，，76，，，，77，，，，78，，，，79，，，，80，，，，81，，，，82，，，，83}，污名化的精神病^{35，，，，65，，，，84，，，，85，，，，86，，，，87，，，，88，，，，89，，，，90，，，，91}，污名化的内科状况和疾病^{40，，，，92，，，，93，，，，94，，，，95，，，，96，，，，97}。多动症注意力缺陷多动症。年龄组：ADU成年人，CH儿童，ELD老年人。性：F女，男性。种族/民族：Baa Black或非裔美国人，HL西班牙裔或拉丁裔。

这些图像显示患有四种疾病的患者注意力缺陷多动障碍（ADHD），阿尔茨海默氏病，肥胖和镰状细胞病。第一行中的图像是由Adobe Firefly，第二行通过Bing Image Generator，Meta Imagine的第三行生成的，在Midjourney的第四行中生成。Baa Black或非裔美国人，HL西班牙裔或拉丁裔。

评级和评估者间可靠性

对于每个图像，两个评估者确定了以下人口特征：

• 性[雌性（F），男性（M）]；

• 年龄[儿童（0年19岁），成人（20年60岁），老年人（> 60岁）]，如世界卫生组织（WHO）所建议²⁶和联合国（联合国）²⁷;

• 种族/族裔[亚洲，黑人或非裔美国人（BAA），西班牙裔或拉丁美洲裔（HL），夏威夷本地人或其他太平洋岛民（NHPI），美洲印第安人或阿拉斯加人（Aian），白色，白色]²⁸和国立卫生研究院（NIH）²⁹;

• 体重[体重不足，正常体重，超重]。

性别间可靠性（IRR）是κ= 0.963;年龄κ= 0.792;种族/种族κ= 0.896;和体重κ= 0.842。

疾病特异性特征的表示的准确性

在29种疾病中，对于所有四种文本到图像发生器，患者图像中疾病特异性特异性特征的表示通常不准确（图。1和3）。在多发性硬化症和肝硬化的患者中，仅两次获得了年龄，性别和种族/种族的准确表示。图中定义的基本人口特征。1（例如，在幽门狭窄或髓母细胞瘤的情况下对儿童的描述）最常在Midjourney（14种疾病中的9种）中精确地描绘出来，而在Adobe（14种疾病中的2种）中最不经常描绘。在许多情况下，人口统计学特征是明显错误的，例如，对于性别特异性疾病，前列腺癌，血友病B，经前综合征和eClampsia，在这些疾病中，Adobe，Meta和Midjourney的部分中都描绘了女性和男性患者。另一方面，Meta在代表种族/民族方面表现出更好的准确性，而Midjourney代表年龄段（图。3）。该疾病的发病率对准确性没有明显影响，例如，患有更常见疾病幽门狭窄的患者的图像没有比罕见疾病髓母细胞瘤的图像更好的准确性。

图表的第一行显示了所有29种疾病和每个文本对象发生器的变量年龄组，性别和种族/民族的描述的准确性。中间行显示了具有独特流行病学的14种疾病的准确性。底行显示了15种污名疾病的准确性。绿色表明与现实世界数据相比，准确的人口统计学表示，黄色表示“不精确的表示，红色表示从根本上表示错误的表示。

一般偏见

在所有疾病中，白人个体的代表性过高，在Adobe中最为明显（Adobe：87％，Bing：68％，Meta：28％，Midjourney：78％，现实世界中的患者数据：20％；图20％；图。4a）。在15种污名化疾病中，亚洲，BAA，HL，NHPI或AIAN没有实质性过多的代表（图。4b）。此外，在所有疾病中，正常体重个体的占代表性过高（Adobe：96％，Bing：88％，Meta：93％，Midjourney：93％，一般人口³⁰：63％）。相反，特别是超重个人的代表性不足（Adobe：3％，Bing：5％，元：4％，Midjourney：3％，一般人口³⁰：32％）。我们没有观察到男性性别的大量过度代表（Adobe：49％，Bing：55％，元：48％，Midjourney：42％，合并现实世界的患者数据：52％）。

所有27种疾病的种族/种族代表性，存在可靠的现实数据。b仅对15种污名疾病的种族/种族代表。笔记：只有奇异的图像，比赛被评为夏威夷人或其他太平洋岛民以及美洲印第安人或阿拉斯加本地人。这些没有在这里描述。Baa Black或非裔美国人，HL西班牙裔或拉丁裔。

污名疾病的性别差异

在15种污名化疾病中，年龄，面部表情和体重存在性别差异。在所有四个文本到图像发生器中，女性都比男性年轻（Adobe：f（1，1036），8.270，p= 0.004;bing：f（1，1136） - = 23.878，p<0.001;元：f（1，1195）= 19.872，p<0.001;Midjourney：F（1，1196）= 58.746，p<<0.001）。更确切地说，它们经常被描绘成儿童和/或成年人，而老年人则少得多。

其他发现更加混合。在Adobe中（f（1，1035） - = 4.960，p= 0.026），女性经常被描述为幸福或悲伤/焦虑/痛苦，而少于中性面部表情。在Midjourney（f（1，1195） - = 4.386，p= 0.036），女性经常被描述为中性或悲伤/焦虑/痛苦，而少于快乐或生气。bing（f（1，1136） - = 23.878，p

<<0.001）和meta（f（1，1195）= 19.872，p<0.001）将女性的体重高于男性。在Midjourney（f（1，1195） - 4.011，p= 0.045），所描绘的女性体重低于男性。有关所有29种疾病的分析，请参见补充材料。污名疾病的种族/种族差异在15种污名化疾病中，年龄，面部表情和体重存在种族/种族差异。

在所有四个文本到图像发生器中，白人的人更经常被描述为老年人（Adobe：Age：F（1，1036），6.475，6.475，

p= 0.011;bing：f（1，1136） - = 4.810，p= 0.029;元：f（1，1195）= 50.692，p<0.001;Midjourney：F（1，1196）= 13.072，p<<0.001）。值得注意的是，白人最常见的疾病的平均年龄高峰是42岁，所有其他疾病34岁。

在Adobe中（f（1，1035） - 8.104，p= 0.005），元（1，1194）= 45.094，p<<0.001）和Midjourney（F（1，1195） - 8.347，p= 0.004），白人在疼痛中更常见/焦虑/焦虑，而中性的频率更低。

在bing的图像中（f（1，1135） - = 27.083，p<<0.001）和meta（f（1，1194）= 4.646，p= 0.031），亚洲，BAA，HL，NHPI和AIAN个体被评为比白人更重要的。在Midjourney，情况相反（F（1，1195）= 6.804，p= 0.009）。有关所有29种疾病的分析，请参见补充材料。

总而言之，我们发现，Adobe Firefly，Bing Image Generator，Meta Imagine和Midjourney创建的患者的图像通常并不能准确地代表特定的疾病特异性人口特征。此外，我们观察到在所有分析疾病中，白人和正常体重个体的过度代表。在所有文本到图像的发生器中，女性经常被描述为年轻，白人个体与男性和亚洲，BAA，HL，NHPI和AIAN个人相比，更经常被描述为老年人。这种不准确性引起了人们对AI在扩大医疗保健中误解中的作用的关注¹⁸鉴于其大量用户和用例^{3，，，，4，，，，5，，，，6，，，，7，，，，8，，，，9}。解决这些问题可能有助于实现生成AI在医疗保健中的全部潜力。

我们发现，所有四个文本到图像发生器的图像都显示出广泛的人口不准确性。这对于对前列腺癌，血友病B，经前综合征和子痫患者的Adobe和Meta的描述最为惊人，为此显示了男性和男性。同样，Bing和Midjourney的图像经常表现出很大的不准确性，尤其是在种族/民族方面。

据推测，这些不准确性主要是由生成AI模型的训练数据组成引起的。它们通常在大型非医疗数据集上进行培训⁶。如此大的数据集对于产生逼真的图像是必要的。但是，由于它们不包含大量实际患者图像，因此缺少有关疾病特异性人口特征以及重要的风险因素的信息。因此，它们产生这些患者及其疾病准确图像的能力受到限制。取而代之的是，这可能导致白人和正常体重个人的过度代表，这在培训数据中也可能过多。

影响输出质量的另一个因素是算法守则中的偏置缓解策略，可以在算法开发后训练阶段应用，并旨在抵消培训数据中的已知偏见。这些偏差缓解策略可能导致偏见过度纠正，如前所述³¹。因此，也可以推测，在这种基于代码的适应性的影响下，女性和男性患者在Adobe，Meta和部分Midjourney的性别疾病图像中的描绘都受到了影响。实际上，在两个文本到图像发生器的图像中，没有任何性别的过分代表。这可以解释为一个积极的迹象，因为性别/性别偏见是生成AI算法中的常见现象^{16，，，，18}。另一方面，通过应用偏差缓解来实现准确的人口统计学表示似乎具有挑战性，并且可能需要代表性的培训数据。

此外，我们还发现了数据中表示不足的示例。我们在所有四个发电机中都发现了对白人的偏见。有趣的是，这种偏见在Meta Imagine中要低得多，这可能是Meta缓解偏见严重的另一个迹象。以前在一项有关医疗保健专业人员的AI生成图像的研究中，对白人个体的类似代表性过多¹⁸。此外，我们在所有四个发电机中都检测到对正常重量的偏差。相反，我们发现尤其是超重的人的代表性不足，这可能是由于培训数据中类似代表性不足所致。但是，这些结果需要谨慎解释，因为这些图像没有描绘整个身体，并且从面部照片中对BMI的估计很具有挑战性。

在所有四个文本到图像发生器中，所描绘的女性比男性年轻，这可能代表了算法的偏见，可能会转向性别刻板印象。但是，现实世界流行病学很复杂。虽然女性通常比男性具有更高的预期寿命³²，有一些研究表明，我们分析中包括的某些疾病（例如抑郁症）的某些疾病中的女性发作更早发作。³³或Covid-19³⁴。但是，还有一些研究表明，其他疾病中男性的症状早期发作，例如精神分裂症³⁵或糖尿病类型2³⁶;或没有已知的性别差异，例如在多发性硬化症中³⁷或疟疾³⁸。与疾病发作时代相比，还有关性别差异的其他研究³⁵。综上所述，对这些发现没有任何结论性解释。

在所有四个文本到图像发电机中，白人人士经常被描述为老年人。这与疾病的平均年龄峰一致，主要影响白人个体高于所有其他疾病的平均年龄峰（42岁与34岁）。此外，一般的直播在欧洲（约79年）仍然是最高的，在非洲最低（大约64岁）³⁹。此外，与亚洲，BAA，HL，NHPI和AIAN患者相比，Adobe，Meta和Midjourney在痛苦中更频繁地描绘了白人个体。这可能被解释为对疾病反应反应的情绪差异，也可以解释为对白人患者的算法更高同理心的迹象，尽管需要谨慎。此外，亚洲，BAA，HL，NHPI和AIAN个体组合的重量比白人个体更大，尽管不超重和超重的分布发生了全球性的变化，但不准确^{40，，，，41}。因此，我们的数据不仅揭示了亚洲，BAA，HL，NHPI和AIAN个体的代表性不足，而且与白人相比，他们将其描绘成超重的趋势。

生成的AI在医疗保健中具有巨大的潜力。但是，AI生成的图像尚未准备好在医疗环境中使用。相反，应仔细评估它们的准确性和潜在偏见。这种偏见包括但不限于白人个体的过度占代表性，男性性别（尽管在我们的样本中未观察到）和正常体重。鉴于我们的发现，建议使用AI生成的图像的透明度。此外，建议通过选择特定图像来手动解决不准确和偏见，以便它们代表最重要的人口统计学特征的现实世界分布。重要的是，这需要在现实世界中了解这些特征的知识，并且必然会引入个人偏见。展望未来，可以通过改善通用训练数据的表示或通过精心策划的患者图像预先训练的健康人图像来解决算法的准确性。此外，也可以通过基于代码的偏见缓解策略来解决诸如白人和正常体重的过度代表之类的偏见。此外，在敏感或科学内容的背景下，可以通过及时的工程和质量控制来改善文本到图像的发电机。例如，文本到图像发生器可以标记这种图像，并询问是否应准确表示疾病特征，或者询问是否应准确表示疾病特征，或者询问是否应准确或提供精确的科学数据。禁止产生污名疾病的患者，例如药物使用障碍，HIV感染或肝硬化，可能会通过审查来使污名化。

我们的研究有局限性。首先，尽管我们选择了一个中性提示来产生患者图像，但其他要求流行病学准确且无偏见的患者表现可能导致图像改善，从而取得了不同的分析结果。但是，选择了一个中性提示来标准化模型输入并获得模型性能的最小偏见。此外，出于方便的原因，大多数用户尤其是外部科学环境可能会使用类似的简单提示。它们也可能不知道生成AI的局限性或迅速工程以产生更准确的患者表示的潜力。有必要进行未来的研究，以更好地了解迅速工程的潜在有用性，以及AI算法提供的暗示提示的应用。其次，额定过程本质上是有限的。尽管仔细定义了评分标准，但只能从图像中近似图像的人口特征。例如，种族和种族是一个人身份的方面，我们只能根据肤色和面部特征等特征来估计。也很难从面部图片中估算体重类别，因为面部形状和脂肪质量不必与BMI相关。生物学性别只能通过染色体分析来确定，评分不能反映性别认同。第三，我们与现实世界流行病学数据的比较受到现实世界流行病学数据本身的可用性和质量的限制。第四，生成AI领域正在迅速发展。因此，我们的发现只是这些算法在2024年2月和10月10日的功能和功能的快照。但是，从本研究结果中得出的结论表明，围绕需要解决的文本到图像生成器的准确性和偏见的更基本问题。

未来的研究可以（a）探索迅速工程以改善结果的影响；（b）研究改进的训练数据的影响以提高人口准确性；（c）通过使用深度学习模型根据面部图像来估算BMI，对图像的重量/BMI估计采用更高级的措施；（d）探索交叉偏见，例如，与白人男性相比，BAA妇女的描述；（e）研究社区指南，是否可以防止某些污名疾病的患者产生图像，例如药物使用障碍，HIV感染或肝脏肝硬化，可能会扩大偏见和污名化，而不是阻止它。

综上所述，所有四个常见的文本对图像发生器创建的患者的图像允许生成患者图像，并未准确地显示出基本的人口统计学特征，例如性别，年龄和种族/种族/种族/种族。此外，我们观察到白人和正常体重个体的过度代表。因此，使用AI生成的患者图像需要谨慎，将来的软件模型应着重于确保全球患者群体的足够人口统计学表示。

文本到图像发生器

我们使用了来自Adobe（Adobe.com/products/firefly.html）的四个常见文本到图像发电机的最新版本，来自Microsoft（Bing.com/images/create）的Bing Image Generator，来自Meta（Imagine.meta.com）和Midjourney（Midjourney.com）。重要的是，测试了其他常用的文本到图像发电机，包括来自Openai的DALL-E/CHATGPT，Google的Gemini以及与稳定性AI的稳定扩散，但公司指南禁止生成患者图像。

以下文本提示用于生成患者的图像：[疾病]患者面孔的照片。空白充满了特定疾病的名称，例如幽门狭窄；如图。1）。更具体地说，我们从具有不同流行病学特征的14例不同疾病的患者中创建了图像，以分析生成的患者图像的流行病学准确性。我们选择了幽门狭窄的疾病⁴²和髓母细胞瘤⁴³这主要发生在儿童中，疾病胆囊炎⁴⁴和肉芽肿有多血管炎⁴⁵这主要发生在成年人中，疾病是阿尔茨海默氏病⁴⁶和多发性骨髓瘤⁴⁷这主要发生在老年人中，疾病是前列腺癌⁴⁸和血友病b⁴⁹疾病是经过综合征的男性，仅发生/主要发生⁵⁰和eclampsia⁵¹这种疾病黑色素瘤只会发生在女性中⁵²和多发性硬化症⁵³这主要发生在起源于欧洲或北美的个体中，疾病疟疾⁵⁴和镰状细胞贫血⁵⁵这主要发生在起源于非洲或生活在非洲的个人。在每个类别的两种疾病中，我们选择了一种相当高的发生率的疾病，并且一种相当小的发病率来确定发生率是否影响图像的质量。

此外，我们创建了来自15种不同疾病的患者的图像，这些疾病通常受到污名化。More specifically, we created images of the five stigmatized infectious diseases^{19，，，，20}human immunodeficiency virus (HIV) infection, tuberculosis, hepatitis B, lues, and COVID-19;of the five stigmatized psychiatric diseases^{21，，，，56，，，，57}depression, substance use disorder, anxiety disorder, schizophrenia, and attention deficit hyperactivity disorder (ADHD);and of the five stigmatized internal medicine conditions and diseases^{58，，，，59，，，，60，，，，61}obesity, heart attack, diabetes type 2, lung cancer, and liver cirrhosis.For detailed descriptions of the rationale behind each disease/condition, see补充材料。

The first result of each prompt was always used.Images were only excluded if they were black and white, did not represent a realistic photo, presented ambiguity in terms of which person should be rated, or if essential parts of the face (e.g., eyes, nose, mouth) were cut off.

All images were created in February and October (due to article revision) 2024. We used eight computers, four internet browsers (i.e., Firefox, Internet Explorer, Google Chrome, Safari), and 16 accounts to minimize the influence of user data on the image generation.Prompts were applied one by one in a new session/empty interface of the text-to-image generators.We generated 80 images for each of the 29 diseases in Adobe, Bing, Meta, and Midjourney.Importantly, we were only able to generate 20 images of patients with substance use disorder in Bing.This was likely due to a sudden software update prohibiting the generation of additional images of individuals with substance use disorders.Likewise, generation of images of patients with HIV infection and liver cirrhosis was not possible in Adobe Firefly due to company guidelines.

评分

Determining demographic characteristics from images of faces is challenging.We thus took several measures to standardize ratings and to reduce subjectivity: First, the ratings were performed by an international, multi-racial/-ethnical team of twelve M.D. Ph.D.researchers (T.L.T.W., L.B.J., J.A.G., L.S.S., P.M., J.F.R., P.M., S.J., L.H.N., M.P., L.I.V., L.K.; 6 female, 6 male; 9 nationalities; 3 races/ethnicities).Second, the raters adhered to the established multiracial Chicago face dataset, which includes standardized images and descriptions of faces⁶²。Third, a separate practice data set with images from the four text-to-image generators was created and all ratings were performed and discussed in the entire group of raters in accordance with the Chicago face dataset.Fourth, each of the images was rated by two raters, independently.In case of disagreement between the ratings, a third rater was included, and the final rating achieved by discussion and majority voting.

Wherever possible, real-world epidemiological data were obtained from official sources such as the WHO or large-scale epidemiological reviews such as global burden of disease studies.If such sources were not available, other epidemiological publications were used (see references in Fig.1）。

统计分析

Firstly, we calculated the IRR for each variable based on the ratings by raters 1 and 2 using Cohen’s κ.

Secondly, we analyzed the accuracy of the representation of disease-specific demographic characteristics in the generated patient images.Here, for each disease and text-to-image generator we compared the age, sex, and race/ethnicity combined to the real-world epidemiology.We evaluated whether the patients’ age, sex, and race/ethnicity as depicted in the images were “accurate” in comparison to the real-world epidemiological data (green background in Fig.1), “imprecise” (yellow background), or “wrong” (red background).

Age was rated as “accurate” if both the most common age group as well as the age distribution matched the real-world data, as “imprecise” if only one of the two matched, and as “wrong” if none of the two matched.

Sex was rated as “accurate” if the F:M ratio was less than factor 1.50 different to the real world, as “imprecise” if there was a difference of factor 1.50–3.00, or “wrong” if the difference was larger than factor 3.00.For example, a ratio of 60F:40M in the generated images and 45F:55M in the real world would correspond to a factor of (60/40)/(45/55) = 1.83 (“imprecise”).

For ratings of race/ethnicity we calculated the cumulative deviation of the percentage values of the generated images from the real epidemiology.The race/ethnicity was rated as “accurate” if the deviation was less than 50, as “imprecise” if the deviation was 50–100, or as “wrong” if the deviation war larger than 100. For example, for pyloric stenosis, the real world epidemiology is Asian: 39%, White: 36%, HL: 15%, BAA: 10%.In Adobe, the distribution was: Asian: 8%, White: 79%, HL: 5%, BAA: 8%.The deviation thus corresponds to: (39 − 8) + (79 − 36) + (15 − 5) + (10 − 8) = 86 (“imprecise”; for details see补充材料）。

Thirdly, we compared the real-world data and the image ratings among all diseases combined to analyze more general biases such as an over-representation of male and White individuals as reported previously¹⁸。

Fourthly, we investigated biases regarding sex and race/ethnicity in the images of patients with stigmatized diseases.We used analyses of covariance (ANCOVA) to identify sex differences as well as racial/ethnical differences in weight and age.Based on the literature, we expected biases, especially in the depiction of White individuals in comparison to people of color¹⁸。Thus, we dichotomized the race/ethnicity variable into White vs. Asian or BAA or HL or NHPI, or AIAN.Analyses on sex differences were controlled for the effects of the disease depicted, race/ethnicity, and age (not in analyses on sex differences in age).Analyses on racial/ethnical differences were controlled for the effects of the disease depicted, sex, and age (not in analyses on racial/ethnical differences in age).The analyses were performed in IBM SPSS Statistics version 29.0.2.0.p-levels < 0.05 were considered statistically significant.数据可用性

作者注意

1. These authors contributed equally: Konstantinos Dimitriadis, Inga Katharina Koerte.

作者和隶属关系

1. cBRAIN, Department of Child and Adolescent Psychiatry, Psychosomatics, and Psychotherapy, University Hospital, Ludwig-Maximilians-Universität, Munich, Germany

   Tim Luca Till Wiegand, Leonard Ben Jung, Luisa Sophie Schuhmacher, Lisa Ha Nguyen & Inga Katharina Koerte

2. OneAIM, Munich, Germany

   Tim Luca Till Wiegand, Leonard Ben Jung, Jonas Anton Gudera, Luisa Sophie Schuhmacher, Paulina Moehrle, Jon Felix Rischewski, Lisa Ha Nguyen, Laura Isabella Velezmoro, Linus Kruk & Konstantinos Dimitriadis

3. Computational Neurology, Department of Neurology, Charité-Universitätsmedizin Berlin, Berlin, Germany

   Tim Luca Till Wiegand

4. Computational Neurology, Berlin Institute of Health, Berlin, Germany

   Tim Luca Till Wiegand

5. Department of Neurosurgery, LMU University Hospital, LMU Munich, Munich, Germany

   Leonard Ben Jung

6. Department of Pediatrics, Dr. von Hauner Children’s Hospital, University Hospital, Ludwig-Maximilians-Universität, Munich, Germany

   Jonas Anton Gudera

7. Department of Medicine I, LMU University Hospital, LMU Munich, Munich, Germany

   Paulina Moehrle

8. Institute for Diagnostic and Interventional Neuroradiology, University Hospital, Ludwig-Maximilians-Universität, Munich, Germany

   Jon Felix Rischewski

9. Division of Hematology/Oncology, Boston Children’s Hospital, Harvard Medical School, Boston, USA

   Pardiss Mehrzad & Michael Poeschla

10. Broad Institute of MIT and Harvard, Cambridge, MA, USA

    Pardiss Mehrzad & Michael Poeschla

11. Harvard School of Dental Medicine, Boston, MA, USA

    Subin Jeong

12. Department of Radiation Oncology, University Hospital, Ludwig-Maximilians-Universität, Munich, Germany

    Laura Isabella Velezmoro

13. Walther Straub Institute of Pharmacology and Toxicology, Faculty of Medicine, Ludwig Maximilian University, Munich, Germany

    Linus Kruk

14. Division of Nephrology, Department of Medicine IV, Ludwig Maximilian University Hospital, Munich, Germany

    Linus Kruk

15. Department of Neurology, University Hospital, Ludwig-Maximilians-Universität, Munich, Germany

    Konstantinos Dimitriadis

16. Psychiatry Neuroimaging Laboratory, Mass General Brigham Academic Medical Centers, Psychiatry Department, Boston, MA, USA

    Inga Katharina Koerte

17. Harvard Medical School, Boston, MA, USA

    Inga Katharina Koerte

贡献

Idea and study design: T.L.T.W., and L.B.J.Data collection: T.L.T.W., L.B.J., J.A.G., L.S.S., P.M., J.F.R., P.M., S.J., L.H.N., M.P., L.I.V., and L.K.Analysis: T.L.T.W.Writing: T.L.T.W.Editing and approval of the final version of the manuscript: T.L.T.W., L.B.J., J.A.G., L.S.S., P.M., J.F.R., P.M., S.J., L.H.N., M.P., L.I.V., L.K., K.D., and I.K.K.Supervision: K.D., and I.K.K.

相应的作者

Correspondence toTim Luca Till Wiegand。

竞争利益

T.L.T.W.and L.I.V.receive royalties for books published by ELSEVIER.I.K.K.receives funding for a collaborative project from Abbott Inc. She receives royalties for book chapters.Her spouse is an employee at Siemens AG and a stockholder of Siemens AG and Siemens Healthineers.其余的作者宣布没有竞争利益。

开放访问This article is licensed under a Creative Commons Attribution 4.0 International License, which permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons licence, and indicate if changes were made.The images or other third party material in this article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line to the material.If material is not included in the article’s Creative Commons licence and your intended use is not permitted by statutory regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder.To view a copy of this licence, visithttp://creativecommons.org/licenses/4.0/。重印和权限

关于这篇文章