作者:Sue Haupt, Bronwyn Graham and Jane Hirst
以上 人工智能在医疗领域的广泛应用为构建更加中立的性别语言并理解男女身体之间的差异提供了机会。(图片:Getty Images)
人工智能辅助的临床诊断准确性完全依赖于基础数据集的稳健性。如果不主动考虑历史数据集中性别和性别偏见,AI可能会导致漏诊或误诊。
幸运的是,调整这类偏见似乎能带来更好的女性医疗保健效果。
例如,传统的用于评估心脏病发作风险的评分系统——急性冠状动脉事件全球注册中心(GRACE)在2022年进行了更新,加入了人工智能预测模型,这些模型考虑了与性别相关的疾病特征。
此更新彻底革新了该评估工具的性能。其成功源于分别对男性和女性数据进行独立分析,这引导更多女性患者接受早期救命干预,有助于克服患者管理中的结构性偏见。
阅读更多:ApacMed首席执行官哈吉特·吉尔谈人工智能如何变革医疗行业
一个旨在解决和减少性别偏见的人工智能模型的实际例子是SMARThealth孕期GPT。该工具由全球健康乔治研究所开发,旨在提高基于指南的访问权限。怀孕给住在那儿的女人的建议(原文中提供的信息不足以确定具体地点,因此保持部分原文不变)农村和偏远社区在印度。
概念是开发一个大型语言模型聊天机器人,该机器人会根据上下文敏感并临床准确——并且避免固化有害的影响刻板印象.
乔治研究所团队与社区卫生工作者、临床医生和居住在农村社区的妇女密切合作,共同创建并完善了工具的算法。临床医生还根据准确性、适合社区卫生工作者的程度、完整性和偏倚风险对AI生成的答案进行了评分,这有助于改进聊天机器人的回复。
聊天机器人展示了人工智能在建设医疗工作者能力以及在资源有限的环境中增强健康教育方面的潜力——同时避免偏见并促进女性权利。
阅读更多:塑造更安全的未来:如何吸引和教育男性和男孩以终结基于性别的暴力
性别敏感的人工智能开发也可以改善无数其他依赖数据多样性和完整性以确保准确性的医疗技术:例如,定制个性化治疗方案、预测治疗反应、执行某些机器人辅助手术、远程监测患者、虚拟医疗服务和加速药物发现。
近年来,推进医疗领域性别平等的倡议也开始出现。这包括新成立的澳大利亚卫生与医学性别平等中心和英国医学科学性别平等组织。
这些项目积极倡导在从发现到转化研究的整个过程中,包括人工智能应用,常规考虑性别和性别的差异,以确保科学研究的严谨性作为促进健康和医疗保健发展的坚实基础。
人工智能是医疗保健的未来,我们不能承担因忽视性别和性别的差异而再次犯下健康不公平错误的代价。现在是时候编程人工智能,以便为我们绘制一条通往道德未来的道路。
本文中的信息仅供教育目的使用,并不作为医疗建议。
苏·豪普特博士是澳大利亚新南威尔士大学乔治全球健康研究所性别与健康医学平等中心的高级研究员,也是迪肯大学和墨尔本大学彼得·马克卡隆肿瘤学系的荣誉高级研究员。
Bronwyn Graham教授是全球健康乔治研究所性别与卫生医学平等中心的主任,同时也是新南威尔士大学心理学系的教授。
简·赫斯特教授是伦敦帝国理工学院公共卫生学院乔治全球健康研究所妇女健康项目主任。
最初由360info在创用CC下发布。
现在阅读