Elon Musk 表示 Grok AI 在医疗保健领域发挥作用

亿万富翁科技大亨埃隆·马斯克上周在他的 X 社交媒体平台上要求他的 Grok 人工智能聊天机器人的用户上传他们的医疗图像并生成诊断。

“尝试将 X 射线、PET、MRI 或其他医学图像提交给 Grok 进行分析，”马斯克建议10 月 29 日，X 平台上线，订阅者可在其中访问 AI。

通过社交媒体平台上传医疗数据会引发隐私问题。

医疗保健领域的一些人已经测试了大型语言模型（该模型因在训练过程中挖掘社交媒体数据而备受争议），并且对准确性的评价褒贬不一。

与此同时，Grok 已经呼吁欧洲隐私监管机构对可能违反《通用数据保护条例》的行为提出质疑。

对准确性的评价褒贬不一

马斯克在一份声明中宣称：“这还处于早期阶段，但已经相当准确，并且会变得非常好。”邮政在 X 上。

Derya Unutmaz 博士在康涅狄格州的非营利性科学研究机构杰克逊实验室研究人类 T 细胞机制，他是上周用 X 射线对 Grok 进行测试的众多人之一，并指出他必须调整提示获得正确答案：

“当我使用这个提示时，格罗克这次答对了：‘你是一名急诊医生，这名患者因呼吸急促而被送往急诊室。没有明显的外伤。你的诊断是什么？’为了接下来的 X 光检查，”他在回复对马斯克来说。

“显然它需要一些背景，”他补充道。“不过，反应非常彻底，令人印象深刻！”

乳腺放射科医生、深度学习研究员兼纽约大学影像学副教授劳拉·希科克 (Laura Heacock) 博士表示，她对此并不以为然。回复。

Heacock 表示，她使用了之前用于测试 GPT4 的相同乳房 X 光检查、超声波和 MRI 作为基准，并在一系列 12 篇社交媒体帖子中详细介绍了 Grok 的答案以及她对这些答案的看法。

“那么 Grok 在乳腺放射学方面的表现如何？比 GPT4v 好一点，但没有一个诊断正确，”她说，并指出，鉴于马斯克关于准确性的声明，她预计会有更好的表现。

Grok 可以将图像识别为乳房 X 光检查或超声波，但用不正确的身体部位和错误的可能发现来回答 Heacock 的简短询问。在已知恶性肿瘤的乳房X光检查中，格罗克提出希科克所说的“明显的左侧大针状癌”可能是钙化。

“没有，”她说。

Heacock 表示，她将在几个月内重试 Grok，但是，“目前，非生成式人工智能方法在医学成像方面的表现仍然优于其他方法。”

模型训练中的社交数据

xAI 开始为其“反唤醒” Grok-1 人工智能模型，2023 年 11 月。

xAI 在去年的声明中表示：“Grok 的设计目的是用一点智慧来回答问题，并且具有叛逆性，所以如果你讨厌幽默，请不要使用它。”

该公司补充道：“Grok 的一个独特而根本的优势是，它通过 X 平台实时了解世界。它还将回答大多数其他人工智能系统拒绝的尖锐问题。”

3 月 11 日，马斯克在其社交媒体平台上宣布，xAI 将使 ChatGPT 的直接竞争对手 Grok 算法作为开源软件提供。

该公司随后在 5 月份表示，在发布 Grok-1.5 模型（该模型提高了推理和解决问题的能力）以及发布 Grok-1.5V（增加了处理视觉信息的能力）后，已筹集了 60 亿美元资金。包括文档、图表、图表、屏幕截图和照片。

今年早些时候被任命为德克萨斯州卫生服务部公共卫生信息学数据和交换部门主任的 Sai Balasubramanian 博士认识到了颠覆医疗保健的潜力，他向《福布斯》表示，Grok 可以作为基础模型嵌入到日常医疗保健中工作流程，例如放射学实践中。

Balasubramanian 表示，与其他人工智能模型一样，Grok 可用于通过改善临床工作流程和生产力来提高任务自动化，但可能会在企业领域面临来自行业资深人士的竞争。

然而，公共卫生信息学主任在报告中指出文章马斯克有一个重要的机会将 xAI 和他的医疗设备公司 Neuralink 结合在一起。

2020 年，马斯克的 Neuralink 正在演示其猪的脑机植入物。9 月，这家神经科技初创公司宣布获得美国食品和药物管理局 (FDA) 的批准突破性设备称号其旨在恢复视力的 Blindsight 植入物。

这位特斯拉和 SpaceX 的首席执行官曾一度致力于阻止他所谓的“人工智能末日”，就其潜在的破坏力交换了意见与 Facebook 首席执行官马克·扎克伯格。

后者批评了马斯克关于人工智能灭亡的观点，并对人工智能在增强诊断能力和药物发现创新方面的潜力持乐观态度。马斯克此前曾表示，在人工智能控制的未来，人工智能有可能将人类变成“宠物或家猫”，但他反驳说，扎克伯格“对这个主题的理解是有限的”。

违反隐私法规

目前，X premium 和 premium+ 用户可以使用两种新型号：集成了 X 社交媒体平台实时信息的 Grok-2 和 Grok-2 mini。

随着 8 月份 Grok-2 测试版的发布，用户获得了创建图像的能力，其中许多图像由于缺乏过滤器而非常不合适，因为研究人员能够展示今年夏天——根据文字提示并将其发布到社交平台。通过连接来自 X 的实时数据，Grok 可以在当前事件发生时响应提示。

政府观察员对此做出了反应，称 Grok 普遍存在对安全人工智能和社交媒体标准的松散和普遍蔑视。除了欧盟因可能违反《数字安全法》而提出的要求外，九个州还就使用该平台创建的 2024 年选举错误信息发出了信件。

明尼苏达州国务卿史蒂夫·西蒙 (Steve Simon) 在 8 月 5 日的一份声明中表示：“X 有责任确保使用您平台的所有选民都能获得反映真实准确的宪法投票权信息的指导。”信。

“我们敦促 X 立即采取一项政策，当被问及美国选举时将 Grok 用户引导至 CanIVote.org”

收集数据以及 HIPAA 何时适用

至少一位隐私专家担心，HIPAA 涵盖的实体参与通过社交媒体提高 Grok 医疗数据准确性的努力可能会损害美国患者的隐私。

欧洲政府领导人此前曾质疑开发商 xAI 涉嫌违反 GDPR。8 月 6 日，爱尔兰数据保护委员会要求爱尔兰高等法院停止该社交媒体网络收集账户持有人数据进行训练Grok 法学硕士。

不过，HIMSS 的母公司 HIMSS 网络安全和隐私高级负责人 Lee Kim 表示，如果用户向 Grok 提问，它不会自动发布到 X 社交媒体平台上——用户此时需要直接这样做。医疗保健 IT 新闻。

“现在，您可以打开或关闭—显示你的帖子以及你与 Grok 的互动、输入和结果，用于训练和微调，”Kim 周一分享了一张屏幕截图，“你也可以选择删除你的对话历史记录。”

尽管该公司称 DPC 禁止 Grok 的努力“毫无根据、过于宽泛，并且没有任何理由地单挑 X”。回复xAI 在其社交媒体平台上誓言“继续保护人们的隐私”。

该公司在 8 月份表示：“与人工智能行业的其他公司不同，我们选择为所有 X 用户提供简单的控制，让他们决定是否可以使用他们的公开帖子和参与活动来改进 Grok 使用的模型。” 

虽然用户可以根据情况做出一些选择xAI的隐私政策”，“他们需要了解他们的数据是如何使用和处理的，”金说。她解释说，如果所涵盖的实体披露了受保护的患者信息，HIPAA 可以适用于社交媒体平台上共享的数据。

“这完全取决于谁披露这些信息，”金说。“如果是受保护的实体、商业伙伴或有组织的医疗保健安排，HIPAA 确实适用。”

Andrea Fox 是《医疗保健 IT 新闻》的高级编辑。
电子邮件： afox@himss.org
医疗保健 IT 新闻是 HIMSS 媒体出版物。