2024-09-20 00:18:00 英文原文

上个月，OpenAI 公开反对一项尚未颁布的加州法律，该法律旨在为大型人工智能 (AI) 模型的开发人员制定基本安全标准。这是该公司态度的转变，其首席执行官 Sam Altman 此前曾表示支持人工智能监管。

这家前非营利组织曾于 2022 年因 ChatGPT 的发布而声名鹊起，现在已成为价值高达1500亿美元。它仍然处于人工智能开发的最前沿，上周发布了一种新的推理模型，旨在解决更复杂的任务。

该公司近几个月采取了多项举措，表明对数据采集的兴趣不断增长。这不仅仅是用于训练当前生成式人工智能工具的文本或图像，还可能包括与在线行为、个人互动和健康相关的私密数据。

没有证据表明 OpenAI 计划将这些不同的数据流引入数据在一起，但这样做将带来巨大的商业利益。即使访问如此广泛的信息的可能性也会引发有关隐私和集中数据控制的道德影响的重大问题。

媒体交易

今年，OpenAI 与以下公司签署了多项合作伙伴关系：媒体公司包括《时代》杂志、《金融时报》、Axel Springer、《世界报》、Prisa Media，以及最近拥有《Vogue》、《纽约客》、《名利场》和《连线》等杂志的康德纳斯特集团。

合作伙伴关系授予 OpenAI 访问大量内容的权限。OpenAI 产品还可用于分析用户行为和交互指标，例如跨平台的阅读习惯、偏好和参与模式。

如果 OpenAI 能够访问这些数据，公司就可以全面了解如何用户参与各种类型的内容，这些内容可用于深入的用户分析和跟踪。

视频、生物识别和健康

OpenAI 还投资了一家名为 Opal 的网络摄像头初创公司。目的是增强摄像头的先进人工智能功能。

人工智能网络摄像头收集的视频片段可以转化为更敏感的生物识别数据，例如面部表情和推断的心理状态。

7月，OpenAI和Thrive Global推出了Thrive AI Health。该公司表示将利用人工智能来实现超个性化和规模化健康行为改变。

虽然 Thrive AI Health 表示将拥有强大的隐私和安全护栏，但目前尚不清楚这些护栏会是什么样子。

p>

之前的人工智能健康项目涉及广泛的个人数据共享，例如微软和美国普罗维登斯健康之间的合作，以及谷歌 DeepMind 和英国皇家自由伦敦 NHS 基金会信托之间的合作。在后一种情况下，DeepMind 因其使用私人健康数据而面临法律诉讼。

Sam Altman 的眼球扫描副项目

Altman 还投资于其他需要数据的企业，其中大多数是尤其是一个有争议的加密货币项目，名为 WorldCoin（他共同创立）。WorldCoin 旨在利用生物特征识别（特别是虹膜扫描）创建一个全球金融网络和识别系统。

该公司声称已经扫描了近 40 个国家超过 650 万人的眼球。与此同时，十多个司法管辖区已暂停其运营或对其数据处理进行审查。

巴伐利亚当局目前正在审议 Worldcoin 是否遵守欧洲数据隐私法规。如果裁决是否定的，该公司可能会被禁止在欧洲运营。

正在调查的主要问题包括敏感生物识别数据的收集和存储。

为什么这很重要？

现有的人工智能模型，例如 OpenAI 的旗舰产品 GPT-4o，很大程度上是根据互联网上的公开数据进行训练的。然而，未来的模型将需要更多的数据，而且越来越难获得。

去年，该公司表示希望人工智能模型能够深入理解所有主题、行业、文化和语言，这需要尽可能广泛的训练数据集。

在这种背景下，OpenAI 对媒体合作伙伴关系的追求、对生物识别和健康数据收集技术的投资，以及首席执行官与世界币等有争议项目的联系，开始描绘出一种令人担忧的景象。图片。

通过获取大量用户数据，OpenAI 正在将自己定位为构建下一波人工智能模型，但隐私可能会成为牺牲品。

风险是多方面的。大量个人数据很容易遭到泄露和滥用，例如 Medisecure 数据泄露事件，几乎一半澳大利亚人的个人和医疗数据被盗。

大规模数据整合的潜力也引起了人们的担忧关于分析和监视。同样，没有证据表明 OpenAI 目前计划从事此类做法。

但是，OpenAI 的隐私政策过去并不完美。更广泛地说，科技公司也有着长期存在可疑数据实践的历史。

不难想象，对多种数据的集中控制将使 OpenAI 对人们产生重大影响，无论是在个人还是个人方面。和公共领域。

安全性会退居二线吗？

OpenAI 最近的历史并没有缓解安全和隐私问题。2023 年 11 月，据报道，由于公司战略方向的内部冲突，奥特曼被暂时解除了首席执行官的职务。

奥特曼一直是人工智能技术快速商业化和部署的坚定倡导者。据报道，他经常将增长和市场渗透置于安全措施之上。

Altman 短暂被免职，随后迅速复职，并对 OpenAIs 董事会进行了重大改组。这表明，尽管存在潜在风险，公司领导层现在仍然支持他积极的人工智能部署方法。

在这种背景下，OpenAI 最近反对加州法案的影响超出了单一的政策分歧。反监管立场表明了一种令人不安的趋势。

OpenAI 没有在截止日期前回复 The Conversations 的置评请求。