OC
1600 名员工反对后,Meta 暂停员工追踪 AI 项目,企业里的 AI 训练边界到底在哪里?
科技 · 2026-06-25 · 社会影响 · 阅读 9

1600 名员工反对后,Meta 暂停员工追踪 AI 项目,企业里的 AI 训练边界到底在哪里?

据 The Guardian 报道,Meta 暂停了一个追踪员工电脑活动以训练 AI 模型的项目。该项目名为 Model Capability Initiative,据称会记录键盘、鼠标点击和屏幕内容;超过 1600 名员工签署请愿书,反对公司收集员工“computer use”数据。

据 The Guardian 报道,Meta 暂停了一个追踪员工电脑活动以训练 AI 模型的项目。该项目名为 Model Capability Initiative,据称会记录键盘、鼠标点击和屏幕内容;超过 1600 名员工签署请愿书,反对公司收集员工“computer use”数据。

OC 此前已经报道过此事。新的变化是,超过 1600 名员工签署请愿后,事情得到了更多的讨论,从一次内部数据事故,更变成了企业 AI 训练治理问题的经典案例。

一句话结论:Meta 这次被迫暂停的不是一个内部工具,而是企业把员工日常操作变成 AI 训练材料时必须面对的边界问题。

关键事实

  • 来源:The Guardian 报道,相关内部安全问题最早由 Wired 报道。
  • 涉及公司/组织:Meta、Facebook、Instagram、WhatsApp、内部员工。
  • 核心技术/产品:Model Capability Initiative、computer use data、AI 训练数据。
  • 关键数字:报道提到超过 1600 名员工签署请愿;Meta 2026 年 AI 资本开支规模可达 1450 亿美元。
  • 注意事项:Meta 称没有证据显示数据被滥用,但项目已暂停调查;争议焦点在隐私、同意、访问权限和工作场所信任。

这条新闻和 Google Gemini 的 computer use 放在一起看,很有意思。一个是模型学会操作电脑,一个是公司想收集员工如何操作电脑的数据。二者指向同一个趋势:未来 AI 不只学文本和代码,还要学人怎样在真实软件环境里完成工作。

今天 OC 也报道了印度工人佩戴摄像头训练机器人的案例。一个发生在制造业,一个发生在 Meta 这样的科技公司,但底层问题相似:人的工作过程正在被转化为 AI 训练数据。值得我们关注的是采集人的工作数据是一回事;如果这些数据最终被用来训练替代他们的系统,那就是另一回事了。讽刺也正在这里:AI 自动化常常先从学习被替代者开始。

企业当然会觉得这很诱人。高级工程师怎么排查 bug,产品经理怎么整理需求,运营人员怎么在后台系统里处理异常,这些都是高价值工作流。如果能让模型学到这些流程,自动化空间会很大。

OC 原创解释图:员工电脑数据进入 AI 训练前应该经过的边界检查

但员工不是公开网页。电脑屏幕里可能有内部战略、客户信息、同事聊天、绩效讨论、私人内容和安全凭据。即使公司拥有设备,也不等于可以无限制把员工操作转成训练数据。更麻烦的是,一旦数据被用于训练,删除、追踪和限制用途都会变得复杂。

沈南乔的判断是,这件事真正刺痛员工的不是“公司看到了我点鼠标”,而是公司把工作过程当成了可提取资源。员工贡献的不只是产出,还有如何产出的方法。如果这些方法被训练成模型,未来可能反过来用于替代、考核或压缩岗位。

OC 判断

OC 的判断是:企业 AI 训练会从“用文档和代码”走向“用员工行为”。这需要比传统 IT 监控更严格的规则:可见范围、用途限制、访问权限、删除机制、人工确认和员工退出权都应该写清楚。

为什么重要

  • 对开发者:企业内部 agent 的训练数据不能随便抓,代码、屏幕和操作日志都可能包含敏感信息。
  • 对企业:想用员工数据训练 AI,就必须先解决同意、隔离、访问和审计,否则信任成本会很高。
  • 对用户:如果员工操作数据被模型吸收,未来产品里的自动化能力可能来自看不见的工作场所监控。

参考来源

相关阅读

基于标题、摘要和正文内容自动匹配。

更多科技

评论

围绕这篇文章补充信息、提出问题或分享观察。

0
暂无评论。

发表评论

继续看看 OC 用户围绕这个话题说了什么、做了什么。

相关帖子

更多

一个体会,Codex 这种现代 Agent,每天一个变,几天不用就有新惊喜

<p>当然我说的也包括 Claude Code,新功能日新月异,还有就是 AI 能力提升以后,可以做的东西日新月异。还有各种工作流方法日新月异。</p> <p>更好玩的是,我最近经历过很多次,你跟人介绍现在 Codex 可以做到什么样子,他们都觉得很厉害。但是你现场一演示,他们的震撼就更加完全不同了。所以,这种东西,需要大量的 Workshop 去沟通交流,光看文字很难讲清楚,直播、视频也越来越重要了。</p>

tinyfool 1 89

做 AI 语音产品时,授权、撤回和审计日志应该怎么落地?

<p>最近看到越来越多关于声音授权的讨论。对开发者来说,真正麻烦的往往不是“模型能不能模仿”,而是授权如何进入系统、生成结果如何追溯,以及授权撤回后该怎么办。</p> <p>我们在做 FlowSpeech 时也碰到过类似问题。我的体会是,不要把“用户勾选过同意”当成一个布尔字段,而应该把它做成一组可以审计的业务对象。</p> <h2>1. 把声音资产和授权分开</h2> <p>声音文件只描述技术属性,例如哈希、上传者、存储位置和创建时间。授权记录则至少要包含授权主体、用途范围、地域、有效期、来源证据和当前状态。这样同一份声音用于个人试听、商业广告、公开播客时,可以绑定不同的授权,而不是共用一个模糊的 consent=true。</p> <h2>2. 每次生成都保存授权快照</h2> <p>生成任务不要只引用当前授权 ID。授权内容以后可能变更,如果任务只查最新状态,历史结果就无法解释。更稳妥的做法是在任务创建时保存授权版本、文本哈希、声音版本、模型版本和操作者。生成出的音频再记录 artifact_id,并反向关联任务。</p> <p>我会把最小链路设计成:</p> <ol> <li>voice_asset:原始声音及版本;</li> <li>consent_grant:授权范围与证据;</li> <li>generation_job:请求参数和授权快照;</li> <li>audio_artifact:输出文件、校验值和公开状态;</li> <li>audit_event:谁在什么时候创建、下载、公开或撤回了内容。</li> </ol> <h2>3. 撤回不是简单删除一行</h2> <p>授权撤回后,系统至少要阻止新任务,并把相关公开音频进入下架队列。已经交付给客户的文件是否能删除,要按照合同和产品能力区分,不能在界面上承诺技术上做不到的“全球删除”。更现实的状态机是 active、suspended、revoked、expired,并明确每个状态允许哪些动作。</p> <h2>4. 对外展示也要可验证</h2> <p>除了后台日志,公开音频最好带上来源标记或可查询的生成记录。水印不是万能方案,但“可识别的音频 + 可验证的元数据 + 清晰的举报入口”组合起来,比一句“AI 生成”更有用。</p> <p>我们现在做的 <a href="https://flowspeech.io/zh">FlowSpeech</a> 主要解决上下文感知、情绪和停顿控制。越往产品化走,越觉得声音效果只是前半程,权限边界和可追溯性才决定这类工具能不能长期使用。</p> <p>大家在实际项目里会把授权证据放在业务数据库、对象存储,还是单独的审计系统?如果授权撤回,你们通常怎么处理已经生成并交付的音频?</p>

FlowSpeech 0 1