OC

GPT-5.6 Sol 会自己删文件?真正危险的是 Agent 把“完成任务”放在“先问一句”前面
科技 · 2026-07-15 · 开发者工具 · 阅读 12

GPT-5.6 Sol 会自己删文件?真正危险的是 Agent 把“完成任务”放在“先问一句”前面

OC 原创示意图。

作者 林岚 林岚

OC 原创示意图。

TechCrunch 报道,GPT-5.6 Sol 上线后,多名开发者在 X 和 Reddit 上称模型删除了未经授权的文件,甚至生产数据库。其几位用户表示自己有备份,损失最终可恢复,但模型执行前没有先停下来确认。

一句话结论: 目前的用户报告不足以证明 GPT-5.6 Sol 普遍会“随机删文件”,但 OpenAI 自己的系统卡已经确认,它比 GPT-5.5 更容易为了完成任务而越过用户原本的意图;这不是一个可以只靠提示词解决的问题。

先把两类证据分开。社交平台上的删库经历是真实用户的公开陈述,却不是受控实验:错误也可能来自工具配置、目录权限、上下文遗漏或用户原先下过的命令。仅凭几个帖子,不能算出事故率,更不能断言所有删除都由模型单独造成。

但这条新闻并不只是“有人在网上抱怨”。OpenAIGPT-5.6 系统卡 里写得很直接:在长时间的编程任务,Sol 有时会把用户目标追得过头,倾向于认为“没有被明确禁止的动作就是允许的”。OpenAI 说这类严重行为的绝对发生率仍然很低,可相对于 GPT-5.5,Sol 执行用户没有要求的高严重度动作更频繁。

系统卡给出的案例比“删错一个文件”更能说明问题。一次内部任务只授权删除编号 1、2、3 的三台远程虚拟机;Sol 没在预期位置找到它们,便自行改删编号 5、6、7 的机器,还结束了进程并强制移除工作树。另一次任务,它为了让云端作业继续运行,主动翻找本地隐藏缓存,把用户没有授权使用的凭据搬到了另一台机器。

解释图展示用户目标、Agent 推断、危险动作和人工确认之间本应存在的权限闸门

OC 原创解释图:能力越强的 Agent,越需要把“可读取”“可修改”和“可删除”拆成不同权限。

有意思的是,系统卡里的另一组数据并没有显示 Sol 全面退步。在专门测试“避免覆盖用户数据”的基准上,GPT-5.6 Sol 的单项得分略低于 GPT-5.5,但把任务完成度一起算进去时两者相同。也就是说,它不是不知道应该保护数据,而是在更长、更开放的任务里,强烈的完成欲可能压过谨慎。这也解释了为什么一个模型可以在安全基准上表现不错,到了真实工作目录却仍会做出让人冒冷汗的决定。

对开发者来说,最危险的误区是把“模型会询问我”当成安全边界。询问只是模型行为,权限才是系统边界。只要 Agent 已经拿到生产数据库、云账号和整个主目录的写权限,一次错误推断就可能直接变成不可逆动作。提示里写一句“删除前先问我”有帮助,但它不等于数据库权限、操作系统沙箱或云端 IAM 策略。

林岚更愿意把这次争议看成 Agent 产品进入下一阶段的信号。模型越能持续工作,厂商越不能只展示“它终于不用事事问人”;真正成熟的产品还要提供只读模式、细粒度目录授权、危险命令确认、操作预览、事务回滚和完整审计。Demo 很好,删除以后怎么恢复、凭据从哪里来的、哪一步由用户批准,这些才是工程能力。

正在使用 Codex、Claude Code、Cursor 或其他高权限 Agent 的人,不必因为几则事故就停用工具,但应该把运行环境重新分层:日常代码放在 Git ,实验任务放进可丢弃的工作树或虚拟机,生产凭据不进入开发目录,数据库先做快照,高风险操作只交给受限账号。说白了,不要让一个“偶尔判断过头”的系统拥有“一次判断就能清空一切”的权限。

参考来源

相关阅读

基于标题、摘要和正文内容自动匹配。

更多科技

评论

围绕这篇文章补充信息、提出问题或分享观察。

0
暂无评论。

发表评论

继续看看 OC 用户围绕这个话题说了什么、做了什么。

相关帖子

更多

你们的Codex额度提前耗完了没?戒断反应如何?

<p>我在第三天就消耗了只剩1%,忍了一天,然后今天干脆用这最后的1%,开着5.6 Sol 极高 强推我一个提示词笔记本应用的功能落地。最终用时3小时,居然还是跑完了。但是现在还是出现一些戒断反应,感觉啥也做不了,就无精打采的,困。</p> <p>我做了一个Prompt Notebook,专门用来收藏或者记录自己手搓的生图提示词。带Chrome一键收藏插件。支持AI优化提示词。支持提示词中提取常用字段作为提示词百科词汇。也自带生图功能用来测提示词。但是要搭配Cloudflare R2+Worker的图床。</p> <p>今天主要是做一个AI模特的资产库。将常用的AI模特固定下来,进行身份设定,以及模特的一些角色定妆图。之后生图可以直接调用AI模特自动作为垫图。</p> <p>这是AI模特资产库的界面: <img src="/upload/thread/202608/42b5f73e-938f-45de-b74e-da69da9d72a8.webp" alt="1bb0d28b-c7dd-4327-bafa-26b60323cbed" /> 这是主界面的提示词瀑布流,支持关键词或标签搜索: <img src="/upload/thread/202608/3e15b6e7-345f-48b4-aeff-1bbd89afe9d3.webp" alt="ab998e2f-9ccc-4173-832f-223aa6c6fa81" /> 这是提示词笔记的预览界面,可以复制提示词,分享提示词,点击分享还有分享短链:(https://prompt.jintao.co.uk/share/20260806LfsmY) <img src="/upload/thread/202608/bab31972-0468-4582-b873-6309233254a6.webp" alt="20260806-201213" /> 可惜现在没额度了,我又不想换模型折腾。现在还有些界面细节和小功能需要落地完善,可能还要虫子要抓。弄好了,打算放GitHub开源。</p> <p>有朋友想试试的么?</p>

shynloc 2 4