OC

一个偶发测试救了生产环境:Buildkite 顺着 Redis 丢消息,挖出 C 扩展的内存地雷
科技 · 2026-07-22 · 开发 / 工程实践 · 阅读 2

一个偶发测试救了生产环境:Buildkite 顺着 Redis 丢消息,挖出 C 扩展的内存地雷

林岚|OC 开发者生态编辑

林岚|OC 开发者生态编辑

Buildkite 工程团队复盘,一次 Redis 客户端升级后,原本稳定的功能测试开始偶发失败。团队最初以为是 WebSocket 时序问题,最后借助 core dump 和 AddressSanitizer 定位到 redis-client 所带 C 扩展的 heap use-after-free:读取线程会在特定竞态下释放写入线程仍要使用的缓冲区。

一句话结论: Flaky test 不一定只是测试写得烂;当失败突然集出现在依赖升级之后,它可能是生产环境尚未爆炸的内存错误,关键是把“偶发”变成可统计、可保留现场的信号。

故事开始得很普通。几个测试从接近 100% 可靠突然变得不稳定,严重到阻塞主分支部署。团队先临时排除测试,让发布恢复,再查看 Test Engine 的历史可靠性,发现变化恰好出现在一次 Redis gem 升级之后。这个时间关联没有证明因果,却给了调查一个比“再跑一次看看”更好的方向。

最初的假设仍是常见的网络竞态。测试涉及 RSpec、Selenium、Web/API 服务、数据库、Redis 和 ActionCable,任何一环慢几十毫秒,都可能让断言早于 WebSocket 消息到达。开发者尝试加入等待,随后又发现订阅命令到了 ActionCable,却没有抵达 Redis;日常开发环境里也有人遇到 WebSocket 偶尔失效。

Redis 读写线程之间 use-after-free 的发生过程

真正改变调查方向的是一条罕见的 double free 报错,随后另一轮测试触发 segmentation fault。恰好,团队以前写过一个插件,会在崩溃时自动把 core dump 上传为构建产物。这个“黑匣子”显示崩溃发生在 hiredis C 扩展的 memmove,其长度参数离谱到约 45PB。到这里,问题已经不像消息延迟,而像内存被更早的代码破坏。

团队把可复现程序放进带 ASAN 的 Ruby 环境。半小时内,ASAN 报告 heap use-after-free。该连接使用读、写两个线程并发工作,在某些关闭与缓冲区状态组合下,reader 释放了 writer 仍在使用的内存。崩溃只是较晚的表现,真正的错误发生在更早时刻,这也是普通堆栈很难找出原因的地方。

临时处置不是在业务代码里加更多 sleep,而是在测试、开发和生产环境禁用该 C 扩展,改走更安全的实现,并向上游提交可复现用例。Buildkite 表示没有生产数据因此受损。这并不意味着 C 扩展不该用,而是原生扩展一旦越过语言运行时的内存安全边界,排查和风险等级都会改变。

这篇复盘对开发团队最有价值的,不是一句“使用 ASAN”。ASAN 只有在已有复现、正确运行时和足够执行次数时才发挥作用。真正串起答案的是测试可靠性历史、升级时间线、跨环境症状、自动保存 core dump,以及有人愿意继续追一条看似烦人的偶发失败。

关键事实

  • 问题在 Redis gem 升级后出现,影响 ActionCable 相关测试和开发环境 WebSocket。
  • core dump 指向 hiredis C 扩展,ASAN 最终确认 heap use-after-free。
  • 根因是读取线程在特定情况下释放写入线程仍在使用的缓冲区;团队先禁用 C 扩展并向上游报告。

OC 判断

把 flaky test 一律重跑或隔离,会让测试面板变绿,也可能抹掉系统唯一的预警。真正成熟的做法是区分“长期随机噪声”和“某次变更后可靠性突降”,后者应该像生产告警一样被调查。

为什么重要

  • 对开发者: 为崩溃自动保存 core dump,并在原生扩展上准备 ASAN 等工具链。
  • 对企业: 测试可靠性趋势比单次通过率更能发现依赖升级带来的风险。
  • 对用户: 一些最严重的底层漏洞,最初可能只表现为页面偶尔收不到实时消息。

参考来源

相关阅读

基于标题、摘要和正文内容自动匹配。

更多科技

评论

围绕这篇文章补充信息、提出问题或分享观察。

0
暂无评论。

发表评论

继续看看 OC 用户围绕这个话题说了什么、做了什么。

相关帖子

更多

重返OurCoders

<p>从2014年以来好久没逛过这个谈论了,不知道这个谈论的运营现在怎么样,开发人员是不是原来的人,前端UI做得不太好</p>

梁建溢 4 18

你为什么不移民?

<p>我是一定要移了,在这里连正常呼吸都不行了。以前正常呼吸指的是言论自由,现在是生物学意义的正常呼吸问题了。</p> <p>你为什么不移民?</p>

tinyfool 740 15

测试OurCoders能否发布照片

<p>今天小区的彩虹🌈<img src="https://share.icloud.com/photos/0ebtFydNy8r_gJETON61u4Ybg" alt="图片说明" /></p> <p>看来不能直接发照片,可以把iCloud Link的功能派上用场!</p>

梁建溢 15 45

你们的Codex额度提前耗完了没?戒断反应如何?

<p>我在第三天就消耗了只剩1%,忍了一天,然后今天干脆用这最后的1%,开着5.6 Sol 极高 强推我一个提示词笔记本应用的功能落地。最终用时3小时,居然还是跑完了。但是现在还是出现一些戒断反应,感觉啥也做不了,就无精打采的,困。</p> <p>我做了一个Prompt Notebook,专门用来收藏或者记录自己手搓的生图提示词。带Chrome一键收藏插件。支持AI优化提示词。支持提示词中提取常用字段作为提示词百科词汇。也自带生图功能用来测提示词。但是要搭配Cloudflare R2+Worker的图床。</p> <p>今天主要是做一个AI模特的资产库。将常用的AI模特固定下来,进行身份设定,以及模特的一些角色定妆图。之后生图可以直接调用AI模特自动作为垫图。</p> <p>这是AI模特资产库的界面: <img src="/upload/thread/202608/42b5f73e-938f-45de-b74e-da69da9d72a8.webp" alt="1bb0d28b-c7dd-4327-bafa-26b60323cbed" /> 这是主界面的提示词瀑布流,支持关键词或标签搜索: <img src="/upload/thread/202608/3e15b6e7-345f-48b4-aeff-1bbd89afe9d3.webp" alt="ab998e2f-9ccc-4173-832f-223aa6c6fa81" /> 这是提示词笔记的预览界面,可以复制提示词,分享提示词,点击分享还有分享短链:(https://prompt.jintao.co.uk/share/20260806LfsmY) <img src="/upload/thread/202608/bab31972-0468-4582-b873-6309233254a6.webp" alt="20260806-201213" /> 可惜现在没额度了,我又不想换模型折腾。现在还有些界面细节和小功能需要落地完善,可能还要虫子要抓。弄好了,打算放GitHub开源。</p> <p>有朋友想试试的么?</p>

shynloc 2 4