OC
把 mmap 换成 io_uring 反而更慢:瓶颈跟着数据搬了家
科技 · 2026-09-12 · 系统性能与Rust · 阅读 0

把 mmap 换成 io_uring 反而更慢:瓶颈跟着数据搬了家

据 Conviva 的 Rust 查询引擎工程复盘,团队为了处理高并发下的页缓存压力,尝试从 mmap 转向 io_uring,初期实现却比原方案更慢。文章公开了排查路径,但后续完整重构留待下一篇。

作者:林岚|OC 开发者生态编辑

Conviva 的 Rust 查询引擎工程复盘,团队为了处理高并发下的页缓存压力,尝试从 mmap 转向 io_uring,初期实现却比原方案更慢。文章公开了排查路径,但后续完整重构留待下一篇。

一句话结论:异步 I/O 接口不会自动消除内存分配、数据复制和调度成本,性能优化必须沿着整条数据路径追踪。

原来的方便,变成了共享状态

mmap 可以让程序像访问内存一样读取映射文件,省去一部分显式读写管理。对某些数据布局,这是很自然的选择;问题是,访问背后的缓存与缺页处理依然需要内核完成。

Conviva 报告,在较高并发与内存压力下,查询尾延迟恶化,增加同一主机上的 pod 也没有按预期改善。它们面对的是共享资源,并不会因为容器边界就各自拥有一套独立页缓存。

这个案例提醒人们,“多部署几份”不是自动扩容。若大家争夺的是同一份内存、锁或存储带宽,增加进程可能放大竞争。需要先识别瓶颈是否可分割,再决定扩容单位。

io_uring 和直接 I/O 是两件事

iouring 提供提交与完成异步 I/O 的机制;绕过页缓存则涉及 ODIRECT 等具体选择。只换接口名称,而数据仍走原来的缓存路径,并不保证避开此前的瓶颈。

即使真正绕过内核页缓存,应用也得接手原来由系统承担的工作:缓冲区生命周期、并发深度、缓存策略、读取顺序,以及与计算线程的交接。省掉的不是工作本身,而是把工作换了一个负责人。

磁盘、缓冲区、Arrow 与查询计算之间的数据路径概念图

最容易藏起来的是第二次分配

复盘中的一个重要发现是,读取到数据之后,Arrow 缓冲构造仍可能分配新内存并进行复制。于是程序虽然改变了磁盘读取方式,却又在目的内存上支付了一轮页映射与拷贝成本。

对不写底层系统的读者,可以把它理解成:货车直接把货送进仓库,但入库流程又要求拆箱、换箱、重新登记。货车跑得更快,未必能提高整个仓库的出货速度。

这也解释了为什么只看磁盘利用率容易误判。磁盘没有满负荷,不一定说明设备不够快,也可能说明上游提交不及时,或者下游处理不过来。

一个“干净接口”可能藏着五份工作

团队的初期物化层同时处理请求接收、I/O 协调、解码、缓存填充和结果交付。这些职责虽然被包装在同一个异步接口后面,却不会自动获得并行能力。

异步意味着等待时可以让出执行机会,不意味着计算密集工作会凭空分散到多个核心。若一个串行环节承担太多职责,外围再多并发也可能只是在它前面排队。

因此,优化前应把等待时间与执行时间分开,再把每段的责任与资源分开。在哪里提交,在哪里复制,谁持有缓冲区,哪个线程在解码,往往比“用了最新 I/O 技术”更有解释力。

慢一次不等于技术路线失败

这篇文章并没有证明 io_uring 普遍不如 mmap,也没有提供一个适用于所有数据库的迁移处方。硬件、内核、文件大小、并发与缓存状态都会改变结果。

更值得借鉴的是它承认第一版更慢,并继续补充日志与测量。工程优化不是找到一个流行名词替换旧组件,而是提出可以被数据推翻的假设。

对准备迁移的团队,最便宜的步骤通常不是先重写,而是固定一组真实工作负载,保留旧方案基线,并记录冷热缓存及不同并发下的表现。否则,新方案即使快了,也未必知道快在哪里。

关键事实

  • 案例来自 Conviva 的 Rust、Arrow 查询工作负载。
  • 问题涉及页缓存竞争、内存管理与应用调度。
  • io_uring 不等同于自动绕过页缓存。
  • 初期性能倒退不能推广成所有工作负载的结论。

OC 判断

接口升级不是性能保证。真正的收益往往来自减少不必要的数据移动,并让 I/O、内存和计算各自有清楚的责任,而不是把所有职责塞进一个异步函数。

为什么重要

  • 对系统开发者:跟踪数据生命周期,而非只看系统调用。
  • 对平台团队:容器增加不代表共享资源增加。
  • 对管理者:允许失败实验留下可复用的测量结果。

参考来源

相关阅读

基于标题、摘要和正文内容自动匹配。

更多科技

评论

围绕这篇文章补充信息、提出问题或分享观察。

0
暂无评论。

发表评论

继续看看 OC 用户围绕这个话题说了什么、做了什么。

相关帖子

更多

测试OurCoders能否发布照片

<p>今天小区的彩虹🌈<img src="https://share.icloud.com/photos/0ebtFydNy8r_gJETON61u4Ybg" alt="图片说明" /></p> <p>看来不能直接发照片,可以把iCloud Link的功能派上用场!</p>

梁建溢 15 45

你们的Codex额度提前耗完了没?戒断反应如何?

<p>我在第三天就消耗了只剩1%,忍了一天,然后今天干脆用这最后的1%,开着5.6 Sol 极高 强推我一个提示词笔记本应用的功能落地。最终用时3小时,居然还是跑完了。但是现在还是出现一些戒断反应,感觉啥也做不了,就无精打采的,困。</p> <p>我做了一个Prompt Notebook,专门用来收藏或者记录自己手搓的生图提示词。带Chrome一键收藏插件。支持AI优化提示词。支持提示词中提取常用字段作为提示词百科词汇。也自带生图功能用来测提示词。但是要搭配Cloudflare R2+Worker的图床。</p> <p>今天主要是做一个AI模特的资产库。将常用的AI模特固定下来,进行身份设定,以及模特的一些角色定妆图。之后生图可以直接调用AI模特自动作为垫图。</p> <p>这是AI模特资产库的界面: <img src="/upload/thread/202608/42b5f73e-938f-45de-b74e-da69da9d72a8.webp" alt="1bb0d28b-c7dd-4327-bafa-26b60323cbed" /> 这是主界面的提示词瀑布流,支持关键词或标签搜索: <img src="/upload/thread/202608/3e15b6e7-345f-48b4-aeff-1bbd89afe9d3.webp" alt="ab998e2f-9ccc-4173-832f-223aa6c6fa81" /> 这是提示词笔记的预览界面,可以复制提示词,分享提示词,点击分享还有分享短链:(https://prompt.jintao.co.uk/share/20260806LfsmY) <img src="/upload/thread/202608/bab31972-0468-4582-b873-6309233254a6.webp" alt="20260806-201213" /> 可惜现在没额度了,我又不想换模型折腾。现在还有些界面细节和小功能需要落地完善,可能还要虫子要抓。弄好了,打算放GitHub开源。</p> <p>有朋友想试试的么?</p>

shynloc 2 4

一个体会,Codex 这种现代 Agent,每天一个变,几天不用就有新惊喜

<p>当然我说的也包括 Claude Code,新功能日新月异,还有就是 AI 能力提升以后,可以做的东西日新月异。还有各种工作流方法日新月异。</p> <p>更好玩的是,我最近经历过很多次,你跟人介绍现在 Codex 可以做到什么样子,他们都觉得很厉害。但是你现场一演示,他们的震撼就更加完全不同了。所以,这种东西,需要大量的 Workshop 去沟通交流,光看文字很难讲清楚,直播、视频也越来越重要了。</p>

tinyfool 1 89

你更喜欢 Codex 还是 Cladue Code?

<p>我先说,我更喜欢 Codex,因为我没用过 Cladue Code。Codex 一直都能很好满足我的需求,所以我不是很有动力去换 Cladue Code。虽然我也知道很多人更喜欢 Cladue Code。但是我觉得应该差不多吧?</p>

tinyfool 5 111