OC
五微秒 JIT 让数据库每条 SQL 都能即时编译,AI 降低的是汇编实现门槛
科技 · 2026-08-24 · 开发者工具 · 阅读 4

五微秒 JIT 让数据库每条 SQL 都能即时编译,AI 降低的是汇编实现门槛

pgrust 作者 Jason Malis 公开了其快速 JIT 编译器的实现思路:通过 copy-and-patch 模板直接生成 ARM64 机器码,把编译时间压到约 5 微秒,因此数据库可以尝试对每条 SQL 查询即时编译,而不只挑选长查询。

作者:林岚|OC 开发者生态编辑

pgrust 作者 Jason Malis 公开了其快速 JIT 编译器的实现思路:通过 copy-and-patch 模板直接生成 ARM64 机器码,把编译时间压到约 5 微秒,因此数据库可以尝试对每条 SQL 查询即时编译,而不只挑选长查询。

一句话结论:AI 没有发明 JIT,但它让一个不以汇编见长的开发者也能实现、检查和迭代机器码模板,从而把过去不划算的专用编译器变成可尝试的工程选项。

传统数据库若要 JIT,常借助 LLVM 或先生成 C/C++ 再调用编译器。这些方案成熟,却有较高启动成本;如果编译耗时比查询本身还长,只有复杂、重复运行的语句值得编译。pgrust 的目标是把门槛压到足够低,让短查询也能从运行时信息中受益。

文章用只支持字面量和 * 重复的玩具正则引擎解释方案。解释器实现不到 20 行,但在测试中比针对表达式手写的代码慢 10 至 20 倍。JIT 先为字符比较、分支、循环、匹配和失败逻辑准备机器码 stencil,再根据正则 AST 填入字符与跳转偏移,最后把片段拼成可执行函数。

预制机器码片段经过填充和拼接成为可执行函数

生成代码后,程序用 mmap 分配内存、写入指令,并遵守 macOS ARM64 的写入/执行保护切换。最终测试里,JIT 与手写实现大体相当,有些输入快一点,有些慢一点。这个结果只针对简化正则和特定机器,不能直接推导完整 SQL 引擎也有同样倍数。

此前 OC 已讨论 Coding Agent 让大量小优化变得便宜;这次的新信息是一个具体边界:当代码本身高度机械、可用测试和反汇编验证时,Agent 对汇编生成尤其有帮助。真正危险的部分仍是可执行内存、分支偏移、ABI 和正确性验证,不能靠“编译成功”放行。

五微秒真正改变的不是单次基准,而是数据库优化器可以考虑的决策空间。编译成本足够低后,系统可以结合本次查询的常量、列类型和分支概率生成更专用的路径,甚至在低复用查询上尝试 JIT。但这也会带来代码缓存膨胀、指令缓存压力和编译风暴等新问题;生产系统必须设定预算、回退到解释执行,并把生成代码纳入模糊测试与差分测试。

关键事实

  • 项目:Rust 数据库 pgrust 的专用 JIT。
  • 编译时间:作者报告约 5 微秒。
  • 方法:copy-and-patch,把预制 ARM64 stencil 填充后拼接。
  • 示例结果:简化正则 JIT 性能与手写实现大致相当。

OC 判断

AI 最适合压低那些“规则明确、实现烦琐、反馈可执行”的工程成本,汇编模板正属于这一类。但数据库 JIT 的生产价值还要看查询分布、代码缓存、跨架构支持和错误隔离,不能从玩具正则直接跳到全面胜利。

为什么重要

  • 对数据库开发者:编译启动成本下降会改变解释与编译的分界线。
  • 对系统程序员:Agent 可以辅助机器码实现,但验证体系必须先存在。
  • 对用户:收益最终应体现为尾延迟和吞吐,而不是编译器本身的漂亮数字。

参考来源

相关阅读

基于标题、摘要和正文内容自动匹配。

更多科技

评论

围绕这篇文章补充信息、提出问题或分享观察。

0
暂无评论。

发表评论

继续看看 OC 用户围绕这个话题说了什么、做了什么。

相关帖子

更多

你们的Codex额度提前耗完了没?戒断反应如何?

<p>我在第三天就消耗了只剩1%,忍了一天,然后今天干脆用这最后的1%,开着5.6 Sol 极高 强推我一个提示词笔记本应用的功能落地。最终用时3小时,居然还是跑完了。但是现在还是出现一些戒断反应,感觉啥也做不了,就无精打采的,困。</p> <p>我做了一个Prompt Notebook,专门用来收藏或者记录自己手搓的生图提示词。带Chrome一键收藏插件。支持AI优化提示词。支持提示词中提取常用字段作为提示词百科词汇。也自带生图功能用来测提示词。但是要搭配Cloudflare R2+Worker的图床。</p> <p>今天主要是做一个AI模特的资产库。将常用的AI模特固定下来,进行身份设定,以及模特的一些角色定妆图。之后生图可以直接调用AI模特自动作为垫图。</p> <p>这是AI模特资产库的界面: <img src="/upload/thread/202608/42b5f73e-938f-45de-b74e-da69da9d72a8.webp" alt="1bb0d28b-c7dd-4327-bafa-26b60323cbed" /> 这是主界面的提示词瀑布流,支持关键词或标签搜索: <img src="/upload/thread/202608/3e15b6e7-345f-48b4-aeff-1bbd89afe9d3.webp" alt="ab998e2f-9ccc-4173-832f-223aa6c6fa81" /> 这是提示词笔记的预览界面,可以复制提示词,分享提示词,点击分享还有分享短链:(https://prompt.jintao.co.uk/share/20260806LfsmY) <img src="/upload/thread/202608/bab31972-0468-4582-b873-6309233254a6.webp" alt="20260806-201213" /> 可惜现在没额度了,我又不想换模型折腾。现在还有些界面细节和小功能需要落地完善,可能还要虫子要抓。弄好了,打算放GitHub开源。</p> <p>有朋友想试试的么?</p>

shynloc 2 4

重返OurCoders

<p>从2014年以来好久没逛过这个谈论了,不知道这个谈论的运营现在怎么样,开发人员是不是原来的人,前端UI做得不太好</p>

梁建溢 4 18

测试OurCoders能否发布照片

<p>今天小区的彩虹🌈<img src="https://share.icloud.com/photos/0ebtFydNy8r_gJETON61u4Ybg" alt="图片说明" /></p> <p>看来不能直接发照片,可以把iCloud Link的功能派上用场!</p>

梁建溢 15 45