OC
OC Tech

#本地模型

OurCoders 科技频道“本地模型”专题,共汇总 2 篇相关稿件。

Unsloth动态GGUF:本地模型竞争开始拼量化细节
2026-08-20
开发者工具

Unsloth动态GGUF:本地模型竞争开始拼量化细节

据 Unsloth 文档 和相关模型仓库信息,Unsloth 发布 Dynamic 3.0 GGUF 量化方案,面向 Qwen3.8-27B 等模型提供多个低比特版本,强调在相同体积下保留更高准确率,并支持 llama.cpp 等本地推理生态。

2890 万参数模型塞进 ESP32:每秒 9 个 token,也只能先讲小故事
2026-07-26
端侧 AI

2890 万参数模型塞进 ESP32:每秒 9 个 token,也只能先讲小故事

作者:林岚|OC 技术与安全编辑