OctoNews

AI coding 又往前迈了一步。

技术和认知提升开源

AI coding 又往前迈了一步。

一个12B的本地模型,直接把Fable 5的推理链蒸馏了进去。现在消费级显卡就能离线跑出顶级coding能力。

这个Gemma 4 12B Coder GGUF基于Google的gemma-4-12B-it微调,专攻代码生成和复杂推理。训练时塞进了Composer 2.5的真实通过案例,还让Fable 5帮忙补全难搞的case,结果每一步推理都指向能真正跑通的代码。

最实用的是走GGUF格式,12GB显卡就能顺畅跑,CPU也能用。调试、补全、生成复杂算法、链式思考提示,全都本地搞定。

不用交API费,也不用担心数据外泄。

以前大家觉得前沿模型要么只能云端用,要么根本跑不了。现在开源社区直接把Fable 5的思考方式,打包成了能塞进笔记本的版本。

这波操作,把「强大但受限」和「本地可用」之间的鸿沟填上了。

真正的AI生产力,从来不是等大厂放行,而是社区自己动手把能力解放出来。

huggingface.co/google/gemma-4-12B-it