AI coding 又往前迈了一步。
AI coding 又往前迈了一步。
一个12B的本地模型,直接把Fable 5的推理链蒸馏了进去。现在消费级显卡就能离线跑出顶级coding能力。
这个Gemma 4 12B Coder GGUF基于Google的gemma-4-12B-it微调,专攻代码生成和复杂推理。训练时塞进了Composer 2.5的真实通过案例,还让Fable 5帮忙补全难搞的case,结果每一步推理都指向能真正跑通的代码。
最实用的是走GGUF格式,12GB显卡就能顺畅跑,CPU也能用。调试、补全、生成复杂算法、链式思考提示,全都本地搞定。
不用交API费,也不用担心数据外泄。
以前大家觉得前沿模型要么只能云端用,要么根本跑不了。现在开源社区直接把Fable 5的思考方式,打包成了能塞进笔记本的版本。
这波操作,把「强大但受限」和「本地可用」之间的鸿沟填上了。
真正的AI生产力,从来不是等大厂放行,而是社区自己动手把能力解放出来。