兄弟们,周末先给大伙报个好消息,想本地跑 AI 写代码的,这回有新玩具了。
🔥 发生了什么
11月20日,Thinking Machines Lab 放出了开源模型 Inkling 2 Mini,权重直接挂在 Hugging Face,Apache 2.0 协议,商用基本没有顾虑(官方另有一份使用政策,上线前自己扫一眼)。模型总参数 26.4B,能看图能读文字,输出文字,上下文最长 100 万 token。
它有个特别的地方,中间几层会重复跑三遍来换更强的推理。所以不同来源写的激活参数不太一样,Ollama 页面写 5.4B(把重复算力算进去),模型卡一类的资料写 3.4B 左右,这是统计口径不同,不是谁写错了。体积大概 20GB,训练时就用 4 位精度,发出来的就是原精度,不存在量化掉点的问题。
第三方评测机构 Artificial Analysis 的说法是,它的综合指数和 Qwen3.8 27B 打平,但激活参数少了大约 5 倍。当然这是评测方的数据,有些项目上它赢,有些项目上它输,别当神话。
🇨🇳 对咱们意味着什么
以前想在家里跑个能干活的编程模型,要么烧显卡,要么忍受很弱的小模型。现在一台 32GB 内存的 Mac 就能跑,数据不出本机,不用交 API 钱,也不怕哪天账号被封、服务被墙。对写代码、做自动化、跑私人资料的兄弟,这个很实在。官方 API 参考价是每百万输入 0.15 美元、输出 0.50 美元,要是不想本地跑,也便宜。
🛠️ 怎么用上(保姆级)
官方写明,发布时支持任何 32GB 以上内存的 Mac(MacBook、Mac mini 都行),走 Ollama。
1. 先看内存,苹果菜单里”关于本机”,低于 32GB 的老老实实别试。
2. 装 Ollama,官网下载安装包。国内下载和拉模型可能会慢,需要的话科学上网或者用镜像。
3. 打开终端拉模型,模型名是 inkling-2-mini,在 Ollama 模型库里可以直接找到,页面上有对应命令。
4. 想拿它当编程助手,Ollama 页面还给了一键接入 Claude Code、OpenCode 等工具的命令,照着复制就行。
5. 用 NVIDIA 显卡的兄弟,官方说 DGX Spark 能跑,其他显卡建议 32GB 以上显存。也有 4 位和 8 位的 GGUF 版本,走 llama.cpp。
⚠️ 注意事项
• llama.cpp 要用带循环层支持的新版本,旧版本加载不了这个模型。
• 多轮对话和复杂约束的指令跟随,是它相对弱的地方,别指望它啥都强。
• 评测数字来自官方和第三方,没有我自己的复现,买不买账兄弟们自己试。
• 中文能力官方没有单独强调,写中文长文前先小样测一下。
🔗 官方链接
• Ollama 页面:https://ollama.com/library/inkling-2-mini
好东西就是要大家一起折腾。觉得有用的兄弟点个赞、收藏起来,转给身边有 Mac 的朋友。跑出来什么效果,评论区告诉老赵!
老赵手上没有 32GB 的 Mac,还没亲测,跑过的兄弟评论区汇报一下效果。