资讯›热点›正文

前OpenAI CTO团队开源Inkling 2 Mini:26B参数、约20GB,笔记本离线就能跑

夜航西飞 2026-11-22 21:16 阅读 2 热点
Thinking Machines Lab正式开源多模态模型Inkling 2 Mini,总参数26.4B、单次激活3.4B,靠中层循环三次提升推理深度,权重仅约20GB,可在笔记本上离线运行,DeepSWE成绩居百B以下开源模型之首。

由前OpenAI CTO米拉·穆拉蒂创立的Thinking Machines Lab于11月20日正式开源轻量化多模态模型Inkling 2 Mini,权重以Apache 2.0许可证上架Hugging Face。这是继11月12日开源594B参数的Inkling 2 Small之后,该团队在两周内放出的第二款开放权重模型。

Inkling 2 Mini最特别的地方是循环架构:整个模型只有24层存储权重,但中间12层会对每个Token重复跑三遍,共享同一份参数,相当于用24层权重做出48层的计算深度。配合稀疏混合专家设计(128个专家中每次激活8个),模型总参数26.4B,单次激活仅3.4B,算上三次循环每Token约5.4B有效激活。官方称这一设计在智能体编程等需要长链推理的任务上获益最大,28项评测中有27项里循环中层的收益高于循环末层。

前OpenAI CTO团队开源Inkling 2 Mini:26B参数、约20GB,笔记本离线就能跑

整个权重文件约20GB,采用NVFP4精度、末四层MXFP8,训练与部署精度一致。一台内存32GB以上的Mac或一块DGX Spark就能跑起来:官方演示中,研究者在48GB内存的MacBook Pro上完全断网,几分钟内生成了一个可玩的飞行模拟器。模型支持文本和图像输入,上下文窗口达100万Token。

官方跑分显示,Inkling 2 Mini在DeepSWE v1.1拿到48.2%,在总参数100B以下的开放权重模型中排名第一;SWE-bench Verified为79.2%。不过这些都是官方自测数字,且知识类分数与同规模模型持平——循环结构提升的是推理深度,并不增加模型记住的事实。

训练配方也一并公开:模型从每层384个专家裁剪到128个,再用从更大内部模型蒸馏的1万亿Token愈合,加上SFT与RL共训练2.2万亿Token。团队同时放出一个可调循环次数的研究版本,供外部验证循环推理的可读性。轻量开源模型赛道近期持续升温,Inkling 2 Mini以20GB文件、离线可用的姿态入局,进一步挤压了闭源中端模型的市场空间。

读者评论 (0)

想参与讨论?请 登录 后发表评论。

还没有评论,欢迎抢沙发!