简介
10月21日晚,田渊栋参与创办的 Recursive 开源了第一款模型 Flint-40B-A2B:一个面向本地 Coding Agent 的混合专家(MoE)模型,Apache 2.0 协议,权重已上架 Hugging Face。整条研发链路从零到发布,不到4个月。
比跑分更值得看的是生产方式——Recursive 自研的自动化科研系统 Eureka Machine 深度参与了架构探索、数据与优化方法、量化方案,以及底层推理内核生成。
核心功能:为"笔记本能跑"重新设计
- 参数结构:总参 40B,每生成一个 token 只激活 2.5B。这套配置不是拍脑袋定的——Eureka Machine 从 35B总参/3B激活的基线出发,遍历不同专家配置与宽度,最终挑出速度与编程能力平衡最好的那一组。
- 上下文:模型卡标注 262,144 token(发布博客提到最高可拓展到约 51.2万),官方建议实际控制在 25.6万以内效果更好。
- 推理速度:在 48GiB 内存的 M4 Pro MacBook Pro 上用 MLX 跑,短上下文生成达到 131.22 token/s;RTX Spark 上 NVFP4 版本达到 155.82 token/s。官方口径是同类模型最高 2 倍。
- 部署方式:支持 SGLang、Ollama、LM Studio,官方还提供了自研推理引擎 rec,在 M4 Pro + 4bit 权重下比 llama.cpp 快 1.4–2.6 倍。
- 内存门槛:完整权重约 80GB;4bit 量化版(LM Studio / Unsloth 有现成包)约 23–24GB,48GB 内存的 Mac 就能跑得比较舒服。
详细分析:跑分、量化与"本地科研"
官方公布的基准:Terminal-Bench 2.1 54.9%、SWE-Bench Pro v2 89.7%、SWE-Bench Verified 74.2%,在 50B 参数以下的 MoE 模型里领先。需要说明的是这些数字都由厂商自己发布,独立复测还没跟上。
量化环节有一个反常规的操作:把输出层(lm_head)压到 4bit。原因是 Flint 只激活 2.5B 参数,输出层在每个 token 的权重读取里占比很大,不压它省不下来。为了补精度,团队加了一个离线蒸馏阶段,用 16bit 模型当教师、在自己采样出的核心集上训练,训练步数比常规量化感知训练少了近一半,最终 NVFP4 版本与 16bit 版本的差距控制在 1 个点以内。
更意思的是"本地自动科研"的演示。研究员只给任务和可衡量的评分指标,Flint 自己提出思路、写代码、跑实验、按反馈迭代:在圆形填充问题里优化 26 个圆的位置与半径;在工厂调度任务里把整体完成时间比轮询基线提前 26%;在共享单车需求预测里,验证集 RMSLE 降低 30.8%、测试集降低 9.1%。过去跑这类自动科研要调大型闭源模型,现在一台笔记本就能完成闭环。
价格与适用边界
权重免费下载,Apache 2.0 允许商用。真正的成本是显存与电费:48GB 统一内存的 Mac、或 24GB 以上显存的显卡是比较现实的起点。
限制也很明确:与更大的闭源编程模型相比,Flint 处理复杂任务时需要更明确的指令,官方建议把大任务拆成小任务再交给它。它不是一个"一句话生成整个系统"的模型,而是一个响应快、可离线、可常驻的编程助手。
优缺点
- 优点:本地生成速度快、量化后内存友好、Apache 2.0 完全可商用、数据不出本机、可离线常驻并长时间跑实验。
- 不足:复杂任务需要拆解;上下文建议控制在 25.6万内;跑分为厂商自测,缺少第三方复现;没有官方托管 API。
适合人群与总结
适合三类人:代码不能出内网的团队、想在同一台机器上常驻多个 Agent 的开发者、以及在本地跑自动科研实验的研究者。如果你更依赖云端大模型的一站式体验,可以对照看我们的Gemini 4 Argon 开发者指南。想直接上手,从 Recursive Flint 工具页进 Hugging Face 下载即可。