Recursive Flint:39.8B MoE编程模型,靠「尤里卡机器」自己造自己(Apache 2.0)
Recursive这回发布的不是又一个coding model,而是一份关于“AI能不能造AI”的公开样本。几句判断先摆出来:其一,Flint本身是个务实的本地编程模型——400亿总参数、每token只激活25亿的MoE,能塞进笔记本离线跑,这比“又一个云端API”有意义;其二,真正值得盯的不是参数,是它背后的Eureka Machine——一套几乎参与了从架构搜索到推理内核每一步的自动化研究系统,小团队不到四个月从零撸出模型,这才是Recursive的本体叙事;其三,所谓“AI造模型”有边界,官方措辞是“自动化研究循环”,最终决策仍在人手里,别读成全自动无人参与;其四,跑分(SWE-bench Verified 74.2%、SWE-bench Pro v2 89.7%等)是厂商自测,官方页只作定性“不足500亿参数的MoE里领先”,具体数字别当独立评测;其五,Apache 2.0权重已经到手,首日就接进llama.cpp、Ollama、vLLM等,落地门槛低,但“可修改”和“改得好”是两回事。
模型本身:一台能塞进笔记本的稀疏引擎
Flint是Recursive(全称Recursive Superintelligence,由Salesforce前首席科学家Richard Socher创办)的首款模型,定位本地编程Agent:能离线跑、保持代码私密、不按token计费。它的骨架是混合专家(MoE):总参数约400亿(报道口径39.8B),每token激活约25亿(2.5B)。据模型卡与多家报道,它在256个路由专家中每token选取6个,再叠加1个共享专家——官方博客没有列出具体专家数,但确认了“稀疏激活”这个核心设计:一次推理只点亮整张网络里很小的一部分。
这种稀疏化直接决定了它的落地形态。官方给了两个速度锚点:在搭载M4 Pro芯片的MacBook Pro上,短上下文下超过125 tokens/秒;在64GB显存的NVIDIA RTX Spark上,超过150 tokens/秒。官方称同级模型里最高可达2倍速度,比同性能的稠密模型快5倍以上。这些数字排除了prefill、基于128K上下文会话测量,是厂商口径,别直接等同于日常长文件编辑的体感。
上下文窗口方面,官方口径是最大512K、推荐实践保持在256K以内(报道常写作262K)。对本地Agent跑多轮工具调用、读长仓库来说,这个窗口够用;至于512K顶格下的稳定性,要看社区实测。
| 规格 | 数值 | 口径 |
|---|---|---|
| 总参数 | 约400亿(39.8B) | 官方“40B”与报道39.8B |
| 每token激活 | 约25亿(2.5B) | 官方 |
| 专家配置 | 256路由专家选6,外加1共享 | 模型卡/报道,官方未列具体数 |
| 上下文窗口 | 最大512K,推荐256K以内 | 官方 |
| 许可 | Apache 2.0 | 官方,权重已发布 |
| 权重位置 | Hugging Face(RecursiveSI/flint) | 官方 |
说明:参数为官方与报道的综合口径;专家数、262K等来自模型卡与媒体,官方博客仅确认稀疏激活与上下文范围。
最大看点:Eureka Machine自己造模型
把参数和数字放一边,Flint最特别的地方是它“怎么来的”。Recursive的命题从公司名字就写明了——做能自我改进的AI。Eureka Machine是他们的自动化研究系统,官方博客描述它跑的是一个“提出想法→实现→测试→根据结果决策”的闭环,并且这个闭环几乎参与了Flint开发的每一步:从35B总参数、3B激活的基线出发做架构搜索,确定专家配置与宽度;参与数据构建、优化器开发、训练配方设计;还下场写基础设施和推理内核——包括在Apple Silicon上融合整个解码前向传播的Metal megakernel,以及为NVFP4量化后的模型在RTX Spark上优化专用于低比特投影、MoE操作和注意力的定制内核。
图:Eureka Machine的研究闭环
提出想法 → 实现 → 测试 → 据结果决策
↑___________________________________↓
(闭环由Eureka Machine自动化,覆盖架构/数据/优化器/配方/内核;最终决策仍由团队把控)
说明:依据Recursive官方博客对Eureka Machine的描述。它自动化的是“研究循环”的执行层,而非替代最终决策;这与“全自动无人造模型”的表述有距离,需按厂商自述的边界理解。
关键要分清:这是“自动化研究”,不是“全自动创造”。官方自己用的词是自动化研究循环,意思是有大量实验由系统跑、由系统根据结果做下一步决策,但团队的判断仍在环里。一个不到四人的小团队能从零在四个月里推出一个能打榜的编程模型,靠的正是把这个循环跑满——这比单纯堆参数更接近Recursive想卖的故事:未来的模型研发,人力主要花在定义问题和验收上,而不是在调参和写内核。
量化:把体积压下来,把笔记本接进去
Flint能上笔记本,量化是临门一脚。官方采用NVFP4(约4比特)量化方案,甚至把输出层lm_head压到4比特(这步违背常规,需要额外手段保精度)。为补救,团队加了一段离线蒸馏:量化模型在自发现的coreset上基于16位教师模型训练,训练步数较量化感知训练基线几乎减半;最终NVFP4模型在各基准上得分仅比16位版本低0.7分。报道口径里,这对应“体积较16位版本压缩约71%”。一句话:用精度的小幅让步,换本地可部署的体积和速度。
要做到这点,Eureka Machine连推理内核都一起写了——Metal megakernel把整段解码前向传播融进一个核,正是为了在Apple Silicon上把稀疏MoE跑满。换句话说,模型架构、量化格式和硬件内核是被当作一个系统一起优化的,这也是它能在MacBook上拿到125+ tokens/秒的原因。
跑分:厂商自测,别当独立评测
| 基准 | 分数 | 口径 |
|---|---|---|
| SWE-bench Verified | 74.2% | 厂商自测 |
| Terminal-Bench 2.1 | 54.9% | 厂商自测 |
| SWE-bench Pro v2 | 89.7% | 厂商自测,官方称sub-50B MoE里领先 |
说明:以上为厂商自测数字,评测设置temperature 1.0、top-p 0.95、top-k 20,代理评测超时最长5小时、至少5次尝试平均pass@1;官方博客正文仅作定性“不足500亿参数的MoE中领先”,未逐项列分。具体分数须以模型卡与后续独立复现为准。
这组数字里有两点要提醒。第一,SWE-bench Pro v2的89.7%很高,但它是厂商自己的评测设置、自己的提交,和社区或第三方独立跑出来的成绩不能直接划等号。第二,Terminal-Bench 2.1的54.9%反而偏低,说明在终端与长流程任务上Flint还远未到“替代人”的程度——别被最高的那一项带节奏。整体看,它的合理定位是“同尺寸MoE里靠前、且能本地跑”,而不是“全面超越更大规模的闭源模型”。
落地:权重到手,第一天就能接
开源成色是实的。Apache 2.0权重已在Hugging Face(RecursiveSI/flint)发布,并且第一天就接入了llama.cpp、Ollama、LM Studio、vLLM、SGLang这一串本地与服务器推理栈;在OpenCode与Pi上可以免费试用。对开发者来说,这意味着“下载、本地跑、改内核”的链路是通的——尤其适合在意代码隐私、不想走云端API的团队和个人。
但“可修改”不等于“改得好”。MoE的专家配置、NVFP4量化格式、Metal megakernel都是被Eureka Machine一起优化出来的,外人要复现或改动这套协同设计,门槛并不低。开源降低了“用”的门槛,没降低“改”的门槛。
诚实边界
几句口径摆正。其一,基准数字(74.2%、54.9%、89.7%)为厂商自测,官方页仅作定性描述,非独立第三方评测;SWE-bench Pro v2的89.7%尤其要谨慎读取。其二,39.8B与官方“40B”是同一规模的不同写法;256专家选6+1共享来自模型卡与报道,官方博客未列具体专家数。其三,上下文窗口官方口径为最大512K、推荐256K以内,报道中的262K与推荐值接近。其四,约71%体积压缩是NVFP4量化的推导/报道口径,官方给出的是NVFP4格式、lm_head压至4比特、精度仅低0.7分。其五,tok/s为短上下文、排除prefill的厂商测量,不等于长文件日常体感。其六,“Eureka Machine自己造模型”是厂商叙事,实为“自动化研究循环、最终决策仍在人”,边界要守住。其七,开源为Apache 2.0权重已到手,但改动的工程门槛不低。其八,本文仅做技术解读与口径澄清,不给任何团队选型或部署建议。
意味着什么
放在2026年看,Flint最该被记住的不是它跑了多少分,而是它把“AI辅助AI研发”从PPT推进到了可验证的样本:一个自动化研究系统确实参与了架构、数据、优化器、配方和内核的几乎每一步,并且产出了一个能打榜、能本地跑的开源模型。这是Recursive对“递归自我改进”这个命题交出的第一份公开作业。
但要分清楚两层。一层是工程价值:稀疏MoE加低比特量化加定制内核的协同优化,确实把前沿级编程能力塞进了笔记本,这对本地Agent和隐私敏感场景是实打实的增量。另一层是叙事价值:它证明了小团队借助自动化研究系统,可以在数月内逼近大实验室的部分产出——这才是让大厂紧张的部分。至于“AI自己造自己”会不会真的递归起来,Flint本身还没到那一步,它更像一个被精心编排的研究流水线,而不是自发进化的智能体。
最后一句判断:方向是对的,样本也是真的,但把它读成“无人参与的自我改进”就过头了。真正的拐点,要看Eureka Machine下一轮能不能把“定义问题”也自动化掉。