10月21日,由前Salesforce首席科学家Richard Socher创办的AI实验室Recursive开源了第一款模型Flint。这是一款纯文本编码模型,总参数39.8B,采用混合专家架构,每个词元只激活约2.5B,权重按Apache 2.0许可发布,同日在Hugging Face上线,并被Ollama以flint标签收录。它想解决的场景很明确:让编码智能体跑在开发者自己的笔记本或自有GPU上,代码不出本机,也不产生按词元计费的账单。对习惯了按月订阅云端编码助手的工程团队,这是一个不同的选择。
按模型卡披露的规格,Flint共49层,其中2层为稠密层、47层为混合专家层;每个专家层有256个路由专家,每个词元选中6个,另配1个共享专家;注意力部分由35层滑动窗口与14层全注意力层混合构成,文档记载的上下文长度为262144词元。官方建议在难题上至少留出32768个输出词元,因为推理过程与答案共用同一窗口。
这套设计与当前开源模型的通行选择一致:用极低的激活比例换取显存与带宽的节省,让推理速度由激活参数而非总参数决定。代价是部署门槛集中在前端加载,BF16权重约80GB,官方参考部署面向一张B300或H200;想在笔记本上跑,只能走量化版本。Ollama上的flint镜像为23GB,标称256K上下文,官方提示24GB内存以下的机器不合适。换句话说,它把"本地"的门槛从工作站降到了高端笔记本,但没有降到轻薄本。
把26万词元上下文与32k输出放在一起看,能明白它为什么瞄准编码智能体。一次工具调用要读回文件、日志与报错,上下文消耗极快,多轮下来动辄数万词元;智能体在生成补丁时又需要把整个文件写完,输出预算同样紧张。这两项规格不是炫技,而是这条使用场景的硬门槛,也是本地模型过去难以胜任智能体任务的原因。
比模型本身更值得关注的是研发方式。Recursive称Flint从零开始用了不到四个月,靠的是一套名为Eureka Machine的自动化研究系统,参与架构设计、训练配方与推理内核,团队规模很小。按公司的说法,与AWS达成的4.1亿美元算力协议"与其说是关于人数,不如说是关于智能体数量"。量化环节也是自动化产物:输出层被压到4位,随后用离线蒸馏把精度补回来。
这条路线的含义不止于省钱。如果架构搜索、训练超参、内核优化都能被智能体承担,模型研发的节奏会从"以季度计的工程"变成"以周计的迭代",同时也意味着实验室之间的差距会更多体现在算力调度与评测设计上,而不是单纯的人数和经验。对中小团队来说,这是一种可以模仿的方法论;对头部实验室来说,这是一个提醒:研发效率本身正在成为可被自动化的对象。
4.1亿美元的算力协议是这套方法论的燃料。如果研发主要靠智能体并行试错,算力消耗就会从"训练一个模型"变成"同时跑几十条探索路径",账单结构完全不同。Recursive的说法是,协议规模对应的是智能体数量而非人头数,这句话把研发成本的重心从人力转向了机时,也解释了为什么一家小团队能签下这个量级的合同。
官方给出的成绩是SWE-bench Verified 74.2%、Terminal-Bench 2.1 54.9%、SWE-bench Pro v2 89.7%、IFEval 95.1%。速度方面,M4 Pro笔记本上超过每秒125词元,另一处口径为131词元;64GB显存的RTX Spark上超过每秒150词元。作为对照,同为本地路线的Gemma 4与Nemotron 3.5 Lightning在M4 Pro上只有每秒58到69词元,而816B参数的Muse Spark Open需要至少1TB内存才能运行。
水分在哪里,模型卡自己写清楚了。第一,智能体类分数使用温度1.0、mini-swe-agent或Terminus 2框架,其他模型的对比分数由各家自行报告,测试环境并不一致;第二,速度来自Recursive自家的推理引擎rec,针对M4 Pro与M5系列优化,走Ollama的llama.cpp或MLX路径会有差异;第三,基准版本在不同厂商口径里并不统一,SWE-bench Pro v2与Verified不能混着比。社区里也有开发者指出,它在真实仓库级任务上的表现仍需更多复现,小模型的分数在长链路上容易衰减。
Flint对准的是三类需求:代码不能出内网的团队、想在飞机上或断网环境继续写代码的工程师、以及厌倦了按月订阅与超额计费的独立开发者。官方也承认它需要比大型闭源模型更明确的指令,大任务必须拆成小步,并且没有企业级服务承诺,没有SLA与赔偿条款这类合同保障。对合规要求严格的公司来说,这两条足以让它停留在试用阶段。
但从趋势看,本地编码模型正在把"能不能用"变成"值不值得用"。当23GB的量化权重就能在一台笔记本上以每秒百词元的速度跑完整套工具调用,云端编码助手的定价逻辑会被重新审视:付费买的到底是模型能力,还是算力与工程封装。对国内的模型团队,这也是一个可对照的样本,开源权重加自动化研发,正在把中小团队的产品周期压缩到过去难以想象的尺度。