11月4日起,美国初创公司 Ricursive Intelligence 的 Ripple-65B Preview 可以在 Hugging Face 直接下载,协议是 Apache 2.0,允许商用。模型是650亿参数的稠密结构,训练用了12万亿词元,上下文长度100万,定位在编程与智能体任务。比参数更引人注意的是公司同时公布的两个数字:研发总成本约3200万美元,以及在 TerminalBench 2.1 上拿到80.52分。前者把训练一个大模型的账本第一次摊到了台面上,后者则把这个成绩直接和"能不能下载"绑在了一起。
过去两年,主流前沿模型几乎都转向了混合专家结构,用总参数堆容量、用激活参数控成本。稠密模型的好处是不会出现"路由不均"这类问题,每个词元都走同样的通路,行为更可预测,微调时也更不容易把某个专家训坏。坏处很直接:推理成本随参数量线性上升,同样一次请求,稠密65B的算力开销接近满额支出。
Ricursive 选稠密,等于把赌注押在"部署侧更省心"上。对一家要把权重交出去的公司,这个选择有内在逻辑:权重一旦离开自己的机房,用户用什么硬件、跑什么精度、接什么推理框架,公司都管不了。混合专家模型在不同推理框架上的表现差异较大,并行切分方式一变,吞吐可能差出一截;稠密模型的部署行为更接近"装上去就能跑"。代价是把成本压力转移给了使用方,这也是很多团队下载权重之后先量化再上线的现实原因。
训练成本很少被公开,通常只在论文的附录里给一个模糊区间,理由是涉及供应商合同与商业机密。主动报出3200万美元,等于给行业提供了一个坐标:12万亿词元的预训练、后训练、数据清洗、失败重跑,全部加起来的量级。这个坐标的意义不在于"便宜",而在于它让"要不要自己训一个"这道题第一次有了可算的分母。
拿这个数字对照市面上的其他选择,会得到一些不太舒服的结论。租用前沿模型的 API,一个中等规模的产品一年支出可能就接近这个数;自建同等规模的模型,3200万美元只是训练成本,还没有算人力、数据授权与后续迭代。对绝大多数公司,正确的答案依然是买而不是训。真正会被这个数字打动的,是那些数据不能出内网、或者需要在权重上做深度改造的团队,对它们来说,一次性投入换长期自主,账是算得过来的。至于那些只是想把产品先跑起来的团队,把这笔钱花在数据与场景上,回报要比训练一个通用模型明确得多。
协议宽松不等于能用。65B参数按16位精度存放约需130GB显存,即便做4位量化也要三十多GB,单张消费级显卡放不下,需要两张以上的专业卡或者一台多卡服务器。这还只是装得下,跑得动又是另一回事:100万上下文在实际使用中会把显存吃掉一大块,长文档任务要么缩短上下文,要么上更多的卡。按当前的租赁行情,两张80GB的卡月租通常在几千美元量级,这笔固定支出要在项目排期里单独留出来,不能只算电费。如果团队本身没有运维能力,还要再加一层托管或者代维的开销。
同一周里还有另一家美国实验室发布了参数规模大得多的新模型,但只开放托管调用,权重承诺在后面。两种做法放在一起看,分野很清楚:一种把模型当成可以长期留在自己机房里的资产,另一种把模型当成一项服务。前者适合需要对模型做深度改造、或者对合规有硬要求的场景,后者适合想尽快验证产品方向的团队。选择哪一种,取决于业务能不能等,而不是模型分数高不高。
80.52分来自 TerminalBench 2.1,这是一套测终端操作的基准,考的是在命令行环境里完成多步任务的能力。这个方向与编程智能体的实际工作最接近,比单纯的代码补全更有参考价值。需要提醒的是,这个分数是公司自己报的,测试条件、提示词模板、允许的重试次数都没有完整公开,横向比较时要留出余量。
基准分数在过去一年里出现了明显的通胀,同一套题在不同厂商手里的成绩差异,常常大于模型能力的真实差距。更可靠的做法是拿自己的任务去跑:把团队内部最常做的十类操作整理成固定用例,用同一套提示词在几个候选模型上各跑一遍,看通过率和人工返工率。这个流程花不了一周,但比看任何一个榜单都准。把结果记成表格,下次换模型时就有现成的对照基线,不用重新摸索一遍。
把这一周的几个发布排在一起看,会发现一个共同点:大家都在抢"什么时候能拿到权重"。能力差距在缩小,可下载的时间点却成了决定选型的因素。一个团队在做技术选型时,如果候选模型的分数相差两三分,但一个今天能下、一个要等下个月,绝大多数人会选今天能下的那个,因为产品排期不等人。
这种节奏对整个生态有好处也有坏处。好处是权重供给变快,本地部署与二次训练的门槛持续下降,小团队也能在开源模型上做出差异化。坏处是"发布即完赛"的心态在蔓延,模型卡里的限制条件、许可证的地域条款、量化后的精度损失,这些真正影响落地的东西反而被忽略。Ripple-65B 这次的透明度算是一个正面样本,但一个样本改变不了行业习惯,接下来要看有多少团队愿意跟着把成本与条件一起写清楚。