BOSS直聘开源330亿参数智能体模型,512K上下文硬啃终端任务

首页 / AI资讯 / 大模型

0:00
0:00
1x
定时

10月23日(太平洋时间),BOSS直聘旗下的Nanbeige LLM Lab在Hugging Face上传了Nanbeige4.3-33B,Apache 2.0许可,330亿参数稠密结构,上下文窗口524288个词元,推理默认开启。这次它没有先去刷一个小模型的性价比榜单,而是先放出教师,计划中的3B学生模型之后从它蒸馏。

先发老师,再发学生

过去两年开源社区的惯常顺序是先出小模型抢性价比,再用大模型补旗舰位置。这次反过来。模型卡把33B定义为4.3系列的旗舰教师,任务是把智能体能力蒸馏到更小的模型里,第一个目标是Nanbeige4.3-3B。实验室此前做的是4.1-3B、4.2-3B这类小模型,路径依赖很清楚。

权重是BF16,约66GB。官方给出的SGLang与vLLM配方用4路张量并行,也就是说它不是一张消费级显卡能跑的模型。Hugging Face页面上已经出现40多个社区量化版本与5个第三方微调,架构标签写的是Llama,这降低了存量工具链的适配成本。

Base检查点与instruct检查点同时发布,前者留给需要自己后训练的人。这种教师加底座的组合,实际是在卖一条蒸馏流水线的上游:企业可以先拿33B做业务验证,再把能力压到能塞进内网小机器的尺寸。

终端任务80.9分,赢在长链条

实验室给出的对照是三款同量级开源模型:Qwen3.8-27B、Muse-Glimmer-30B、Gemma4-31B,统一使用各家最高思考强度、同一套评测框架与推理参数。Terminal-Bench 2.1上,Nanbeige4.3-33B得80.9,三家分别是73.0、61.8、47.2。

差距在更难的版本上拉得更开:Terminal-Bench 4.0拿到23.8,对手是6.3、1.6、0.0;DeepSWE是65.5对42.5、4.4、2.7。这几个基准测的是多轮命令行操作、仓库级修改与工具调用,考的是能不能把一件长任务拆开做完,而不是单题推理有多聪明。

办公场景那一半的分数同样偏向它:AutomationBench 54.2对38.3,JobBench 44.8对34.5,模型卡称在评估的35个职业里多数超过基线;DeepPlanning 63.3对49.2,Toolathlon-Verified 70.4对68.5,YC-bench按模拟美元计为1025437对641290。这一半比编程榜更能反映它能不能当办公助手。

输掉的三项,恰好是另一类能力

表里也写了不利的数据:SWE-Bench Pro 60.3,低于Qwen3.8-27B的61.7;GDPval 84.8,低于86.4;GPQA Diamond 89.5,低于Gemma4-31B的91.3。纯推理的差距很小,AIME 2026是95.2对94.5,SciCode 52.6与AA-LCR 84.0则是全表最高。

这组分布说明训练重心压在把活干完上,而不是把题答对。对做智能体的人来说,这个取舍有意义:终端里一条命令失败,重试成本远高于选择题错一个。反过来,如果业务是知识问答或考试型任务,它的优势就没那么明显。

需要提醒的是,所有数字都是自报,实验室没有引用第三方复现;对照模型也是自己挑的,没有和更大的开源MoE或闭源前沿模型比。SWE-Atlas-QnA一项由GPT-6 Sol按1304条任务细则打分,评委本身也是模型,这类评测的说服力要打折。

512K上下文与真实的部署账

524288个词元的上下文,官方建议智能体与工具调用场景温度1.0、最多生成65536个词元,推理与聊天场景温度0.6、最多262144个词元。对话模板支持enable_thinking与preserve_thinking,后者让推理过程跨轮保留,实验室明确推荐在工具调用时打开。

工具调用可以写成XML,这是推荐格式,也兼容JSON。长上下文配合保留思考,解决的是多轮任务里上一轮为什么这么改的遗忘问题,代价是KV缓存占用随轮次上涨,长会话的显存压力会先于上下文上限到来。

66GB权重加4路并行,意味着它的目标客户是有几张卡的工作室与中型团队,不是个人开发者。这与开放权重并不矛盾:开放的是可审计与可私有化,不是可随身携带。真正决定它能不能落地的,是客户有没有能跑4路并行的机器,以及有没有人愿意为微调付工时。

30B档位正在变成主战场

今年下半年,30B上下这个区间挤进了Qwen3.8-27B、Muse-Glimmer-30B、Gemma4-31B,现在又多了一个33B稠密模型。这一档的共同点是单机多卡可部署、微调成本可控、能在企业内网跑,正好卡在云端接口太贵与7B太弱的中间地带。

另一个变化是发布方式:先给教师、再蒸馏学生,等于把能力配方一起开源。对使用方是好事,对同行的定价是压力,因为客户会拿33B的效果去压小模型的价格。

这也解释了为什么它把办公场景的分数摆在编程分数旁边。编程是智能体的样板间,办公才是付费场景,一个人一天要开的会、要填的表、要核的数,比要写的代码多得多。把这两块绑在同一次发布里,是在提前回答买它做什么用。

对国内团队来说,这个模型提示了一件事:智能体的竞争力越来越取决于长任务稳定性与工具生态适配,而不是参数规模。模型能不能把终端里的一条命令跑对,比在榜上多两分更值钱。

素材来源:Hugging Face模型卡、MarkTechPost、AI Chat Daily、AIModeling 发布时间:2026-10-27