一个只有两个人的研究实验室，在 Hugging Face 上放出了一个21.8亿参数的文生图模型，权重8.7GB，Apache 2.0 协议，公开的训练成本约2.1万美元。实验室叫 Linum，成员是 Sahil 与 Manu Chopra 两兄弟，主业务其实是做视频生成，这个叫 P-JiT 21K 的模型是他们为下一代视频模型做的技术验证。它的架构选择相当激进：把行业内几乎标配的变分自编码器整个拿掉，让扩散模型在像素空间直接学。代价也很干脆，模型被故意训练成不会写字的，所有带文字的图片在数据阶段就被过滤了。
常规文生图管线分两段：先用一个变分自编码器把图片压到低维隐空间，再让扩散模型在这个小空间里去噪。这么做的原因很实际，像素数太多，直接在原始分辨率上算注意力，开销大到无法承受。变分自编码器把1024乘1024的图像压成32乘32的向量块，计算量降了两个数量级。
问题出在两段之间的目标不一致。变分自编码器的训练目标是重建得准，而扩散模型需要的是一个适合去噪的表示，两者并不完全重合。Linum 团队的说法是，变分自编码器在压缩率上已经撞到经验天花板，而且一个重建得更好的自编码器，往往会让下游生成质量变差。这个现象在业界不算秘密，只是一直被当成可以忍受的损耗。
P-JiT 的做法是让扩散模型自己长出隐空间。图像被切成32乘32的块，压到1024维，压缩比与过去相当，但整个表示由生成目标驱动。结果是512见方的图片用掉的词元数量，等于以前256见方图片的用量，也就是更激进的四倍词元缩减。这个改动把管线从两段变回一段，省掉一个需要单独训练、单独维护的组件，也省掉一次跨模型的精度损失。
团队报出的数字是，收敛所需样本比上一代 Linum v2 少11倍。这个提升来自两处设计。一是为像素空间模型重新设计了噪声调度，让它在高噪声阶段就能学到细粒度细节，而不是等到最后几十步才补细节。二是沿着主干网络插入了多个读出点：在第5个模块后接一个两层的读出层，把隐空间对齐到 DINOv3-L 的特征；在第10与第16个模块后各接一个线性头，分别预测四分之一与二分之一分辨率的干净图像。
多尺度读出的作用在于补梯度。扩散模型早期的模块拿到的梯度信号很弱，这是同行研究里已经被指出的现象。像素空间模型有个天然优势，每个模块都在预测某种版本的最终图像，低分辨率的预测可以让信号更早地传进网络，收敛自然更快。训练损失由四部分相加：各读出点的均方误差、与 DINOv3-L 的余弦距离、最终输出头的均方误差，加上全分辨率上的感知损失。
模型卡写得很直白：训练数据里带渲染文字的图片被主动过滤掉了，包括信息图、说明书、书页、幻灯片、海报。原因是这类数据对实验室的目标没有帮助，他们要的是动画工具，不是排版工具。结果是提示词里只要出现"招牌""海报""标志"，输出就会糊成一片。
这个取舍值得单独说，因为过去两年国产与海外的图像模型，几乎都把文字渲染当成主战场。字体结构、拼写、位置三个条件要同时成立，扩散模型在像素空间去噪并没有机制保证字母的拓扑正确，所以这块一直是硬骨头。放弃它，换到的是训练成本的大幅下降与模型体量的可控。对做动画与概念图的用户，这笔交易可以接受；对做电商主图与营销物料的用户，这个模型根本不在候选名单里。选型时把这条限制写进需求清单，比下载试完再抱怨它写不出字要省事得多。
训练成本约2.1万美元，处理了6.6亿个样本，其中512分辨率6.1亿、1024分辨率5000万。这个数字之所以刺眼，是因为它比很多人想象的少两个数量级。但要看清它覆盖了什么：只覆盖算力账单，不含数据获取、清洗、人工评估与失败重跑。数据规模本身也不大，与动辄几十亿图文对的工业级数据集不在一个量级。
另一个容易被忽略的成本是后训练。团队用了一种叫有限差分流优化的方法做强化学习式后训练，配合自动评分与人工评审。他们自己承认，扩散模型的后训练还很年轻，直接偏好优化容易过拟合到某种审美，去年秋天出现的流式强化学习方案也才刚起步。换句话说，这2.1万美元买到的是一次架构验证，不是一条能直接量产的生产线。真要做产品，后面还要为数据授权、评测集与人工标注再掏几笔。
把这件事放到更大的背景里看，它属于一条正在变粗的分支：小体量、单卡可跑、权重开放、能力收窄。这条分支的竞争力不在通用性，而在"能不能在自己的机器上改"。对大公司，通用大模型的能力上限更重要；对垂直团队，能不能拿权重去微调、能不能把推理成本压到可控，才是活下来的关键。
这条路线也有它自己的天花板。模型在多实体场景、全身构图、多人互动上的表现明显弱，模型卡里把这些列为已知短板，还提到世界知识不足，比如吉他的弦数会画错。这些问题的根源是容量与数据分布，靠调架构解决不了。它能做的是提供一个便宜的起点，让没有大预算的团队也能做实验；它做不了的是替一个成熟的美术团队出成品。两件事的边界，用户最好在下载之前就想清楚。