清华发布单细胞蛋白组基础模型ProtCell,并在国产算力卡上完整复现

首页 / AI资讯 / AI4S

0:00
0:00
1x
定时

11月13日,清华大学自动化系江瑞课题组发布了一个面向单细胞蛋白组的基础模型,论文名为ProtCell: a foundation model for single-cell proteomics。这条消息有两个看点,一个是模型本身解决的问题,另一个是它在什么卡上跑出来的。

三点八亿个细胞训出来的底座

ProtCell用到的预训练与评估数据约3.8亿个细胞,来自98个公开数据集。这个规模在单细胞领域属于可以支撑基础模型的量级,因为单细胞数据的难点不在单个样本的大小,而在样本数量与批次差异,跨数据集整合往往比模型结构更耗时。

单细胞蛋白组与更常见的单细胞转录组不同。转录组测的是RNA,一个细胞能测到上万个基因;蛋白组测的是蛋白丰度,受抗体、质谱与通量限制,一个细胞能测到的蛋白数量少得多,缺失值极其普遍。用这样的数据训模型,第一道难题是怎么处理"没测到"。

缺失在这里有两种含义:一种是真的没有表达,一种是技术原因没测到。两者在数据里长得一样,处理方式却完全相反。模型如果学不会区分,推断出来的结果就会系统性地偏低,而这个偏差在下游做药物靶点判断时会放大。

它能做两件具体的事

第一件是映射细胞状态。给定一个细胞的蛋白谱,模型把它放到一个连续的状態空间里,判断它处在分化、激活、应激还是凋亡的哪个阶段。这类判断过去依赖聚类与人工标注,批次一变就要重来,基础模型的用处是把判断变成一次前向计算。

第二件是推断未测蛋白的表达。因为蛋白组的测量是稀疏的,每个细胞都有大量蛋白没有被测到,模型可以根据已测部分与细胞状态,推测那些空白位置大概是什么值。这件事的实用价值在药物研发:一个候选靶点的蛋白在特定细胞类型里到底有没有表达,实验做一遍要几周,推断只要几秒。

两件事的关系是递进的。状态判断错了,推断也会错;推断的置信度低,状态判断也站不住。所以论文里的评测通常要把两者放在一起看,只报其中一个指标的提升,很难说明模型到底学到了什么。

复现与等效是两件事

论文同时披露,团队在摩尔线程的旗舰训推一体智算卡MTT S5000上完成了ProtCell的全流程预训练复现,主要定量评测指标与国际主流GPU平台的差异约0.2%。这个结果的意义在于证明一件事:从数据加载、算子、通信到优化器,整条链路在国产软硬件上可以跑通且结果接近。

但复现不等于等效。复现说的是同一份代码、同一份数据、同一套超参,在另一套硬件上跑出接近的结果;等效说的是在生产环境里,训练同样规模的模型需要多少时间、多少卡、多少电,能不能稳定跑上几周不出错。前者是可用性,后者是经济性。

对科研团队,可用性已经足够,因为它意味着采购不再只有一条路,预算紧张时可以用更便宜或更易获得的算力。对产业团队,经济性才是决策依据,它取决于集群规模、故障率、调度效率以及软件栈的成熟度,这些指标通常不会出现在论文里。

零点二这个数字的边界

0.2%的差异是"主要定量评测指标"的平均差异,这个限定词很重要。基础模型的评测通常包含多项任务,每一项的差异分布不一样,平均下来0.2%可能掩盖了某一项上3%到5%的差距。判断能不能接受,要看差异落在哪项任务上。

还有一个隐含前提是规模。复现用的模型规模、卡数、训练步数如果小于原版,0.2%的说服力会打折,因为很多硬件差异只在大规模长时间训练中才暴露,比如数值稳定性、通信拥塞、显存碎片。小规模跑通是必要条件,不是充分条件。

对读者的实用建议是,看到这类数字先问三个问题:比的是哪几项指标、训练规模是否一致、有没有第三方复跑。三个都答得上来,这个数字才有参考价值;答不上来,它更像一次工程可行性的公告,而不是性能结论。

虚拟细胞还缺什么

虚拟细胞是这类模型最终要去的方向:给定一个细胞的状态与一次扰动,预测它之后会变成什么样。ProtCell提供的是"当前状态的读数",属于必要但不充分的一步,缺的是扰动与时间两个维度。

扰动数据比观测数据贵得多。要测一个基因敲低之后蛋白组怎么变,需要做实验、等结果、再测一遍,通量远低于静态观测。公开数据里扰动数据集的数量与覆盖度都有限,这直接限制了模型能学到的因果结构。

时间维度更难。细胞状态是动态的,同一群细胞在用药后6小时与24小时的表现完全不同,而多数数据集只有一个时间点。没有时间序列,模型学到的是相关性而不是过程,用来做药物响应预测时容易在跨时间点外推上失效。

所以更现实的定位是加速层:把候选假设从几百个筛到几十个,让实验只做最有希望的那批。这个定位不炫,但它已经把研发早期最贵的一段成本压下来了。真正替代实验还早,至少在扰动数据补齐之前是这样。

对国产卡生态的意义

这次复现放在生命科学基础模型上,选择本身有信息量。科学计算类模型对精度的要求比对话模型更硬,对算子覆盖的要求也更杂,能在这种负载上跑通,说明软件栈的适配已经越过了"只支持主流Transformer"的阶段。

但生态的短板通常在长尾。一个实验室跑通一次,与一百个实验室每天跑,是完全不同的两件事。后者需要的是文档、示例、报错信息、社区问答与快速修bug的能力,这些软性投入决定了迁移的真实成本,而它们不出现在任何基准里。

对采购方,务实的判断方式是做一次小规模迁移测试:拿自己最常用的三个模型,在国产卡上各跑一遍完整流程,记录环境配置耗时、报错次数、精度偏差与吞吐。这三个数字比任何宣传都更能说明这套生态现在能不能用。

素材来源:每日经济新闻、证券时报、arXiv论文页 发布时间:2026-11-15