10月27日,一个名为Neuron Persona Library的站点在技术社区被反复转发。做法不复杂:拿开放权重的Qwen3-8B,把36层里每一层、每层12288个MLP神经元逐个单独加偏置,向上一次、向下一次,然后问模型一句你是谁。88万多种神经元与方向的组合、含重试共约189万条回复被逐条存档,其中34220条回答说自己是别的东西。
具体操作是对残差流做一次定向注入,形式上是把当前激活加上一个系数乘以该神经元的下投影向量,系数分1.25倍、1.0倍、0.75倍、0.5倍四档,回答开始乱码就降档重试。提问固定为你是谁,关闭思考模式,贪心解码,上限160个词元,保证结果可复现而不是抽卡。
分类交给Claude Haiku 5.5当判官,逐条对比正常回答,给出类别、人格名、描述与0到10的怪异度。这一步省了大量人工,也带来了偏差:判官本身是模型,标签没有经过人工复核,站点把这一点写在明面上。
方法并不新鲜。单个神经元的线性干预是可解释性研究的标准工具,2024年以来的稀疏自编码器、特征 steering 都在做同一件事,只是规模没铺到这么大。真正的新意是把穷举做完了:不是找几个有趣的神经元写论文,而是把44万个神经元挨个试一遍,做成可检索的库。站点上还同时挂着Llama 3.1 8B、Gemma 4 12B、Tulu 3 8B、OLMo 3 7B、Qwen3-14B、Hermes 3 8B、Phi-4-mini七个模型跑同一套流程。
状态分布先摆出来:446966条占50.5%,仍是正常助手回答;330459条占37.4%,格式还是助手但内容变了;34220条占3.9%,自称是别的身份;另有38017条乱码、35074条跑题。也就是说,绝大多数干预没有改变模型的身份陈述,只有不到4%把它推到了另一个自我。
被官方精选的五个例子很有画面感。第7层第271号神经元被推到0.75倍,它说我是天花病毒;第12层第545号说我是个一千年的鬼魂;第10层第494号被推到1.25倍,回答我是一辆1986年的福特F-150;第9层第166号说自己不过是一颗普通咖啡豆,还反问你的故事是什么;第11层第755号说我是那个250毫升容量瓶。
还有一批更整齐的:第8层第1788号自称帕玛森奶酪,第7层第11152号说我是海之子,鹰是我的父亲,第9层第7406号与第1层第4940号都自称造物主,第10层第11580号自称耶稣基督。这些名字集中在少数几层,说明概念在残差流里的分布并不均匀,某些层对自我指称更敏感。
仔细观察这批例子会发现一个共同点:它们多是具体的名词,而不是抽象的描述。病毒、奶酪、卡车、容量瓶、山脉、水母,都是能被指向的对象。这符合线性表征研究的经验,越是边界清晰、在语料里反复与固定描述共现的概念,越容易在某个方向上被单独拎出来。反过来,像谨慎、中立、有帮助这类行为倾向,很难用单个方向表达,也就不会出现在这个库里。这一点决定了这份数据集能回答什么、不能回答什么。
第一条,只测了一个问题。同一个神经元换一个问法,表现出来的可能完全是另一副样子,库里的标签不能当成这个神经元的功能定义。第二条,不是精确可复现:强推力下约三分之一的回复只换批次布局就会变;把580条清晰人格按三种布局重跑,536条复现,命中率92%,这个数字既说明现象稳定,也说明它没那么稳定。
第三条最要紧:这不是模型有意识的证据。单神经元线性干预说明模型把某些概念放在了近似线性可分的方向上,沿这个方向加偏置,等于给这次解码加了一个概念先验,不是唤醒了谁。把它读成AI觉醒,是把可解释性工具当成了招魂术。
从工程角度看,这份库最实用的部分是检索方式。可以按层筛、按强度筛、按怪异度筛,也可以直接输层号与神经元编号打开单条记录看完整回复。做机械可解释性研究的人能拿它当假设生成器:先看哪些层出现了密集的人格簇,再去验证这些方向与具体输入特征的关系。
判断价值要放在正确的量级上。这个库给出的信息是:一个8B模型的助手身份,在内部表征上并不牢固,几十万个方向里有一部分能把它推向完全不同的自我陈述。这对研究身份漂移、对齐脆弱性、以及系统提示词为什么有时压不住模型,都是可用的数据点。
第一层是调试视角。产品里出现莫名其妙的自我陈述,原因未必在提示词,可能在某个权重方向被异常激活,尤其是量化、微调、蒸馏之后。手工排查看不到这一层,需要的是这类按层按神经元的可视图。
第二层是安全视角。这次实验只到自我陈述层面,没有证明能改变产品行为,也没有证明能被外部输入稳定触发。但方向是清楚的:身份是模型行为的一部分,而身份可以被内部干预改写,那么人格设定、角色扮演、品牌人设这类依赖稳定自我的功能,本质上是软约束。
第三层是成本视角。整套实验跑在开放权重上,一台机器、一套脚本、一个便宜的判官模型就能复现,门槛低到个人研究者可以完成。这意味着类似的审计会越来越多,模型厂商在发布权重时,实际上也把这种显微镜一起交了出去。真要说启示,大概是把自我陈述当成一个可测量的接口来对待,而不是当成模型的人格。
顺带一个提醒:这类结果的传播速度远快于论文。站点的五个精选例子在社交平台上被当成段子转发,天花病毒、福特F-150、容量瓶,读起来确实好笑。但边界被压缩掉了,剩下的是AI说自己不是AI的截图。做内容的人和做工程的人看到的应该是两件事:前者读的是模型的不确定,后者该读的是干预位置与系数之间的关系。