一段 51 秒的视频，把 AI 标识制度的有效性问题推到了台前。西班牙大选前夕，保守派人民党发布了一段由 AI 生成的视频，画面中首相佩德罗·桑切斯的夫人贝戈尼娅·戈麦斯与前首相何塞·路易斯·罗德里格斯·萨帕特罗似乎在承认犯罪。到周五，这段视频的播放量接近 200 万次。画面角落有一行很小的 AI 提示，西班牙数字大臣称这是弥天大谎，一位被冒用形象的政治人物已经提起法律挑战。法律专家的判断是，这行标签可能让内容落入讽刺作品的保护范围，但合法不等于合乎伦理。
标识制度的假设是，只要告诉观众这是生成的，观众就会降低信任。真实传播里这个假设很难成立。一条 51 秒的视频在社交平台上被反复转发时，开头几秒就决定了观众是否继续看，角落里的小字通常出现在他们已经形成印象之后。等到有人指出这是 AI 生成，情绪已经完成了一轮扩散。
更麻烦的是二次传播。原帖可能带着标签，截取片段、加字幕、配解说的二次创作往往不带。平台审核针对的是原始内容，转发链条上的变体很难逐一追溯。标签在源头有效，在末端失效，这是当前所有标识制度的共同短板。
这不是说标识没有意义。它至少为事后追责提供了依据，让平台与监管能证明发布方明知内容是生成的。问题在于把它当成唯一手段，会把治理压力全部压在观众身上，而观众既没有能力也没有动力逐条核验。标签的可信度还会被稀释，当观众发现标签与内容严重不符，学到的经验不是更谨慎，而是连标签也不必当真。
这段视频之所以传播快，不只是因为政治对立。它选中的对象是公众熟悉的面孔，观众对这些人物的说话方式、表情习惯有长期记忆，一段足够像的伪造内容会激活既有印象，而不是触发怀疑。伪造技术的进步体现在细节上，口型与音轨的对齐、眨眼频率、皮肤质感，这些过去容易露馅的地方，现在被补得越来越好。
这也解释了为什么政治人物成为高频目标。他们的影像素材最多，公开演讲、采访、议会发言构成海量训练数据，模型对这类面孔的还原度天然更高。相比之下，普通人的素材少，伪造难度大，但一旦发生，受害者缺乏资源应对。
对企业而言，风险同样存在。创始人、代言人、客服形象都是可被冒用的资产，一段伪造的“老板宣布裁员”视频，在澄清之前就足以影响股价。数字人产业因此被迫把防护前置，形象授权、生成存证、内容溯源正在从加分项变成基础项。
专家提到的“可能是合法讽刺”，指向的是言论自由与人格权之间的传统平衡。讽刺作品长期以来享有较宽的豁免，因为它被假定为观点表达而非事实陈述。AI 生成让这条界线变得模糊，一段以假乱真的视频，普通观众未必能分辨它是讽刺还是爆料，尤其当它出现在选举周期、由政党官方账号发布的时候。
被冒用形象者提起的法律挑战，大概率会围绕人格权展开，包括肖像、名誉、隐私。这类诉讼的难点在举证，需要证明内容指向特定个人、造成社会评价降低、发布方存在过错。标签的存在会被被告用来主张已尽提示义务，原告则需要论证标签不足以消除误导。判决结果会影响后续所有类似案件，因此值得持续观察。
平台的位置同样微妙。作为传播渠道，平台通常主张避风港原则，但在选举周期，多国监管要求平台对政治内容承担更高的审核义务。标签是否满足“已采取措施”的标准，目前没有统一判例，这也是平台在选举期倾向直接限流或下架的原因。
这起事件对做数字人业务的公司是一次预警。技术能力越强，越需要把合规设计进产品，而不是事后补。可行的做法包括：生成内容强制嵌入不可轻易移除的溯源信息，而不只是一个可见的角标；形象授权做成可撤回的合约关系，明确使用范围与期限；对外提供合成内容时保留完整生成日志，以便争议发生时自证。
国内监管对这条线的要求已经比较清楚，深度合成服务需要显著标识，生成合成内容标识办法进一步区分了显式标识与隐式标识，前者让用户看见，后者便于技术识别。企业如果只做前者，遇到二次剪辑就失去追溯能力，两层都做才算完整。
商业模式上也要留出余量。数字人最容易变现的场景是营销与直播，这两类场景恰好对真实性最敏感，一旦出现冒用事件，客户的第一反应是收缩预算。把合规成本算进报价，比事后解释便宜得多，也更容易通过客户的法务审核。
从技术上看，检测永远滞后于生成。每一代检测模型都在追上一代生成模型，而生成侧的迭代速度更快。指望靠检测解决问题，等于接受一个长期失衡的军备竞赛。真正有效的抓手在流程侧：发布主体的实名与责任、平台对高风险内容的延迟分发、选举期对政治类合成内容的强制人工复核。
更现实的推进方式是分级处理。涉及候选人、选举程序的合成内容执行最严标准，娱乐性内容保持宽松，把有限的审核资源放在影响最大的地方，比一刀切更容易执行。
这些措施都会增加成本，也会引发关于审查边界的争论。但这段 51 秒视频已经展示了不作为的代价，200 万次播放意味着有相当数量的观众把它当成事实记住了，而纠正一条已经形成的印象，比阻止它传播难得多。技术给了每个人伪造的能力，制度需要给出对应的摩擦。