"眼见为实"的时代,正在被AI重新定义。据多家媒体报道,OpenAI正式发布最新图像生成模型ChatGPT Images 2.0,这是一款能够处理复杂视觉任务、生成精准可立即使用视觉效果的新一代模型。与早期AI图片"一眼假"的突兀感不同,Images 2.0对真实世界的复刻达到了像素级别:光影、材质、人物神态、场景细节高度逼近真实照片,媒体测试后发出感叹,"眼见为真"的信任被彻底打破。目前,一些用Images 2.0生成的假图已开始在网络上传播,包括库克代言官宣图、名人合影照、聊天记录截图等,以假乱真,甚至新闻截图也能轻易伪造,而各平台对这批假图的识别率接近于零。
记者实测的案例颇具冲击力。极目新闻记者尝试让模型"生成一张马斯克直播画面",模型不仅精准还原了直播间场景,还模拟出电商平台的Logo、网友评论与互动数据,生成了一张足以乱真的直播间截图。另一项测试中,记者用简单提示词生成的库克代言官宣图,在构图、打光、人物皮肤质感和产品细节上都接近真实商业摄影,普通用户几乎无法凭肉眼分辨真伪。
更令人担忧的是对"证据类图像"的伪造能力。实测显示,Images 2.0对图片生成的类型限制较少,事故照片、国外电子驾照、聊天记录等图像均可生成。聊天记录截图是网络纠纷、舆论事件中最常被引用的证据形式,一旦这类图像可以被低成本、高质量地伪造,网络空间的信任基础将受到直接冲击。记者将生成的假图发布到各平台,24小时后作品状态仍然正常,没有AI标识,阅读量虽低,但平台的识别与拦截机制完全失灵。
当然,模型在细节处理上仍有局限。记者在"模仿"手机拍摄的聊天记录时发现,文字框内的表情包和标点符号不够规范,个别小字显示错乱,需要多次调整提示词优化。但这一缺陷正在被快速弥补:随着模型迭代,文字渲染、界面还原等短板陆续补齐,AI假图的真实度仍在持续攀升,留给平台识别系统的时间窗口正在收窄。
假图零拦截的背后,是AI内容标识体系的明显滞后。记者实测发现,Images 2.0生成的直出图没有标注"AI生成"的水印或提示,这与公众对AI内容可追溯的普遍期待形成落差。尽管OpenAI官方提供内容验证工具(可检测C2PA元数据与SynthID水印),但这一工具需要用户主动上传图片进行核验,无法覆盖被动浏览的场景,普通网民在看到一张图片时,几乎没有便捷的途径确认其是否为AI生成。
平台侧的应对同样被动。记者致电多家平台客服,得到的回复大同小异:聊天软件客服表示目前没有内置自动检测AI图片的工具或"疑似AI"提示功能;短视频平台客服则表示建议用户发布作品时自主添加AI声明,后期系统和专员会进行审核,但不清楚AI图片的系统识别率和反应速度。这意味着,在监管细则与识别技术落地之前,AI假图的传播几乎处于"裸奔"状态。
业界对AI内容标识并非没有探索。谷歌已强制在AI生成内容中嵌入SynthID不可见水印与C2PA元数据,Anthropic也为Claude输出增加了文字水印,欧盟AI法案更要求生成式AI明确标注AI来源。但OpenAI此次发布的Images 2.0在直出图中未内置可见标识,舆论普遍认为,在统一标识标准与强制实施机制建立之前,仅靠个别企业的自律难以遏制AI假图泛滥。
AI假图的高仿真度,正在转化为现实的社会风险。网友评论中出现了大量担忧:不法分子可能用AI照片诈骗父母、老人;AI生成的图片太真实,电商平台可能遭遇"仅退款"式恶意利用;更有网友担忧施暴者用生成的聊天记录去网暴他人。这些担忧并非杞人忧天,图像类证据在司法、金融、舆论场域中的权重极高,一旦伪造门槛降到"人人都能造",各类诈骗、诽谤、敲诈手段都可能被AI技术放大。
权威平台已经开始行动。微博管理员账号4月下旬曾发布提示,称随着GPT Image 2及同类AI生成模型能力的显著提升,越来越多的创作者使用AI工具进行创作,但"不合理使用AI带来的风险点也在增加",呼吁用户规范使用并主动标注AI内容。类似的提示出现在多个平台,但截至目前,这些提示仍以呼吁为主,缺乏强制性的技术拦截与处罚机制。
法律层面的应对也在探索中。AI生成内容的版权归属、肖像权保护、虚假信息追责等议题,正在成为司法实践的新课题。业内专家建议,一方面需要推动平台建立AI内容的自动识别与强制标识机制,另一方面需要完善针对AI造假的法律追责体系,让恶意利用AI假图的行为付出代价。技术可以造假,法律必须能追责,这是AI时代保护网络信任的底线。
AI图像生成能力与虚假内容识别能力的赛跑,正在进入白热化阶段。一方面,模型能力以月为单位快速迭代,从Midjourney到GPT Image,从静态图片到视频生成,伪造内容的逼真度不断提升;另一方面,内容溯源、数字水印、深度伪造检测等反制技术也在同步演进,但落地速度明显滞后于造假技术的扩散。这场攻防战中,技术手段之外,更需要建立"生成端标识+平台端拦截+法律端追责"的三位一体治理框架。
对普通用户而言,提升AI素养成为新的必修课:对来路不明的图片保持警惕,关注图片细节中的异常(如文字错乱、光影矛盾),必要时使用官方验证工具核验内容来源。对平台而言,尽快部署AI内容识别与标识能力,既是履行社会责任,也是防范自身生态被造假内容污染的必然选择。对监管机构而言,推动AI内容标识标准的统一与强制实施,将是从源头遏制AI假图泛滥的关键一步。
技术从来都是双刃剑。Images 2.0让普通人也能创作出专业级的图像作品,这是创造力的解放;但当同一项技术被用于造假与欺骗,其破坏力同样惊人。AI时代如何重建"眼见为实"的信任基础,是整个社会需要共同回答的问题,而这场答案的书写,才刚刚开始。