当 AI 生成的假内容，开始反过来喂养下一代 AI

我们在 TrueLens 做 AI 内容鉴真，每天经手大量真假难辨的图片和视频。说句实在话，过去一年最让我觉得棘手的，不是某一张多逼真的假脸，而是另一件事：假内容正在反过来喂养制造它的那套系统。

你可能听过「别被深伪骗了」这种提醒。但今天我想聊一个更隐蔽的链条——假图、假视频一旦被发到网上，它们不只是在骗看的人，还在骗机器。更具体地说，它们在污染训练下一代大模型的数据。

我们看到的恶性循环

2026 年国家网络安全宣传周期间，中国青年报专门写过这个现象。原话大意是：如果不加区分地用 AI 生成的数据去训练后续模型，就可能发生「模型崩溃」——模型逐渐偏离真实数据分布，把原始信息弄丢。

链条是这样的：有人用 AI 生成一段假视频，它被发到网上、被搜索收录、被各种知识库抓取；下一代大模型训练时，把这段假内容当成真实世界的一部分吃进去；模型再生成新内容，又被抓取，再来一遍。

这就像一个关起门来的传话游戏，每传一轮，真话就走样一点，最后谁也说不清最初那句话是什么。

比骗局更难缠的地方

骗一个人，伤害是一个人的事。但污染训练数据，伤害是系统级的。

一个直接的例子是：有法律行业的人发现，某些用 AI 摘要训练出来的法律工具开始「引用漂移」——自信地编造根本不存在的判例。因为它吃进去的训练数据里，已经有太多由 AI 自己生成、看着流畅但事实根基很空的文本。模型越训练越能说，却离真实世界越远。

这不是科幻。牛津和剑桥的团队在 2024 年《自然》论文里就演示过：用 AI 生成的关于中世纪建筑的文字去训练下一代模型，不到十轮迭代，输出就退化成关于杰克兔的无意义啰嗦。

一个黑色幽默的事实

为了让模型吃得干净，大厂开始花真金白银抢真实人类数据。

今年七月，随着 Anthropic 和作家群体那笔 15 亿美元版权和解的法庭文件解封，一个叫「巴拿马计划」的项目被扒了出来：这家公司砸了几千万美元，批量买下大约 200 万册 2022 年之前的纸质书，切掉书脊、高速扫描，然后把实体书销毁——只为拿到一份没被 AI 内容污染过的纯净人类语料。

斯坦福 2026 年 AI 指数报告给了一个吓人的数字：从 2025 年初开始，互联网新增内容里 AI 生成的比例已经超过了 51%。换句话说，大模型的「食物」里，超过一半是自己或同类吐出来的东西。

我们把 TrueLens 定位成一个免费、中立的第三方鉴真工具。我们做检测、做内容标识，初衷不只是帮你识破一张假图，也是在为「真实数据可溯源」这件事添一块砖。真实内容留下清晰的来路，假内容被标记出来，下一代模型才不至于把垃圾当食粮。需要提醒的是：我们的结果仅供参考，不能作为法律证据。

普通人能做什么

好消息是，研究也给了喘息空间。2026 年 5 月，伦敦国王学院等机构发在《物理评论快报》上的研究发现：哪怕只往一堆合成训练数据里加一个真实数据点，模型崩溃就能被完全挡住。也就是说，真实人类数据不需要海量，只要锚在那里，系统就不会烂到底。

对我们普通人来说，这件事的启示很朴素：

• 看到离谱或煽动情绪的内容，先查来源再下判断，别急着转发——你转的那条假视频，可能某天变成某个模型的教材。
• 自己拍的、真实的照片和视频，是抵御模型塌缩最宝贵的干净数据，别小看它们的价值。
• 支持内容标识和来源追溯。标识不只为了保护你不被骗，也是给未来的 AI 留一份真东西。

假内容骗人，我们能骂、能防、能报警。但假内容骗机器这件事，需要整个行业把真实当成一种要存起来的资源。这才是真正的长期战。