比深伪更烦的，是那 561 万条"AI 泔水"

我们（TrueLens）看到的现象

9 月 2 日，中央网信办通报了一组数字：这一轮"清朗·整治AI应用乱象"专项行动，累计清理违法违规信息 561 万余条，查处账号 4.9 万余个，处置违规网站和应用 2400 多个。

这些被清理的内容里，几乎看不到什么"以假乱真"的大案。更多是这类东西：

• 用 AI 把《三国演义》《西游记》魔改成猎奇低质剧情，靠颠覆人物人设博流量；
• 用 AI 生成根本没发生的"灾害现场""救援画面"，编造社会热点，吓唬人；
• 批量产"毒动画"、儿童邪典视频，拿真人的脸和声音去仿冒公众人物做低俗营销。

网信办自己把这些叫"数字泔水"。这个词挺准的——不是毒药，是泔水。吃不死人，但天天倒在你家门口，整个环境就臭了。

我们的心得：深伪不是最可怕的，泛滥才是

过去我们做 TrueLens，被问得最多的是"怎么看出一张图是不是 AI 生成的"。大家潜意识里害怕的，是那种精心伪造、以假乱真、能骗过所有人的高级深伪。

但这次清理的数据让我们换了个想法：真正在泡软网络可信度的，不是那几个高明的骗子，而是海量、廉价、根本不在乎真假的合成内容。

为什么这么说？

• 深伪目标明确。一段冒充市长的诈骗视频，受害者是谁、目的是什么，一查就清楚，反诈中心能精准拆。
• slop 没有目标。它不为骗某个人，就为占满你的信息流。你刷十条有三条是 AI 编的猎奇剧情，你不会去举报，但你会慢慢觉得"网上东西都差不多、都不可信"。
• 算法还帮凶。猎奇、情绪化、低质内容天然容易点，平台推荐系统等于在给泔水施肥。

最麻烦的后果在这里：当假内容多到日常化，普通人会走向两个极端——要么"都不信"（连真新闻也当假的），要么"都信"（反正分不清，图一乐得了）。这两个极端，对"眼见为实"这四个字都是毁灭性的。

我们怎么看这件事

我们做免费检测工具，初衷不是因为某条深伪太逼真，而是因为泛滥的合成内容正在让"默认相信眼睛"这件事彻底失效。

几个具体的判断：

第一，验证习惯得从"大事件才查"变成"日常刷到就带个问号"。真灾难来了，假的救援画面一定跟着来。看到转发量很大的"现场视频"，先停三秒，去搜一下官方通报，比凭感觉转发靠谱得多。

第二，别把"AI 味"当小事。一张图塑料感强、文字乱码、手画歪，这些不是技术瑕疵，是它在告诉你"我是编的"。现在连这些瑕疵都没有的高级图越来越多，但低质 slop 反而因为量大，成了日常信息环境里更常见的污染源。

第三，平台的责任跑不掉。这次通报里，抖音、快手、微信、B站都上线了人脸实时治理、声纹库。但靠平台自觉不够——泔水的成本低到近乎为零，治理成本却很高，这个剪刀差不解决，清理完一轮还会有下一轮。

一张表看清两件事的区别

	高级深伪	AI 泔水
目的	骗特定的人/钱	占满信息流、博流量
单条质量	高，难辨真假	低，粗制滥造
受害者	明确	不特定，整体信息环境
治理难度	可溯源、可精准拆	海量、无明确目标，难穷尽
普通人应对	怀疑"太真"的内容	对"太猎奇"的内容先打个问号

最后说一句

我们不卖检测，也不靠这个赚钱。写这篇，是因为我们真觉得"信息环境臭了"这件事，比单条骗局更值得普通人警惕。下次刷到一条离谱得刚好戳你情绪的内容，先别急着转——那是泔水最好的培养基。