2026-08-02 · 科普 · 观察
本文由 AI 辅助起草，经人工编辑审核后发布。
最近传到我们这儿的图，越来越多不是新闻图了。是购物 App 的截图：商品详情页、直播间录屏、一段几十秒的带货短视频。发图的人大多不是想辟谣，是想问一句「我该不该下单」。
一个奥运冠军可以同时在八个直播间卖土鸡蛋
去年这波乱象被集中曝光过一次，到现在也没停。全红婵、孙颖莎、王楚钦的声音被克隆出来卖老家土鸡蛋，评论区一堆粉丝以为是本人在带货，那款商品显示卖出了 4.7 万件。演员温峥嵘发现自己"出现"在好几个直播间，同一时段、不同妆造、卖不同的东西，台词一模一样。她冲进去问对方："你是温峥嵘，那我是谁？"——然后被拉黑了。
还有一起进了行政处罚：某公司把央视主播的视频剪了，塞进 AI 生成的口播，宣传一款"深海多烯鱼油"能治头晕头痛。有消费者信了主播的脸下单，收到的是普通糖果。
网信办后来通报的清理数据是违规内容 8700 多条、冒充公众人物的账号 1.1 万余个。抖音那边光是冒充温峥嵘的视频就下架了 1 万多条、处罚 37 个账号，平台副总裁在微博上承认，识别这类内容仍然是"行业级技术难题"。
我们相信这个"难题"的说法。因为我们自己每天都在撞它。
反直觉的一点：电商图恰恰是检测器最容易翻车的地方
很多人以为，商品图这么假，检测器一测一个准。实际情况反过来。
电商图从来就是重度加工的。去背、补光、液化、换背景、批量套模板——这套流程在 AI 出图之前就存在了二十年。而检测模型学到的所谓"生成痕迹"，很大一部分正是这些特征：纹理过于均匀、边缘干净得不真实、光线没有物理来源。结果就是电商图的假阳性天然偏高，一张老老实实拍完精修的产品图，被读出高 AI 概率是常事。
反过来更麻烦：真正 AI 生成的商品图，因为统计特征和精修图长得像，反而不容易被拎出来。
最难办的是第三种——真人、真场景、真摄影棚，只换了嘴型和一段克隆的声音。画面里绝大多数像素是相机拍的，检测器给出的 AI 概率可能很低。它没测错。被伪造的那一小块，占的比例太小了。
AI 概率低，不代表这场直播是真的。检测器读的是像素的出身，不是有没有人签过授权合同。
在购物这件事上，「是不是 AI」是个错的问题
用 AI 做商品展示视频，本身不违法。标好"内容由 AI 生成"，合规。真正踩线的是另外三件事，而且都跟 AI 是不是参与无关：
- 冒用别人的脸和声音——民法典第一千零一十九条禁止用信息技术手段伪造肖像，第一千零二十三条规定声音参照肖像权保护。北京互联网法院 2025 年判过一起 AI 克隆声音带货案，赔了 12 万并赔礼道歉。法官的口径很清楚：合成声音只要能让公众认出是谁，就落进声音权益的保护范围。
- 虚假宣传——广告法管的是"你说的效果是不是真的"，AI 只是工具。
- 欺诈消费者——消法第五十五条，退一赔三。
所以站在下单页面前，该问的不是"这画面是不是 AI 做的"，而是"有没有一个人，为这句承诺负责"。
| 你看到的 | 检测能回答 | 检测答不了 |
|---|---|---|
| 明星在直播间推荐 | 这张脸的像素是不是生成的 | 这位明星有没有授权 |
| 商品主图特别精致 | 图里有没有生成痕迹 | 实物长不长这样 |
| "原产地直拍"的果园 | 画面是不是合成的 | 这批货是不是从这儿发出来的 |
三个动作，比盯着画面找破绽有用
一、反查代言源头。 任何真实代言，明星自己那边一定有动静——微博、账号主页、工作室通稿，至少留一处痕迹。只在别人直播间露脸，本人主页一个字没有，基本可以判死。这一步花不了三十秒。
二、看买家秀，别看主图。 AI 能生成完美主图，生成不了几百个真人在不同光线、不同角度随手拍的实物照。图文评价区和差评区，是整个商品页里 AI 含量最低的地方。看那里。
三、遇到"专家""原产地老板""用过三年的宝妈"，先停一秒。 这个身份能被独立验证吗？验证不了的身份，权重按零算。这条我们上次讲 AI 假医生时也说过，在带货场景里同样成立。
至于穿模——两个小孩玩滑板身体融到一起、花生长在树上——这类硬伤确实还在。但它正在快速消失。去年还能靠数手指，今年这招已经不太灵了。把它当加分项可以，当主要依据不行。
我们的立场
我们提供免费检测，也一直说同一句话：结果是参考，不是判决，更不是法律证据。
在购物场景里，它的作用格外有限。它最多帮你确认一张图"很可能是生成的"，但它回答不了商品是不是真像视频里那么好。后面这个问题，只有实物、发票和售后能回答。
9 月 1 日起 AI 生成内容要打标识，这是好事。但标识解决的是"我知道这是 AI"，解决不了"我以为这个明星点过头"。这两件事，从来就是两件事。