视频标了「AI 生成」，为什么还可能越线？

我们（TrueLens）每天看各种 AI 图、AI 视频。最近一个案例让我们觉得特别值得写：美国威斯康星州，共和党国会众议员 Derrick Van Orden 在竞选里，用 AI 生成了对手 Rebecca Cooke 的换脸视频，让她「说」出自己根本没说过的话。

有意思的不是伪造本身。是这条视频发出去的时候，带着一行字：Made with Grok Imagine。

也就是说，它是有标签的。可问题恰恰出在这个标签上。

标签有了，但可能不是「对的那个标签」

威斯康星州 2024 年生效的法律（2023 Act 123）规定，政治沟通里只要用了 AI 生成的音视频，就必须带一条特定措辞的披露：视频要持续显示「This video content generated by AI」（这段视频内容由 AI 生成），而且得清晰、易读、随时可见。

Van Orden 那条视频标的是 Made with Grok Imagine——这是在说「我用的是哪个工具」，不是在说「这是合成内容，请当心」。对普通选民来说，前者像个水印，后者才是真正的提醒。

法律要的不是一个「谁家工具做的」的署名，而是一个让观众一眼就知道「这段是假的、不是本人」的信号。标签带了，但带了错的那种，合规这关就没过。

标签实际写了什么	法律想要什么	观众真正得到什么
Made with Grok Imagine（哪个工具）	This video content generated by AI（清晰、持续）	一个水印，不是一句警告

我们真正想说的：检测器管不了「他到底说没说过」

这件事最该让普通人记住的一点，其实和我们一直唠叨的同源：检测器能告诉你「这段视频 AI 概率高不高」，但它永远答不了一个更关键的问题——这个人到底有没有说过这句话？

AI 概率是个像素出身信号，不是真相判决。视频哪怕明晃晃标着 AI，只要它把对手「说」了某句话，伤害就已经发生了：观众记下的不是「这是 AI 做的」，而是「哦原来 Cooke 是这么想的」。辟谣跑不赢第一印象。

标签有用，但别把它当免死金牌

我们不是要唱反调说标签没用。恰恰相反，清晰的合成内容披露是好事——它把「这是假的」提前摆到台面上，让发布方没法装无辜。

但威斯康星这个案子提醒我们三件事：

• 标签的格式和位置很重要。一行小字藏在角落，或者写成工具广告，都不算数。
• 标签解决「我知道这是 AI」，解决不了「我以为他同意了 / 他真的说过」。同意和事实，检测器与标签都答不了。
• 越靠近选举，越不能只靠平台自觉。威斯康星是披露派（不禁止、只要求说清楚），加州曾想禁得更狠的 AB 2839，反而在 2025 年被联邦法院以第一修正案为由拦下——说明「怎么管」本身还在拉扯。

看到政客说出惊人之语的视频，先别急着转。问自己三件事：这是他本人账号发的吗？有没有清晰的「AI 生成」披露？主流媒体或本人有没有回应？三条里缺两条，先把手机放一放。

我们（TrueLens）能做的，是帮你判断画面是不是 AI 生成的；但我们替代不了你去做信源交叉验证。工具给的是概率，结论得你自己下。不确定，就说不确定——这比假装看穿一切靠谱得多。

顺带一句，这个教训不分国界。国内同样要求 AI 生成内容显著标识，网信办也持续开展清朗行动整治 AI 虚假信息。标签「够不够格」这件事，在哪都一样重要。