2026-08-05 · 科普 · 观察
本文由 AI 辅助起草,经人工编辑审核后发布。
一位部长删 24 条帖子,动用了一家高等法院
8 月 5 日,印度孟买高等法院下了一道临时禁令,要求 Meta、X、Google 立刻下架一批针对交通部长 Nitin Gadkari 的深度伪造视频和 AI 生成图片。这批内容把 E20 乙醇汽油政策的账算在他个人头上,还影射他和家人从中获利。起诉状里列了至少 24 条帖子,索赔 1.1 亿卢比。
7 月 27 日先拿到立案许可(跨辖区,要走额外程序),8 月 5 日开庭,法官 Arif Doctor 当庭说这些内容"完全是恶毒、下流、诽谤性的",Meta 和 Google 的代理律师当场同意删掉起诉状附件里列明的那批。四周后再审。法院还额外给了一条:以后再出现类似伪造内容,他可以直接通知平台,平台照办。
一位在任部长,有律师团,有全国媒体盯着,走完这套流程花了一周多。
法官那句话,比判决更值得记下来
真正戳人的不是禁令本身,是法官转头问平台的话:
"你们手上有这么多技术,难道就没有一个触发机制吗?有人上传下流、辱骂的东西,应该立刻被抓出来删掉。"
他接着说,以后得有一种机制,让当事人不必每次都跑到法院来。
这句话问得对。但它同时暴露了一个我们做鉴真这半年一直绕不开的事实:判断"这是不是 AI 生成的"已经不算最难的一环了,卡住所有人的是"然后呢"。
我们收到的求助,多数不是「这是不是 AI」
站上跑了一段时间,来问的人里有个很稳定的比例——他们其实已经知道那是假的。有人被拿脸做了带货视频,有人被合成了一段自己没说过的话,有人是小商家,产品被编了一段 AI"翻车实拍"。他们要的不是概率数字,是一个能让内容消失的按钮。
这个按钮,现实中长这样:
| 你的身份 | 能走的路 | 大概要多久 |
|---|---|---|
| 有律师团的公众人物 | 起诉平台 + 法院禁令 + 法院开的持续通道 | 数天到数周,且一劳永逸 |
| 有法务的企业 | 报警 / 平台企业侵权通道 | 数天到数月 |
| 普通个人 | 平台举报按钮 | 一个工单号,然后没有然后 |
孟买这道令里最特殊的其实是最后那条"未来的也一并处理"——法院等于给一个人开了条专线。全世界有几个人能拿到这种专线?
我们把这叫删除权的落差。伪造成本一直在掉——一段能骗过一屏的视频,几分钟、几十块钱的事;删除成本基本没动,还是"你得证明、你得申诉、你得等"。两条曲线反向走,中间那道口子就是造假产业赚钱的地方。
为什么平台真的做不到"自动删"
法官那个"为什么不能自动触发"的问题,我们的答案可能不太讨人喜欢:技术上做不到,而且真做到了更麻烦。
同一场庭审里,Meta 的律师提了一句:有些内容可能属于合理批评。这句话恰恰是全部难点。检测模型能给出的判断是"这段像素大概率是生成的",它给不出的是:
- 这段话说的是不是假的
- 当事人有没有同意
- 这算诽谤,还是算讽刺、评论、二创
第一个是像素问题,后三个分别是语境、事实、法律问题。机器能做第一个,做不了后三个。E20 政策该不该被骂是公共议题,说部长家里靠这个赚钱是事实主张——两者掺在一条视频里,让自动开关去切,切错哪边都是灾难。
所以"平台上个 AI 自动删"听着爽,落地就是把内容生杀权交给一个没法讲道理的黑箱。自动化能做的是标记,做不了的是裁决。
普通人现在能做的:把顺序倒过来
既然删除慢,那力气就别都花在"证明它是 AI"上。我们的建议是反过来排:
- 先固证,后检测。 内容随时会消失(你举报成功也是消失),证据没了就真没了。原始链接、账号 ID、发布时间、播放转发数、整页截图,还有一个很多人漏掉的——把视频原文件下载下来,别只存录屏。
- 再看来源,不急着看画面。 最早谁发的、之前发过什么、有没有更早的版本。这步比检测便宜,结论也更硬——时间线是事实,AI 概率是概率。
- 然后才是交叉检测。 两个以上独立工具跑,看方向别抠小数点,读数分歧很正常。
- 举报时说清"违了哪条"。 工单最容易被扔掉的写法就是只写"这是 AI 假的"。要指名侵权类型:冒用肖像、虚假宣传、诽谤、假冒身份。平台按规则条目处置,不按 AI 概率处置。
- 影响够大就走线下。 报警、律师函、公证,比在评论区跟人吵有用得多。
顺手说清楚我们的立场:TrueLens 的检测结果只能当参考,不是法律证据。我们不收费、不卖报告、也不会给你出一份"鉴定意见书"。真要打官司,需要的是司法鉴定和固证材料,不是一个网页上的百分比。
最后
孟买那位法官的追问是对的:不该每个人都得先请个律师,才能把自己脸上被安的话删掉。但答案没那么好听——机器判不了"这句话是不是诽谤",能判的那天更可怕。
在那之前,能缩小落差的只有笨办法:证据留在自己手上,理由写在举报框里,别把希望全押在一个百分比上。