2026-08-21 · 科普 · 观察
本文由 AI 辅助起草,经人工编辑审核后发布。
我们(TrueLens)每天干的事,就是给用户一个概率——"这段视频 87% 像 AI 生成的"。这数字用来判断"要不要再查查"挺好用,但要拿去证明"这是假的、我没干",法庭根本不认。
最近印度一个案子把这层关系说透了。
22 岁的 Instagram 美食博主 Muskan Karia(口头禅"I bet you didn't know this"),今年 5 月底收到一条私信,对方发来一段露骨视频,问"这是你吗?"。视频是真的她——用的是她之前只给订阅者看过的一段普通视频,被人用 AI 改成了不雅内容。
她后来说,那段视频做得太真,连家人朋友一开始都信了。"我得一遍遍跟自己人证明,那不是我。" 她憋了大约两个月才开口,期间视频早已传开,伤害收不回来。
8 月 12 日,她发视频正面回应:"这不是我。" 她把原始视频和那段篡改后的视频一起交给了马哈拉施特拉邦的网络犯罪科(MahaCyber)做法医比对。警方立案后,正式给她出了一份证书,写明"该媒体完全由深度伪造技术合成"。靠着这份证,警方抓到了制作和传播的人。
这封"深度伪造证书"是关键。它把"我觉得这是假的"变成了"警察盖章说这是假的"——从个人说法升级成官方结论。
我们做检测工具的人得认清楚一件事:检测器吐出来的百分比,是筛查信号,不是判决书。Karia 案里真正把人送进去、把受害者清白的,是那份官方取证,不是某个工具的分数。这跟我们一直说的话一致——我们测的是像素的出身,不是事实的真假;拿不准就说拿不准。
概率和证书,不是一回事
| 维度 | 检测器给的概率 | 官方出的证书 |
|---|---|---|
| 性质 | 筛查信号 | 法律证据 |
| 谁来说 | 工具或平台 | 警方或法医机构 |
| 用来干啥 | 决定要不要再查 | 立案、抓人、自证清白 |
| 局限 | 会误判、会分歧 | 需要原始素材才能比对 |
但 Karia 的案子比我们之前聊过的很多案例多一点希望。8 月我们写过日本一个上班族用订阅制 AI 工具批量合成女运动员的伪造影像(japan-deepfake-athlete-arrest),那篇的结论挺灰:对受害者来说检测器没用,法律还有缺口。Karia 这边不一样——制度开始长牙了:官方出证、立案、抓人,一条龙。
为什么这封信对普通人才真正重要?Karia 自己说了:她有家人撑着、有律师、有资源去 fight。可太多受害者没有这些,会做出"无法回头"的选择。没有家庭和法律 backing 的人,最需要的不是"自己说是假的",而是"有人盖章说这是假的"。
也别忽略一个细节:她能自证,是因为留住了那支 subscribers-only 原片。我们之前反复讲"保留原始文件"不是废话——法医比对要靠它。原片没了,连"证明这不是我"都少了一块拼图。
如果你或者你认识的人遇上这种事,Karia 的路线可以参考:
- 先固证:截图、录屏、存链接,别急着删或拉黑对方,证据要留着。
- 去报案:找本地的网络犯罪科(国内可走官方举报通道,或网信/公安入口),提交原始素材和篡改版本。
- 要官方结论:推动警方或机构做技术取证,拿到书面确认。这张纸比你在评论区自证有用得多。
- 平台下架:同步用平台举报入口标"冒充/非自愿影像",不少法域现在要求限时删除。
- 别躲:Karia 选择站出来说"这不是我",反而把叙事抢了回来。沉默只会让谣言替你说话。
我们的看法很直接:AI 合成的成本还在往下掉,这类事只会更多。检测器是免费的守门员,但真要维权,最终靠的是"权威取证 + 法律通道"这套组合拳。把概率当判决是危险的,把"官方出的证"当底气,才站得住。
中国这边也在收紧。8 月 19 日四川德阳警方破获首例 AI 伪造涉校谣言案,靠日常巡查发现一段诋毁高校的伪造视频,当日锁定外省嫌疑人、跨省抓捕、行政处罚、全部下架。配合今年落地的《人工智能生成合成内容标识办法》(视频开头 3 秒内醒目标注"AI 生成"),治理重心正从"事后删帖"往前移到"事前标识 + 主动巡查"。方向是对的——但落到每个普通人头上,记住:标签和检测器是提醒,真正能替你说话的,是那张盖章的证。