← 返回博客

科普 · 观察

当鉴定器也开始瞎猜:AI 视频,人和机器一起失灵

2026-09-11 · 科普 · 观察

本文由 AI 辅助起草,经人工编辑审核后发布。

我们是 TrueLens,一个做 AI 内容鉴真的免费工具。平时说得最多的一句话是"上传看看,工具给你个概率"。所以这周看到一个基准测试结果,我们第一反应是:有点尴尬,但得说。

一个让做检测工具的人有点尴尬的基准

有一篇刚发布的论文,叫 DF26。它没去测老一套的换脸视频,而是专门收集了"整段都是 AI 生成的"视频——对着镜头说话、官方声明、演播室访谈这类最常见的场景。数据集里 271 段真视频,2420 段合成视频,来自 7 个当下主流的视频生成模型。

然后他们干了件实在事:让人看,也让目前最先进的 AI 检测模型看,来判断哪段是真的。

结果两边都很惨。人的表现和顶级检测器都"逼近随机猜"——也就是差不多五五开,靠运气。

注意,这不是说"所有 AI 视频都看不出"。论文的意义在方法论:老检测器是在旧数据集上练出来的,认的是旧模型的破绽;换一批新模型,那些破绽搬家了,检测器就抓瞎。人也是一样,一段逻辑连贯、口型对得上的视频,看起来就是真的——哪怕没有任何一台真实相机拍过它。

"看起来真不真",已经不是个好问题

我们之前写过怎么用肉眼找破绽(手、眼睛反光、背景乱码字)。这些方法对早期模型有用。但 DF26 等于告诉我们:当生成模型把动作、口型、光影都做顺了,肉眼这个武器基本退役了。

更麻烦的是反向。真实视频一旦被误判成 AI,发视频的人百口莫辩——"你说我造假?可我明明是用手机拍的。"这种"说谎者的红利"我们之前聊过:假的混进来,真的也被当成假的,最后谁都不信。

同一周,有人宣布 99.3%

讽刺的是,就在这类基准提醒我们检测在失效的同时,同一周有海外厂商发布检测微服务,宣称对文生视频的识别率高达 99.3%。

我们不是要拆台。高数字在它自己的测试集上可能真成立。问题是,厂商的测试集和真实世界里下周冒出来的新模型,往往是两回事。DF26 想说的正是:在一个固定的 benchmark 上拿高分,不等于在未知生成器面前还稳。把那个 99.3% 当成"有了它就能放心",才是危险的地方。

我们的立场:别再迷信那个分数

TrueLens 也给你一个 AI 概率。但我们一直坚持一件事:这个分数只是信号之一,不是判决。DF26 只是把这个道理从"建议"变成了"必须"。

当人和机器都开始瞎猜,靠谱的做法只剩下几条:

  • 看溯源,不只看画面。C2PA 这类内容凭证、相机原始文件带的拍摄信息,比"我觉得像真的"硬得多。
  • 交叉验证。工具说 AI,不等于就是 AI;工具说真人,也不等于安全。多来源、多证据对照。
  • 看上下文。这段视频谁发的、为什么发、有没有利益动机?一条"名人荐股"视频,源头可疑比画面真假更该警惕。
说清楚我们的位置:TrueLens 是免费、中立的第三方鉴真工具,结果仅供参考,不构成法律证据。我们不做"一锤定音"的裁判,也不卖会员。鉴别是手段,帮你看清才是目的。

普通人今天能做的三件事

  • 刷到"惊人视频",先停三秒,别急着转。问问自己:这谁发的?我想转发它干嘛?
  • 真要较真,保留原始文件(别截图、别微信转发,会丢拍摄信息),再用工具查溯源和概率。
  • 接受"有时候就是分不清"。说"我不确定",比假装看懂了强。

技术不会倒车。我们能做的,是别把判断权完全交给任何单一工具——包括我们自己。

← 返回首页·关于·隐私政策·使用条款