2026-09-14 · 科普 · 观察
本文由 AI 辅助起草,经人工编辑审核后发布。
我们是 TrueLens,一个做 AI 内容鉴真的公益科普站。平时看多了换脸诈骗、假专家带货,但这个月有一条视频让我们觉得不太一样——它不骗钱,也不冒充谁,而是用 AI 编了一段"印度人趴在垃圾堆上揉面饼"的画面,在海外平台刷到 2,800 万次播放。
那条视频长什么样
画面里一个印度男人,光着上身,趴在一堆垃圾当中,拿肚子当案板揉面饼(roti)。场景脏乱、人物邋遢,看着就让人不适。它没有说"这是纪录片",但架势摆得很像街头偷拍,配上算法推送,很多人当成"印度真实日常"刷过去了。
美国创作者 Kristen Fischer 看到后发了辟谣视频。她本身就是做跨文化交流内容的,指出这段根本不是真的——是 AI 合成的。她担心的地方很具体:看这条视频的人里,绝大多数这辈子不会去印度,他们脑子里的"印度"就靠这类画面拼出来。一次两次是段子,刷多了,人就会默认"哦,那边都这样"。
它和"换脸诈骗"不是一回事
我们平时写得最多的,是 AI 冒充某个具体的人去骗钱:假 CEO、假警察、假营养师。那条路径好歹有个"受害者"能指认、能报警。
这种"群像污名"视频没有单一受害人,却可能伤到十几亿人。它把一整个国家、一整个民族压缩成一个恶心的瞬间,再靠推荐算法放大。等有人想澄清,热度已经过去了。
更麻烦的是,它比诈骗更难定性。骗钱有转账记录、有法律条文;"用 AI 丑化一个群体"在很多地方连专门的法律都没有。这次事件里,类似的名人深伪在巴基斯坦就被指出:当地《电子犯罪法》里根本没有针对 AI 生成内容的专门条款,只能拿"诽谤""非自愿影像"这些旧条文硬套。
| 维度 | 换脸诈骗 | 群像污名视频 |
|---|---|---|
| 直接受害者 | 明确(被冒充者 / 被骗者) | 模糊(整个群体) |
| 目的 | 骗钱 | 引流、煽动、偏见 |
| 取证难度 | 中(有转账 / 对话) | 高(无具体受害对象) |
| 法律兜底 | 相对成熟 | 多靠旧法硬套 |
我们为什么觉得这事该写
第一,门槛太低了。生成这种视频不需要任何专业知识,输入几句话就能出片。过去要抹黑一个群体,得拍、得剪、得有人信;现在一个人、一台电脑、一个晚上就能量产。
第二,受众没有"免疫"。前面说的 Kristen Fischer 之所以着急,是因为她的粉丝里很多人对印度只有屏幕上的印象。一旦错误印象先入为主,后面再多的真实内容都很难翻盘——心理学上这叫"首因效应",但放在 AI 时代,就是"假内容先到,真相追不上"。
第三,平台溯源慢半拍。这种视频通常不主动标 AI,等平台或第三方检测发现问题,它已经跑完第一波流量。我们做过测试,不同检测工具对同一段视频的判断能差出二十个百分点,这说明单靠技术打标并不保险。
提醒一句:TrueLens 是免费、中立的第三方科普站,检测结果仅供参考,不能当法律证据。看到这类"展示某群体生活"的视频,别急着信也别急着转——先想三个问题:这谁拍的?为什么火?我有没有别的渠道印证?
普通人能做什么
看到离谱的"异国日常",先缓一缓。真要核实,去找在当地生活的人、去看正经媒体的报道,而不是让一条没署名的短视频替你定义世界。
AI 的本事越大,我们越得守住一件小事:不让别人用一段假画面,替我们决定怎么看另一群人。