2026-09-06 · 科普 · 观察
本文由 AI 辅助起草，经人工编辑审核后发布。
你刷到的"交警"，可能连真人都不是
上周央视新闻做了一个暗访，看完好几段视频我都觉得后背发凉。记者刷到一位"交警"，站在车祸现场煞有介事地讲安全知识，话锋一转，开始推销"破窗神器"。还有"和尚""师太"，张口闭口修行感悟，满屏人生哲理，账号却在卖养生品和经书。
这些账号从头到尾没出现任何机构标识、任何可核实的头衔。评论区已经有人怀疑真假，但视频里的"人"太像那么回事了——制服、口音、手势，一应俱全。
记者带着几段视频去了中国信通院，用鉴别平台跑了一遍。结果：两个不同引擎都判为 AI 生成，概率高达 96%。信通院专家石霖点了几处破绽：这人脸过于完美、几乎没瑕疵；肢体动作重复太多；牙齿整齐得不真实；最关键的是，他说话的时候你仔细看，根本看不到舌头。
这些不是"换了张脸的真人"，而是从零捏出来的假人。没有原型可指认，没有真人能站出来说"那不是我"——他们是一串代码生成的人设，卖完货就消失。
更阴的一招：偷真人的脸和声音
捏造人设已经够吓人，还有更直接的——直接盗用真专家。
北京眼科专家赵阳，几个月前收到一位患者转来的视频，问他某款营养品是不是真的对眼睛好。点开一看他懵了：视频里"赵阳"正拿着他的脸，用他的声音推荐一款保健品。后来打官司才知道，商家委托一家视频公司，用 AI 把赵阳的声纹改了，借他眼科专家的身份给产品背书。
赵阳把商家告上北京互联网法院。法院的说法很直白：这类 AI 捏造人设、盗用权威形象来牟利的案子，近几年在民事里逐年上涨。副院长仪军提到一个点特别值得记住——AI 换脸、换声的软件，在黑市上十几块钱就能买到。造假的成本被压到了地板。
为什么"假人设"比"假脸"更难防
我们之前聊过 AI 换脸冒充名人、冒充领导诈骗。那种骗局有个软肋：真人在。名人被假冒了会辟谣，领导被冒充了警方会发通报。只要有原型，就有人出来戳穿。
但"批量造人设"这条线，软肋不存在。它不需要指认任何一个具体的人，只需要"看起来像那么回事"：像交警、像和尚、像营养师。它把我们对制服、僧袍、白大褂的本能信任，用一个生成模型批量复制、低价兜售。
当"权威"可以被无限量按需生产，我们习以为常的那套信任直觉——"穿制服的不会骗我""专家推荐的应该靠谱"——就成了最容易被利用的漏洞。
普通人能做什么
真没法靠肉眼 100% 分辨，但有几条能立刻用上：
- 凡是"权威人士"在视频里带货，先去查这个人有没有可追溯的真身份：机构官网、实名认证的账号、能搜到的公开履历。查不到的，一律当可疑。
- 对"过于完美"的形象保持怀疑。脸没瑕疵、牙过分整齐、说话几乎不张嘴露舌、肢体动作反复循环——这些都是当前生成模型的典型破绽。
- 慢放看细节。把视频放慢，盯嘴型和真人的不一致；真人说话舌头、齿列是会动的。
- 看到标注"AI 生成"的内容，别把它当真人推荐。国家规定 AI 生成内容必须加标识，标了就说明它不是"记录"，而是"制作"。
- 真专家背书应该有可追溯的渠道（官网、门诊、出版物），不会只存在于一段来路不明的短视频里。
| 看到的现象 | 更稳妥的做法 |
|---|---|
| "交警"在车祸现场卖工具 | 查交管官方渠道，别私信下单 |
| "和尚/师太"讲感悟卖货 | 宗教场所不靠短视频带货，直接划走 |
| "专家"推荐保健品 | 查医师执业信息，看是否有官方背书 |
| 视频标了"AI 生成" | 默认其内容非真实记录，谨慎采信 |
我们的判断
TrueLens 是做内容鉴真的，每天和这些图视频打交道。我的感受是：过去我们担心的是"眼见为实"被打破，现在要担心的是"人设可以批发"。
捏造一个权威形象的成本，已经从请演员拍广告，降到十几块钱买个黑市软件。这意味着假人设会越来越多、越来越细，专挑你信任的弱点下手——老人信"专家"、信徒信"师父"、司机信"交警"。
技术上我们能做的，是继续把检测做得更准、证据讲得更清楚。但真正的防线，还是每个人对"屏幕上那个人"少一点本能信任，多一点"他是谁、我能核实吗"的惯性。不确定就说不确定，比假装看懂强得多。