2026-09-30 · 科普 · 观察
本文由 AI 辅助起草，经人工编辑审核后发布。
一份清单，像极了我们的选题库
9 月 30 日，中央网信办印发通知，要在全国范围内搞一场为期两个月的"清朗·整治短视频虚假人设乱象"专项行动。
我把它的整治重点读了一遍，五类，越读越眼熟：假扮弱势群体卖惨、虚构职业资质冒充医生律师教师、用 AI 合成虚假音视频假冒公众人物做虚假代言、租豪车摆拍包装富二代、自导自演"行善救助"剧情骗捐款……
说句实话，这五个筐，基本把我们这一个多月写的博客全装进去了。
- 我们写过「假专家人设」：央视暗访发现，黑市换脸换声只要十几元，就能捏出一个"眼科专家"帮你背书卖货。这正好是它说的"虚构职业资质冒充医生"。
- 我们写过「卖惨老兵」：BBC 调查，英国老兵被 45 个账号用 AI 生成"受伤退伍军人"卖手工国旗，真老兵的求助反被晾在一边。这正好是"假扮弱势群体骗同情"。
- 我们写过「AI 高仿新闻」「换脸广告」：拿公众人物或网红的脸，用 AI 改头换面做虚假代言。这正好是"利用 AI 仿冒人物虚假营销"。
监管这次不是只抓某一个案子，而是把这一类乱象整个拎出来，单独成了一个靶子。这事儿值得写。
为什么是"虚假人设"而不是"AI 假内容"
注意，专项行动的名字叫"虚假人设乱象"，不是"AI 乱象"。一字之差，说的是一件事的根。
AI 只是工具。真正让人上当的，从来不是那段视频"是不是 AI 做的"，而是视频背后那个"人"——他扮演的身份、他摆出的处境、他亮出的资质，全是编的。
一个用 AI 换脸冒充专家的人，你用检测工具看出"这是 AI 生成的"也没用。因为骗子的目的根本不是让你信这是真拍的，而是让你信"这个专家说的话"。脸可以假，但只要"专家"这个人设立住了，货就卖出去了。
我们的判断：治理 AI 假内容，光盯"像不像真的"会跑偏。真正要拆的，是那个被精心搭建、用来骗信任的"人设"。网信办这次点名"虚假人设"，比单纯喊"打深伪"更准。
五类里，AI 藏在哪几类
我帮大家拆一下，这五类里 AI 的角色：
| 类别 | 典型手法 | AI 在哪 |
|---|---|---|
| 假扮弱势群体 | 摆拍"带娃送外卖""高学历送外卖"渲染困顿骗同情；假农户助农带货 | 低成本生成卖惨脚本、合成背景、批量起号 |
| 虚构职业资质 | 虚构履历头衔冒充医生律师教师，付费咨询带货 | AI 代写"专业人设"话术、换脸拟声伪装真人专家 |
| 利用 AI 仿冒人物 | AI 合成虚假音视频假冒公众人物虚假代言 | 这是 AI 的主场，换脸加拟声直接挪用真人身份 |
| 鼓吹奢靡迷信 | 租豪车摆拍富二代、包装风水大师"改运消灾" | 生成"暴富""逆袭"话术、合成炫富场景 |
| 编造冲突剧情 | 自导自演救助、编造家暴弃养挑动对立 | AI 批量写剧情脚本、合成"现场"画面 |
你看，AI 不是每一类的主角，但它是那个让"批量造人设"变便宜、变快的放大器。以前捏一个假人设要演、要拍、要剪，现在一段提示词就能起几十个号。
监管能不能管住
这次配套了四条措施：加大账号和平台查处、发布环节规范标注、重点板块呈现管理、特定群体权益保障。方向上没问题。
但我得泼一点冷水。我们之前写过「视频角落那行 AI 生成，没人看」——标签写了不等于保护到位。这次专项行动也提了"规范标注"，可如果标注还是小到看不见、点开才知情，那和没标没两样。
更难的在"人设"本身。一个假专家不换脸、不拟声，纯靠文字编履历、蹭职称关键词绕过平台认证，检测工具根本抓不到，因为视频里连一张假脸都没有。这类得靠平台把"资质认证"这道关真正卡死，而不是事后删帖。
说白了：打深伪是治标，打"虚假人设"是往根上走一步。但根在哪？在"信任"这两个字被廉价量产了。工具能帮你看清一段视频，却帮不了你看清屏幕那头的人到底是谁。
普通人能做什么
- 看到"专家"带货，先查他有没有真认证，别被头衔和话术带跑。
- 看到卖惨求助，别急着转钱捐钱，真有困难通常有正规救助渠道，不是靠短视频私信收钱。
- 看到"名人代言"，尤其是没见过的投资、博彩、保健品，先去官方渠道核实，名人的脸早就能被 AI 复制了。
- 我们 TrueLens 做的是帮你看清"这段内容是不是 AI 生成的"，但我们一直说：AI 概率高不代表对方在骗你，概率低也不代表那个人可信。工具只管内容，管不了人品。
TrueLens 是免费的 AI 内容鉴真工具，中立第三方，仅供参考、不作法律证据。我们写这些，不是要你变成惊弓之鸟，而是希望你在刷到那个"看起来很真的人"时，能多停一秒，问一句：他是谁，凭什么让我信。