精华速览

AI技术正被嵌入传统诈骗链条，使身份核验手段失效。2025年全国侦破电信网络诈骗案件25.8万起，其中AI换脸类诈骗逾300起，涉案金额超5亿元，单案最高达2000万元。五名受访者分别遭遇照片被盗用后AI换脸视频诈骗、游戏语音中AI拟声冒充朋友借钱、视频通话中拒绝转头暴露换脸破绽、财经评论区引流至小众App的AI话术试探，以及利用证件照合成不雅照寄往单位进行敲诈。这些案例显示，骗子先通过公开社交平台收集素材，再以情感建立、熟人关系或名誉压力为切口，最后借助AI视频、语音或生成内容打消受害者疑虑。多数骗局因受害者警觉而未造成损失，但暴露了社交平台信息暴露、语音频道管理松懈、小众加密App引流等风险点。

要点透视

  • 公安部数据显示，2025年全国公安机关共侦破电信网络诈骗案件25.8万起；据经济观察网援引公安部2026年9月通报，全国已侦破AI换脸类诈骗案件逾300起，涉案金额突破5亿元，单案最高达2000万元。
  • 澳大利亚律师小E的公开社交照片被骗子盗用，包装成“顺丰海外高管”身份，通过AI换脸视频与一名女生通话，诱导其下载境外投资App并准备投入5万美元，女生因察觉面相与声音不搭、表情不自然而最终找到小E本人。
  • 福建泉州商人邱杰在网游语音频道中遭遇高仿朋友ID的陌生人，对方用AI模拟其朋友声音，以“老婆孩子睡着不便说话”为由要求转账5000元至银行卡；邱杰因发现好友列表中朋友已下线而识破。
  • 浙江00后陆明与自称澳门女生的对象聊了十多天后进行视频通话，发现对方皮肤五官模糊、身体几乎不动，要求其转头90度验证时对方始终拒绝，遂判定为AI换脸骗局；对方此前已引导话题至“挖矿”投资。
  • 广东美业从业者小颜在财经博主评论区留言“我悟了”后收到私信，对方从宠物话题切入，却将三个字的调侃解读为“专业成熟”，小颜编造“月饼期货”“西巴蛋黄五仁莲蓉概念股”试探，对方回复“非常受用”并承诺全仓买入，随后要求下载小众加密App。
  • 北京公司职员阿土丈夫收到寄往单位的勒索信，附有AI换脸合成的酒店床照，信中称“受人之托跟踪调查”并掌握“作风问题”；阿土在社交平台搜索发现山东、江苏、广东、甘肃等多地网友收到相同模板照片，仅人脸不同。
  • 多起案例中骗子均要求受害者转向微信以外的平台，如WhatsApp、Discord或小众加密App，以规避常规社交平台的风控和聊天记录留存。

文章拆解

这五起案例的共同逻辑是：AI并非独立骗术，而是被嵌入“人设包装—情感建立—信任验证—诱导转账”的传统诈骗流程中，在关键节点充当“信任放大器”。骗子先从小红书、Instagram、B站等公开平台收集照片、语音、职业信息，再以高管、同龄女生、朋友等身份接近目标，最后用AI换脸视频或拟声语音完成“眼见为实”的核验环节。过去人们习惯用视频或电话确认身份，如今这一防线正被技术削弱。

从受害者画像看，骗局覆盖律师、商人、自由职业者、美业从业者和公司职员，并不局限于老年群体。陆明因计算机背景识破换脸，小颜靠编造虚假概念股试探出AI话术，邱杰因好友列表状态异常而警觉——这些破绽多来自受害者对细节的主动核查，而非平台或监管的即时拦截。这说明当前防骗更多依赖个体警惕性，普通用户尤其是对AI了解较少的人群面临更高风险。

行业影响层面，社交平台公开照片和语音片段成为诈骗素材库，语音频道的半公开属性（未设密码、未开进入提醒）为偷听和拟声提供了入口，而骗子引导至WhatsApp、Discord或小众加密App的行为，则绕开了主流平台的风控与聊天记录留存。勒索信案例更进一步，将AI换脸与个人信息泄露结合，利用单位地址和证件照实施广撒网式敲诈，赌的是有人因名誉压力主动联系。

值得关注的变量包括：AI换脸和拟声工具的使用门槛是否继续降低、社交平台对公开照片和语音内容的保护机制是否跟进、小众加密App在诈骗链条中的角色如何监管，以及AI换脸案件侦破数量上升后能否形成更有效的预警和拦截。潜在风险在于，随着技术成本下降，批量伪造视频和语音的门槛可能进一步降低，而普通人仅凭感官判断真伪的难度会持续加大。目前素材未提供平台侧具体处置措施和监管细则，相关进展尚待确认。

查看原文