精华速览

三星宣布与深度伪造检测公司Reality Defender合作，面向新加坡企业用户开发端侧AI深度伪造检测方案。该方案直接在Galaxy设备本地运行，可识别AI生成的虚假语音、视频和图像，用于实时通话反冒充、客户身份识别及注册审核等场景，旨在数据上传云端前拦截风险。背景是新加坡2024年有56%企业遭遇音频深度伪造诈骗、52%遭遇视频深度伪造事件；2025年冒充政府官员诈骗致受害者损失至少2.429亿新元，占全年诈骗总损失26.6%。方案上线时间和支持机型尚未公布，将借助Knox安全平台保护。

要点透视

  • 三星与Reality Defender合作开发端侧AI深度伪造检测方案，主要面向新加坡企业用户，计划率先在当地落地。
  • 该方案直接在三星Galaxy设备本地运行，在数据上传云端前识别虚假语音、视频和图像，降低敏感数据外传风险。
  • Reality Defender利用多种AI模型实时分析内容，可识别实时通话中的合成语音，并用于客户身份识别和新用户注册审核。
  • 调查显示，2024年新加坡56%的企业曾遭遇音频深度伪造诈骗，52%的企业遇到过视频深度伪造相关事件。
  • 2025年新加坡受冒充政府官员诈骗影响的受害者至少损失2.429亿新元，占当地全年诈骗总损失的26.6%。
  • 三星计划借助Knox安全平台为相关功能提供保护，Knox覆盖从芯片底层到应用层的多个安全环节。
  • 三星尚未公布方案具体上线时间，也未透露哪些Galaxy机型将获得支持。
  • 三星电子新加坡公司综合业务部门总监兼负责人Timothy Tan表示，合作目标是帮助企业更早发现潜在威胁。

文章拆解

生成式AI降低了合成语音和视频的制作门槛，深度伪造正从技术演示演变为企业日常运营中的现实威胁。新加坡市场的数据尤为突出：超过半数企业在2024年遭遇过音频或视频深度伪造事件，而冒充政府官员的诈骗在2025年造成至少2.429亿新元损失，占全年诈骗总损失的26.6%。这些数字说明，企业反欺诈的焦点正在从传统网络攻击转向AI驱动的身份冒充。

三星与Reality Defender的合作逻辑在于把检测环节前移到终端。云端检测虽然算力充足，但需要上传通话音频、视频或身份资料，既增加延迟，也扩大数据暴露面。端侧方案在Galaxy设备本地完成分析，理论上能在敏感数据离开设备前发出预警，这对金融、客服、远程开户等高频身份核验场景更具吸引力。Reality Defender的多模型实时分析能力，则补足了终端侧对合成语音和视频的识别需求。

从行业影响看，这一合作可能推动深度伪造检测从独立软件向设备原生能力演进。若端侧检测被集成到企业统一管理的Galaxy设备中，企业无需额外部署复杂系统，即可在员工通话和客户交互环节获得一层防护。三星Knox安全平台覆盖芯片底层到应用层，也为该功能提供了可信执行环境的基础。

值得关注的变量包括：端侧模型在有限算力下能否保持与云端相当的检出率，尤其是面对快速迭代的生成模型；误报率若过高，可能干扰正常通话和身份审核流程；企业是否愿意为这类功能支付额外成本，以及三星如何平衡隐私保护与检测所需的数据处理。此外，方案目前仅面向新加坡企业，未来能否扩展到其他市场，取决于当地监管态度和合作伙伴的落地能力。上线时间、支持机型及具体定价均尚待确认，这些将直接影响方案的实际覆盖速度。

潜在风险同样存在。深度伪造检测本质上是攻防对抗，检测方需要持续更新模型以应对新的合成技术。若端侧更新不及时，防护效果可能迅速衰减。同时，端侧检测结果若被用于拒绝交易或标记用户，可能引发合规与公平性争议。三星和Reality Defender需要在技术迭代、隐私保护和用户体验之间找到可持续的平衡点。

查看原文