中国工业和信息化部反诈工作专班正在测试AI换脸诈骗检测与预警技术，该技术将嵌入手机终端，通过本地运行识别AI换脸风险，并向用户提供风险提醒。这项技术能够有效保护用户数据安全，并对AI换脸合成内容进行识别和预警。

🤔 **AI换脸诈骗检测技术**：工业和信息化部反诈工作专班正在测试AI换脸诈骗检测与预警技术，该技术将嵌入手机终端，通过本地运行识别AI换脸风险，并向用户提供风险提醒。这项技术能够有效保护用户数据安全，并对AI换脸合成内容进行识别和预警。

📱 **手机终端本地运行**：这项技术仅在手机端本地运行，无需将用户数据上传至云端，有效保护用户数据隐私。

⚠️ **AI换脸风险提醒功能**：当用户接收到疑似AI换脸的视频通话时，手机终端会提示“对方疑似假冒身份”，并提供检测按钮，经过图像扫描，系统会提示AI换脸合成概率。

💧 **深度合成内容水印**：为了防止AI换脸诈骗，相关部门要求深度合成服务提供者对深度合成的内容添加显式或隐式水印，以便公众识别和追溯来源。

IT之家 8 月 18 日消息，据央视网报道，AI 换脸诈骗检测与预警技术正在测试中。

工业和信息化部反诈工作专班专家李坤表示：“我们正在会同行业内的手机终端企业，将推出 AI 换脸诈骗风险提醒功能，这项功能仅在手机端来本地运行，能够有效保护用户数据不泄露。经过用户授权后，可为用户提供 AI 换脸诈骗风险预警提醒。”

当用 AI 换了脸的技术人员与记者发起视频通话时，测试手机终端提示“对方疑似假冒身份”。点击检测按钮，经过图像扫描，系统提示“AI 换脸合成概率 93%”。

IT之家了解到，AI 换脸主要是使用深度合成技术。《互联网信息服务深度合成管理规定》提出了算法备案、安全评估的手段，要求深度合成服务提供者对深度合成的内容添加显式或隐式水印。

中国信通院人工智能所安全与元宇宙部专家陈文弢称：“要对生成合成的内容去添加一些水印，这个水印的本质其实就是要一方面去提示公众这个内容是由 AI 生成或者合成的，另一方面也是要追溯它的来源。”