12月12日，山西省消费者协会发布消费警示，提醒广大消费者警惕利用“AI换脸”和“AI配音”(统称“深度伪造”)技术实施的新型诈骗。警示指出，随着2025年人工智能技术进入深度普及与应用融合的新阶段，此类诈骗手段迷惑性极强，对消费者财产安全与个人隐私构成严重威胁。

诈骗分子通常通过多步完成诈骗。

首先，他们会在抖音、微信视频号、微博等社交平台，广泛搜集消费者或其亲友公开发布的清晰面部视频、语音片段，用于AI模型训练。

随后，利用“深度伪造”技术合成出足以以假乱真的视频或音频。接着，他们会精心设计一个紧急情境，如声称遇到车祸、被拘留或业务急需付款等，利用受害者的慌乱心理降低其警惕性。

最后，通过视频通话或发送伪造的语音、视频片段直接联系消费者，要求其向指定账户转账。

典型诈骗场景主要包括：合成子女、父母或好友的影像，在视频通话中以“急需用钱”为由要求转账；针对企业财务人员或员工，冒充公司领导通过视频会议下达紧急支付指令；甚至伪造执法人员视频，以涉嫌违法为由要求消费者将资金转移至所谓“安全账户”进行核查。

面对这类利用生物特征进行欺骗的新型犯罪，山西省消协提示消费者，关键在于建立“多重验证”意识，不可单纯信赖眼见耳闻之象，并应谨记“三不二要”防范原则。

“三不”即不轻信、不转账、不泄露。对于任何通过非见面方式提出的转账汇款要求，即便看到真人视频或听到熟悉声音，也应高度警惕，尤其要提防对方制造紧急氛围阻碍核实。在未通过其他可靠途径百分之百确认对方身份前，坚决不进行任何转账操作。同时，需注重个人信息保护，审慎在社交媒体分享清晰的正面视频、语音，避免敏感信息过度公开。

“二要”即要核实、要警惕。若遇“亲友”通过视频借钱，务必挂断后使用自行存储的联系方式回拨核实，或通过共同亲友交叉确认；可与家人、挚友预先约定资金往来暗语。此外，需保持观察，AI合成内容可能存在人物表情僵硬、眨眼不自然、口型对不上、声音有电子音或断句不合理等细微破绽。消费者需牢记，公检法等机关绝不会通过视频或电话要求转账至“安全账户”，凡要求保密、隔绝与他人的联系，均是诈骗典型特征。

山西省消协郑重提醒，一旦发觉被骗，应第一时间拨打110报警或前往就近派出所，并提供对方账号、联系方式、聊天记录、转账凭证等证据。同时，立即联系银行客服或通过手机APP尝试冻结对方账户，争取止付，以最大限度减少损失。

来源：山西日报