近年来，“AI换脸”诈骗案件数量快速增加，正在成为侵犯人民财产安全和社会信任的“新毒瘤”，需要综合防治。经分析，该类犯罪有四个主要特点：
第一个就是伪造身份，降低心理防御。犯罪分子利用复杂的欺骗技术，通过非法获取的肖像、声音等个人信息，精密模拟受害者家属、朋友、领导、检察官、司法人员的形象。在视频通话中，犯罪分子可以利用自然的面部表情、唇语同步，甚至模仿某些语调和口头禅来获得受害者的完全信任，使他们很容易陷入诈骗陷阱。
二是制造紧急状态，削弱判断力。诈骗者经常使用合法手段要求受害者立即汇款诸如“突发疾病”、“账户被冻结需要验证身份”等难以拒绝的情况。一些受害者对这些新的违法犯罪手段缺乏了解和认识，最终基于“情况很糟糕”、“这不可能是真的”、“我不想拖累别人”等错误信念，转移大笔资金。警方的反应能力或银行的拦截能力非常有限。
第三，技术的便捷获取降低了犯罪门槛。如今，AI换脸软件已经唾手可得。一些开源代码和“一键生成”工具可以在暗网和社交团体中以低成本获得，并且无需任何专业技术知识即可完成。犯罪成本和门槛远低于传统诈骗。还可以实现大规模伪造，同时欺骗多个目标，具有明显的大规模犯罪特征。
四、犯罪链条隐蔽并且难以追踪。诈骗团伙经常利用离岸远程控制、虚拟货币洗钱、分层代理销售等技术来分散技术提供、信息窃取、欺诈执行和资金转移等。由于离岸服务器、身份造假和资金链断裂，执法机构在纠正电子证据、锁定犯罪嫌疑人、追回赃款方面面临重大挑战。
对此，笔者提出以下几点：我提出一个建议。
一是强化技术措施。公安、网信部门应联合科技公司开发专业的人工智能恶搞检测平台，将实时识别模块纳入视频通话软件、银行转账系统中，对疑似换脸视频进行自动预警，同时保护个人隐私。同时，一个完整的三维人工整数elligence技术假冒样本库的建立可以进一步提高识别算法的准确性，提高攻击的效率和效果。
二是完善紧急停工支付制度。银行和其他金融监管机构应进一步简化针对欺诈相关资金的应急响应流程，并对标记为“核查有问题”的大额转账设立延迟付款期限。同时，银行等机构要与公安机关密切合作，打造数据共享互联的快速反应通道。
第三，严格控制科技工具扩散。网信部门发起专项突击检查，对销售换脸软件或教授犯罪技巧的网站和社交媒体账户进行检查。立法层面，将明确滥用深度造假技术的刑事责任，实行分级、信任严格控制其开发、销售和使用，强化关键平台的审查义务，从源头上遏制技术滥用。同时，运营商应加强对异常国际电话、高频视频请求的智能拦截和再风险提醒的责任要求，彻底堵截欺诈行为。
第四步，构建协同攻击体系。公安机关要牵头建立新发科技诈骗案件跨部门、跨境联合执法机制，统一电子证据受理标准，开通境外数据恢复绿色通道。司法机关还应出台相关司法解释，明确人工智能诈骗犯罪的适用和量刑标准，公布典型案例强化震慑，形成全链条打击合力。
来源：人民法院报
（编辑：马章、薄晨迪）
请分享马克e让更多人看到
发表评论