2025年全国两会于近日闭幕，本届会议因人工智能议题的高频出现而备受瞩目，成为“AI含量”最高的一次盛会。AI技术的持续突破使得相关提案热度飙升，其中“AI换脸”成为焦点。小米集团董事长雷军、演员靳东、TCL董事长李东生等多位代表委员不约而同提出建议。AI换脸技术虽展现了普惠潜力，但其滥用风险日益凸显，如何防范与治理成为亟待解决的问题。本报记者梳理两会提案与专家观点，探寻AI换脸的机遇与挑战。

“眼见未必为实”：AI换脸滥用频发

AI换脸技术依托深度伪造（Deepfake）算法，可快速改变数字世界中的人物形象。作为技术普惠的代表，其在娱乐、教育等领域有广阔前景。然而，现实中，这项技术却频频被滥用。小米董事长雷军在两会期间透露，他曾因AI生成的虚假内容被网络攻击8天，导致公司股价下跌，最终只能亲自发声澄清。类似事件并非孤例：此前，“假张文宏”深夜直播带货、“假刘晓庆”发布人生感悟、“假古天乐”代言游戏等案例层出不穷，显示AI换脸已成为违法侵权的重灾区。

近年来，我国针对AI治理出台了一系列法规，包括《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等，并于近期完成《人工智能生成合成内容标识办法（征求意见稿）》的社会意见征集。尽管如此，技术的迅猛发展让现有监管体系面临挑战。雷军在提案中指出，现行法律仍将AI侵权归入隐私权、肖像权等传统框架，但新型侵权的损失难以量化举证，维权困境凸显。两会代表委员一致呼吁，针对AI换脸的监管与治理已刻不容缓。

深度伪造威胁升级：从个人到国家安全

据安全牛发布的《AI时代深度伪造和合成媒体的安全威胁与对策（2024版）》报告，随着Deepfake技术门槛降低，不法分子利用其犯罪的成本大幅下降。这种“技术平民化”在推动创新的同时，也带来了多重风险：

1. 虚假宣传扰乱秩序
   深度伪造可制作逼真视频与音频，用于误导公众。2018年，比利时某政党篡改特朗普演讲，伪造其呼吁比利时退出气候协议的视频，引发当地民众抗议。

2. 名誉损害触目惊心
   AI换脸制作的色情视频侵犯个人权利，例如《神奇女侠》主演盖尔·加朵的面容被合成至成人影片，引发社会热议。

3. 经济犯罪损失惨重
   2024年，香港一家跨国公司员工因误信AI伪造的“高管视频会议”，被骗转账2亿港币，成为该地区最大规模的“换脸诈骗”案。

4. 伦理争议引发思考
   技术用于“复活”逝者形象，如疫情期间合成的爱因斯坦抗疫视频，虽具正面意义，却涉及被遗忘权等伦理问题。

5. 国家安全隐患加剧
   深度伪造可伪造战争命令或破解人脸识别系统，甚至被用于国家间政治抹黑，增加国际冲突风险。

网易易盾专家表示，治理AI换脸需从政策完善与技术对抗两方面入手，深入剖析应用场景，才能有效遏制风险。

技术反制黑灰产：金融行业案例解析

报告显示，深度伪造技术在视频、图像、语音领域的应用占比分别为37%、56%和7%。黑灰产团伙将其用于色情视频、金融诈骗等高利润领域，金融行业尤为受冲击。以“网易易盾为某城商行提供智能活体检测解决方案”为例，记者梳理了技术治理的实践路径：

服务背景

某城商行金融理财子公司提供多样化金融服务。新规要求20万元以下贷款可线上签约，但需全程录音录像以确保合规与风控。

客户痛点

黑灰产利用AI伪造人脸视频，绕过传统识别系统，实施账号盗用与欺诈，涉及高级伪造技术、视频攻击、活体检测绕过等问题。

解决方案

网易易盾推出SaaS服务，基于“人脸深度评估和注意力机制的活体检测算法”，结合光线分析与真人模型，精准识别伪造内容，支持双录截帧与正脸提取。

服务成效

系统上线后，安全性显著提升，欺诈风险降低，用户体验优化，同时满足合规要求，助力企业品牌竞争力。

结语

从近年政策密集出台，到2025年两会AI议题热度空前，AI换脸的治理已成社会共识。这一技术既是创新引擎，也是风险源头。两会代表委员的建言与技术企业的实践表明，只有通过法律与技术的双轮驱动，才能让AI换脸回归“向善”初心，为社会发展注入正能量。