十四届全国人大三次会议开幕前

全国人大代表雷军

提交了五份建议

其中包括一份：

关于加强“AI换脸拟声”

违法侵权重灾区治理的建议

全国人大代表雷军在建议中指出：

人工智能(AI)深度合成技术的快速发展，推动了“AI换脸拟声”在影视、广告、社交等领域广泛兴起，成为社会喜闻乐见、传播力强、易成热点的技术应用。但同时也看到，“AI换脸拟声”不当滥用造成了违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，甚至造成难以挽回的大规模形象和声誉损害，带来社会治理等风险。AI深度合成技术所需素材获取便利、技术使用门槛低、侵权主体及其手段隐蔽性强等特点，给治理带来较大挑战。

在看到雷军的提议后

小编想到之前发生的

关于女性AI换脸的案例

下面，带大家一起回顾一下

以案说法

“AI换脸”伪造女明星涉黄视频

2022年8月，杭州市萧山警方在网上巡查中发现，辖区内有人利用AI技术制作淫秽视频并在网上进行大量传播。警方随即依法对此立案侦查，并迅速抓获了犯罪嫌疑人虞某。

经检察机关深入调查，虞某自2020年起便开始接触“AI换脸”软件，并尝试通过推广这项技术及相关软件来获利。然而，由于关注者寥寥，虞某并未如愿以偿。一次偶然的机会，虞某在社交群组中看到有人发布淫秽信息吸引关注，这让他动起了利用“AI换脸”技术制作淫秽视频牟利的歪脑筋。

虞某利用“AI换脸”技术，将他人的面部特征替换到淫秽视频中，并通过互联网群组进行传播。为了吸引更多的关注和流量，他创建了“浏览群”和“私人定制群”。在“浏览群”中，虞某大量传播淫秽视频，包括经过他换脸的视频，以此吸引观众。而当有人提出“定制换脸”的需求时，虞某会将这些人引入“私人定制群”，并根据视频的长度、清晰度等条件收取定制费用。

虞某的“定制”换脸对象广泛，既包括知名公众人物，也包括许多不特定的普通人。他通过提供定制化换脸服务，以及销售“AI换脸”软件和传授使用教程，在不到半年的时间里便获利数万元。此外，虞某还非法收集了大量他人的人脸素材，用于制作淫秽视频。

杭州市萧山区人民检察院在依法追究虞某刑事责任的同时，还提起了民事公益诉讼。2023年7月，杭州互联网法院对此案进行了一审公开审理。法院经审理认为，虞某利用“AI换脸”技术侵犯公民个人信息的违法事实确凿，遂支持检察机关作为公益诉讼起诉人的全部诉讼请求。法院判令虞某删除非法获取的个人信息，公开赔礼道歉、消除影响，并赔偿损失共6万元。这些款项将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。

此案不仅创下我国首例AI换脸公益诉讼判决，更以“技术中立但越界必追责”的司法态度为行业敲响警钟。

虞某案并非孤例。中国互联网信息中心数据显示，2024年涉及AI换脸的侵权投诉中，女性受害者占比高达83%。AI换脸技术本应是影视工业的创新工具，但在缺乏有效监管的情况下，被不法分子滥用，导致大量侵权事件频发，尤其是针对女性的肖像侵权和色情内容传播。据相关报道，超120位艺人遭遇AI换脸侵权，其中女性艺人视频被用于色情内容的占比高达67%。

此外，AI换脸技术的低成本和易操作性也使得这一现象更加普遍。一条10秒的换脸视频制作费用已经从5000元降至30元，普通人也能轻松完成换脸操作。

目前，我国已有多部法律法规对涉及AI换脸等深度合成技术的违法行为进行了明确规定。例如，《网络安全法》规定，网络运营者应当加强对其用户发布的信息的管理，发现法律、行政法规禁止发布或者传输的信息的，应当立即停止传输该信息，采取消除等处置措施，防止信息扩散，保存有关记录，并向有关主管部门报告。《刑法》也明确规定，以营利为目的，制作、复制、出版、贩卖、传播淫秽物品的，构成传播淫秽物品牟利罪，将受到法律的严厉制裁。

此外，针对AI换脸技术可能涉及的侵犯肖像权、隐私权等行为，《民法典》也有相关规定。民法典第一千零一十九条规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。同时，民法典还保护了自然人的隐私权，任何组织或者个人不得以刺探、侵扰、泄露、公开等方式侵害他人的隐私权。

在此，我们呼吁相关部门应加强对“AI换脸拟声”技术的监管和治理，防止其被不法分子利用从事违法犯罪活动。对于侵犯女性权益的行为，我们必须零容忍，坚决打击，以维护社会的公平正义和女性的尊严与权益。