原创 澎湃新闻 2025-03-05 19:28 上海
澎湃首席评论员 李勤余
全国人大代表、小米科技董事长兼CEO雷军3月4日公开了今年两会的5条建议，其中“加强‘AI换脸拟声’违法侵权重灾区治理”尤为引人关注，因为他本人就是AI换脸拟声的“深度受害者”。
去年国庆长假期间，短视频平台上曾经出现大量“雷军AI配音”的恶搞视频，涉及堵车、调休、游戏等热门话题，不仅言辞犀利，还常爆粗口，引得网友纷纷涌到雷军微博下发问“最近你怎么在骂人”。对此，雷军还专门发视频，呼吁大家不要再恶搞。
雷军个人账号截图
中招的不只是雷军，现在很多互联网平台，都有大量用AI移花接木、恶搞名人的音视频。还有AI魔改经典老剧，用AI生成的“假名人”来带货，也是利用了换脸拟声技术。
人工智能深度合成技术的快速发展，推动了“AI换脸拟声”在影视、广告、社交等领域广泛兴起，成为社会喜闻乐见、传播力强的技术应用。但正如雷军所指出的，“AI换脸拟声”不当滥用也成了违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，带来社会治理风险。
此次雷军作为“受害者本尊”，以全国人大代表的身份将这个严肃话题带到全国两会上，提出治理建议，可谓恰如其分，很有说服力。
有网友可能会问，不就是恶搞一下名人，值得这么紧张吗？事实上，这绝不是件可以一笑而过的事。如果说从前碍于技术的问题，“AI换脸拟声”还有比较明显的破绽，而现在通过合成技术生成的AI数字人，形态自然、语言流畅，在特定环境下已经和真人无异，让人难以分辨。
而且，网络上已经出现了不少违法乱象：比如冒充名人与中老年人接触，诱使他人转账；自称是单位领导，要求他人汇款；甚至还有人通过AI技术编造险情、灾情等，以此博取流量。如果放任“AI换脸拟声”不当滥用，很有可能带来社会治理的风险，下一个受害者也许就会是我们的亲人、朋友。
我国目前对于AI合成技术已经作出了一些规定，例如《互联网信息服务深度合成管理规定》《生成式人工智能服务暂行管理办法》等，明确要求深度合成服务提供者落实信息安全主体责任，使用者不得滥用深度合成服务。
但治理AI换脸拟声也存在一些法律和技术上的难题。比如真要追责，取证困难，需证明视频真实性、来源及目的；主观性认定困难，需证明行为人明知违法，且证据标准高。就拿雷军来说，很多恶搞他的AI视频已经明显越过了开玩笑、玩梗的界限，损害了其个人形象，但真要一个一个去“较真”，其实并不容易。
就现阶段而言，一方面，平台理应强化主体责任，对用户发布的内容进行审核，及时处理违法信息；另一方面，也应该在法律层面尽快制定AI行业行为准则和道德规范，推动行业自律和技术应用的伦理合规性。
“AI换脸拟声”被滥用，其实只是人工智能技术带来的治理挑战之一。在3月4日人大首场发布会上，发言人娄勤俭也坦言：人工智能技术的发展也伴随一系列难以预知的风险挑战，在安全、社会治理、道德伦理等方面带来众多新课题，“中国政府高度重视人工智能技术的发展和风险防范”。
因此，对于AI我们既要保持开放包容的心态，将其用好、发展好；对于新技术、新应用带来的种种问题，也要坚持在发展中治理，明确使用AI技术的底线和红线，真正让科技向上向善、为人类服务。
本期资深编辑 周玉华
推荐阅读
