近年来，人工智能技术飞速发展，深度伪造技术也随之兴起，它能生成高度逼真的虚假视频和图像，引发了严重的社会问题。今年以来，利用AI深度伪造假冒名人的案例层出不穷，如伪造张文宏医生直播带货，刘德华声音被恶意利用等。尽管该技术存在一些破绽，如无法实时直播、细节融合度不高等，但其侵权行为已触犯法律。专家呼吁短视频平台承担主体责任，加强监管，保护公众权益。同时，消费者如受骗，可依据消费者权益保护法维权。

🎭AI深度伪造技术能生成高度逼真的虚假视频和图像，其核心在于利用深度学习克隆他人面部和声音，仅需一张照片和一段语音样本即可完成。

📢今年以来，AI伪造名人事件频发，包括张文宏医生被伪造直播带货，刘德华声音被恶意用于增加短视频流量，雷军也成为AI伪造的目标，这些事件引发了公众对AI安全隐患的担忧。

⚠️尽管AI伪造技术存在一些缺陷，如无法实时直播，脸部轮廓和背景融合度存在瑕疵，但其侵权行为已触犯法律，未经授权使用他人形象或声音属于侵权行为，可能面临法律处罚。

⚖️消费者如因AI假冒名人带货受骗，可依据消费者权益保护法要求“退一赔三”，同时，专家呼吁短视频平台承担主体责任，及时下架违规内容，并对发布者采取信用管理和处罚措施。

IT之家 12 月 23 日消息，近年来，人工智能（AI）技术的快速发展为社会带来了诸多便利，但也伴随着安全隐患。据IT之家了解，其中深度伪造技术就带来了不小的隐患，其生成高度逼真但并非真实的视频或图像的能力，已经引发了一系列社会问题。

据央视新闻报道，今年以来，利用 AI 深度伪造假冒名人的案例层出不穷。例如，不久前就有不法分子通过 AI 技术伪造张文宏医生的面部和声音，用于直播带货，卖出 1200 多件蛋白棒产品。

此外，名人刘德华和企业家雷军也成为 AI 伪造的目标。刘德华的声音被恶意用于增加短视频流量，其电影公司也多次发布声明以警示公众。

专家指出，目前的 AI 技术可以通过深度学习轻松克隆他人面部和声音，甚至只需一张照片和一段语音样本即可完成。然而，这种技术并非毫无破绽。例如，伪造视频通常无法实时直播，同时在脸部轮廓和背景融合度等细节上存在缺陷。观众通过仔细观察可发现破绽，尤其是在口型和语音匹配度方面。

专家表示，未经授权使用他人形象或声音属于侵权行为，根据《民法典》和《网络安全法》，发布者可能面临包括损害赔偿和刑事责任在内的处罚。同时，消费者如因 AI 假冒名人带货受骗，可依据消费者权益保护法要求“退一赔三”。

专家还呼吁短视频平台承担主体责任，及时下架违规内容，并对发布者采取信用管理和处罚措施。