英国儿童专员呼吁政府禁止AI深度伪造应用程序，这些应用能制作儿童裸体或性别图像，已导致许多女孩不敢在社交媒体分享照片。儿童专员瑞秋·德·苏扎强调，此类应用在主流平台广泛存在，主要针对女孩和年轻女性。她呼吁政府全面禁止AI生成性别深度伪造图像的应用程序，并为开发者设定法律责任，以识别产品对儿童的潜在风险，并建立有效机制清除网络上的儿童性虐待材料。英国政府已采取措施，严惩制作或传播性别深度伪造图像的行为。

🔞 AI“裸体化”应用程序的泛滥，使儿童，特别是女孩，感到恐惧，她们担心任何人都可以通过智能手机制造裸露图像，这导致她们甚至不敢在社交媒体上分享自己的照片。

🔍 这些裸体化AI应用程序广泛存在于主流平台上，包括搜索引擎和应用商店，且主要针对女孩和年轻女性，许多工具甚至只对女性身体有效。

⚖️ 英国儿童专员呼吁政府全面禁止使用AI生成性别深度伪造图像的应用程序，并为生成式AI应用的开发者设定法律责任，以识别产品对儿童的潜在风险，并建立有效机制，清除网络上的儿童性虐待材料。

🚨 深度伪造虐待与自杀倾向和创伤后应激障碍（PTSD）之间存在关联，这表明该技术对年轻人造成了严重的心理伤害。

英国儿童专员日前呼吁政府，禁止能够制作儿童裸体或性别图像的 AI 深度伪造应用程序。其指出，这些“裸体化”应用程序已经非常普遍，以至于许多女孩选择不再在社交媒体上分享照片。

儿童专员瑞秋·德·苏扎表示：“孩子们告诉我，他们对这种技术的存在感到恐惧，甚至对它的可获取性感到害怕，更别提它可能被用来操控他们了。他们担心任何人都可能利用这些定制应用，通过智能手机制造裸露图像，不论是陌生人、同学，还是朋友。”

德·苏扎强调，这些裸体化 AI 应用程序广泛存在于主流平台上，包括最大的搜索引擎和应用商店。而且这些工具主要针对女孩和年轻女性，许多工具甚至只对女性身体有效。她还指出，年轻人正在呼吁（政府）采取行动，遏制这种技术的滥用。

因此，德·苏扎呼吁政府全面禁止使用 AI 生成性别深度伪造图像的应用程序。她还希望政府能够为生成式 AI 应用的开发者设定法律责任，以识别产品对儿童的潜在风险，并建立有效机制，清除网络上的儿童性虐待材料。

据《卫报》报道，英国政府已经采取措施，通过引入新的刑事罪行来严惩制作或传播性别深度伪造图像的行为。此外，英国还计划将未经同意拍摄亲密照片或视频列为刑事犯罪。当前，儿童专员更加关注这种技术对年轻人造成的伤害，指出深度伪造虐待与自杀倾向和创伤后应激障碍（PTSD）之间的关联。