英国儿童专员呼吁政府禁止利用AI制作儿童裸体或性别图像的应用程序。这类应用已对儿童，尤其是年轻女孩，造成了广泛的恐惧和伤害，许多女孩因此不再在社交媒体上分享照片。专员强调，这些工具易于获取，且主要针对女性，呼吁政府采取行动，包括全面禁止相关应用，并对开发者设定法律责任，以保护儿童免受性虐待。英国政府已采取措施，严惩制作或传播性别深度伪造图像的行为，并将未经同意拍摄亲密照片或视频列为刑事犯罪。

👧 英国儿童专员呼吁政府禁止能够制作儿童裸体或性别图像的 AI 深度伪造应用程序，原因是这类应用已经非常普遍，许多女孩因此不再在社交媒体上分享照片。

📱 这些“裸体化”应用程序广泛存在于主流平台上，包括最大的搜索引擎和应用商店，且主要针对女孩和年轻女性，许多工具甚至只对女性身体有效。

🛡️ 儿童专员希望政府能够为生成式 AI 应用的开发者设定法律责任，以识别产品对儿童的潜在风险，并建立有效机制，清除网络上的儿童性虐待材料。

⚖️ 英国政府已采取措施，通过引入新的刑事罪行来严惩制作或传播性别深度伪造图像的行为，并将未经同意拍摄亲密照片或视频列为刑事犯罪。

IT之家 4 月 28 日消息，英国儿童专员今日呼吁政府，禁止能够制作儿童裸体或性别图像的 AI 深度伪造应用程序。其指出，这些“裸体化”应用程序已经非常普遍，以至于许多女孩选择不再在社交媒体上分享照片。

儿童专员瑞秋・德・苏扎表示：“孩子们告诉我，他们对这种技术的存在感到恐惧，甚至对它的可获取性感到害怕，更别提它可能被用来操控他们了。他们担心任何人都可能利用这些定制应用，通过智能手机制造裸露图像，不论是陌生人、同学，还是朋友。”

德・苏扎强调，这些裸体化 AI 应用程序广泛存在于主流平台上，包括最大的搜索引擎和应用商店。而且这些工具主要针对女孩和年轻女性，许多工具甚至只对女性身体有效。她还指出，年轻人正在呼吁（政府）采取行动，遏制这种技术的滥用。

因此，德・苏扎呼吁政府全面禁止使用 AI 生成性别深度伪造图像的应用程序。她还希望政府能够为生成式 AI 应用的开发者设定法律责任，以识别产品对儿童的潜在风险，并建立有效机制，清除网络上的儿童性虐待材料。

据《卫报》报道，英国政府已经采取措施，通过引入新的刑事罪行来严惩制作或传播性别深度伪造图像的行为。此外，英国还计划将未经同意拍摄亲密照片或视频列为刑事犯罪。当前，儿童专员更加关注这种技术对年轻人造成的伤害，指出深度伪造虐待与自杀倾向和创伤后应激障碍（IT之家注：即 PTSD）之间的关联。