央视新闻曝光了AI聊天软件行业乱象，以筑梦岛App为例，该平台AI智能体提供“校霸、性感人妻”等擦边角色，生成诱导性内容，危害未成年人身心健康。上海市网信办约谈运营企业，要求整改并加强审核机制。文章指出，开发、运营方需厘清法律责任，若未严格履行审核义务，可能面临故意伤害罪、传播淫秽物品罪、侵犯公民个人信息罪等刑事追责。

😠 筑梦岛App因提供“校霸、性感人妻”等擦边角色，生成诱导性内容，危害未成年人身心健康，被央视新闻点名批评。

🗣️ 上海市网信办约谈筑梦岛App运营企业，责令其立即整改，健全AI生成内容审核机制，提升技术把关能力，加强涉未成年人不良内容的整治清理。

⚠️ 文章强调，开发、运营方需厘清法律责任，若未严格履行内容审核义务，可能面临多种法律风险。例如，若AI生成内容导致未成年人自残，可能构成故意伤害罪；若涉及色情擦边信息，可能触碰传播淫秽物品罪；非法收集未成年人隐私数据，则可能构成侵犯公民个人信息罪。

IT之家 6 月 22 日消息，央视新闻今天援引“筑梦岛 App AI 智能体对话存在低俗内容被依法约谈”案例，曝光了 AI 聊天软件行业乱象。

IT之家参考通报获悉，以筑梦岛 App 为例，央视网提到该平台中的 AI 智能体虚拟互动对象提供“校霸、性感人妻、病娇养兄、人格障碍少爷”等擦边极端角色，生成一系列“明显诱导性内容”，危害未成年人身心健康。

6 月 19 日上午，上海市网信办依法约谈筑梦岛 App 运营企业主要负责人，要求平台立即整改，健全 AI 生成合成内容审核机制，提升技术把关能力，加强涉未成年人不良内容的整治清理，切实落实未成年人网络保护义务。

央视网表示，当未成年人因 AI 聊天软件诱导性内容身心受损时，开发、运营方的法律责任边界亟待厘清。若相关行为导致未成年人出现自残情况，有可能构成刑法第 234 条规定的故意伤害罪。

此外，若软件开发、运营方未严格履行内容审核义务，对违规信息视而不见、放任传播，便需为侵权行为承担相应后果。若 AI 生成内容涉及色情擦边信息，软件开发、运营方极有可能触碰“传播淫秽物品罪”的红线；若软件开发、运营方非法收集未成年人隐私数据，将其用于商业牟利，同样可能因触犯“侵犯公民个人信息罪”而面临刑事追责。