文章揭露了不法分子利用飞速发展的人工智能技术制造虚假信息，严重扰乱社会秩序的现象。央视网公开了一批AI假新闻的典型案例，例如利用AI工具编造“三层游船倒扣江中30人坠江”的谣言，该谣言发布者已被公安机关依法行政处罚。另外，云南大理也查处了一起利用AI制作逼真交通事故视频以博取眼球的案件。文章强调，AI技术在视频制作中的广泛应用，使得虚假信息的辨别难度加大，并呼吁加强监管和提高公众辨别能力。

⚠️ AI技术被滥用制造虚假信息：文章指出，部分不法分子利用人工智能技术，特别是AI在视频制作方面的能力，制造虚假新闻和谣言，以此来吸引关注、吸粉引流，对社会秩序造成了严重扰乱。

⚖️ 典型案例揭示AI造谣的危害：文中列举了两个具体案例，一是“三层游船倒扣江中30人坠江”的假新闻，发布者因提升账号关注度使用AI工具编造谣言已被行政处罚；二是云南大理警方查处利用AI生成逼真交通事故视频进行传播的案件，发布者同样是为了博取眼球。

🚨 辨别AI虚假信息面临挑战：文章强调，随着AI技术在视频制作中应用日益广泛，普通人难以辨别AI生成的虚假视频的真伪，这给不法分子利用AI制造混乱提供了便利。因此，提高公众的辨别力至关重要。

🛡️ 加强监管与提升辨别力并重：面对AI技术被滥用的风险，文章呼吁在加强对AI技术应用监管的同时，也需要着力提高人民群众的辨别能力，共同抵制和打击利用AI制造的虚假信息。

IT之家 7 月 27 日消息，随着人工智能技术的飞速发展，AI 在各个领域的应用越来越广泛。然而部分不法分子却利用 AI 技术制造虚假信息，严重扰乱社会秩序。央视网今天发文，公开了一批 AI 假新闻典例。

以近期“三层游船倒扣江中 30 人坠江”假新闻为例，7 月 20 日，有网传“一条游船在湖北宜昌江段侧翻多人落水”，后续湖北省公安厅、宜昌市公安局两级公安机关与网络安全部门紧密配合，很快锁定假新闻发布者，他为提升账号关注度使用某 AI 工具编造了这条谣言，目前已被公安机关依法作出行政处罚。

此外，近期云南大理漾濞县公安局也查处了一起利用 AI 编造交通事故的网络谣言案。大理漾濞警方在工作中发现，有人在网络上发布多段交通事故现场人员伤亡的视频，并标注事发地点为大理州。经过警方调查，很快就锁定视频发布者赵某某。

据其供述，为了博眼球、吸粉引流，采用 AI 工具制作了这些视频，并发布到个人视频号上。赵某某称利用 AI 工具，通过简单的操作，就能生成逼真的交通事故现场视频，并在网络上传播。所幸警方发现及时，传播范围得到有效控制。

警方提示，如今 AI 技术在视频制作中的应用日益广泛，通过 AI 可以轻松生成逼真的虚假视频，普通人很难辨别真伪。一旦被不法分子利用，会带来巨大的风险。在亟须加强监管的同时，也需要提高人民群众的辨别力。