Grok新推出的生成式AI视频工具Grok Imagine因其“辣”模式引发广泛关注和潜在法律风险。与其他同类工具不同，Grok Imagine似乎对生成成人内容和名人换脸视频持开放态度。该工具的iOS版本允许用户通过文本提示词生成图片，并利用“自定义”、“正常”、“有趣”和“辣”四种模式将其转化为视频片段。在测试中，即使未被明确要求，工具也生成了泰勒·斯威夫特赤裸上身的视频，且能轻易生成穿着暴露的名人图像。尽管xAI的可接受使用政策禁止色情描绘，但Grok Imagine似乎未有效阻止此类内容的生成，并且年龄验证机制形同虚设，易被绕过。该工具的使用量正迅速增长，显示出其强大的传播力。

“辣”模式引发法律风险：Grok Imagine工具中的“辣”模式被指存在潜在法律风险，因为它似乎允许生成成人内容和名人换脸视频，这与其他主流AI视频生成工具的谨慎态度形成鲜明对比。

泰勒·斯威夫特案例暴露问题：在首次使用时，Grok Imagine未经明确要求便生成了泰勒·斯威夫特赤裸上身的视频片段。当用户要求生成“泰勒·斯威夫特与男孩们一起庆祝科切拉音乐节”的图片时，该工具提供了大量穿着暴露的图片，并且能通过“辣”模式将这些图片转化为包含部分裸体的视频。

名人形象生成与年龄验证漏洞：尽管许多图像生成器会避免生成名人形象，Grok Imagine却能轻易满足此类需求。此外，其年龄验证机制存在严重漏洞，仅出现一次且极易被绕过，用户无需提供任何证明即可声称年龄，这进一步加剧了内容风险。

儿童图像处理的“双重标准”：虽然Grok Imagine可以根据要求生成逼真的儿童照片，并且在“辣”选项可用时拒绝以不当方式处理儿童图像，但这种区分对待仍然引发了关于内容审核和伦理责任的担忧。

使用量激增与潜在影响：据xAI首席执行官埃隆·马斯克透露，Grok Imagine自推出以来使用量激增，已生成超过3400万张图片，其使用呈“野火般蔓延”的趋势，预示着该工具可能对内容创作和信息传播产生深远影响。

IT之家 8 月 6 日消息，Grok 新推出的生成式 AI 视频工具 Grok Imagine 拥有一个“辣”（spicy）模式，被认为存在潜在的法律风险。据 TheVerge 报道，与谷歌的 Veo 和 OpenAI 的 Sora 等其他视频生成工具不同，Grok Imagine 似乎对生成成人内容和名人换脸视频毫无顾忌。在首次使用该工具时，其甚至在未被明确要求的情况下，直接生成了泰勒・斯威夫特（Taylor Swift）赤裸上身的视频片段。

据IT之家了解，Grok Imagine 的 iOS 版本允许用户通过文本提示词生成图片，并通过“自定义”“正常”“有趣”和“辣”四种预设模式，快速将图片转化为视频片段。尽管许多图像生成器通常会避免生成名人形象，但当被要求生成“泰勒・斯威夫特与男孩们一起庆祝科切拉音乐节”的图片时，该工具却提供了超过 30 张可供选择的图像，其中不少图片中斯威夫特穿着暴露。

用户只需打开一张斯威夫特穿着银色短裙和露肩上衣的图片，点击右下角的“制作视频”选项，从下拉菜单中选择“辣”模式，并确认自己的出生年份（尽管在英国已实行年龄限制，但下载该应用时并未要求进行年龄验证），视频便会立即生成。在视频中，斯威夫特脱掉衣服，仅穿着丁字裤在一群冷漠的 AI 生成观众面前跳舞。

尽管 Grok 生成的斯威夫特形象并不完美，大多数图像都带有一种“恐怖谷”般的不自然感，但仍可被识别为她本人。

此外，该图像生成器还可以根据要求生成儿童的逼真照片，但值得庆幸的是，尽管“辣”选项仍然可用，其拒绝以不适当的方式对儿童图像进行动画处理。在所有测试中，只是添加了一些普通的动作。

xAI 的可接受使用政策确实禁止“以色情方式描绘人物形象”，但 Grok Imagine 似乎并未采取任何措施来阻止用户生成像斯威夫特这样的名人形象，同时提供了一项专门用于制作包含部分裸体的暗示性视频的服务。而且年龄验证仅出现了一次，且极易被绕过，无需任何证明用户所声称年龄的证据。

据 xAI 首席执行官埃隆・马斯克（Elon Musk）透露，自周一以来，已有超过 3400 万张图片通过 Grok Imagine 生成，其使用量正在“像野火般蔓延”。