Grok 旗下的生成式 AI 视频工具 Grok Imagine 因其“辣”模式引发广泛关注和潜在法律风险。该模式被指控在生成成人内容和名人换脸视频方面毫无顾忌，甚至在用户未明确要求的情况下，就生成了泰勒·斯威夫特（Taylor Swift）的裸露视频片段。尽管 xAI 的政策禁止以色情方式描绘人物，但 Grok Imagine 似乎并未有效阻止此类内容的生成，且年龄验证机制存在漏洞。该工具的使用量正迅速增长，预示着其可能带来的伦理和社会挑战。

Grok Imagine 视频工具提供“辣”模式，允许用户生成包含部分裸露和暗示性内容的视频，甚至能对名人进行换脸操作，这与 Google Veo 和 OpenAI Sora 等其他同类工具形成鲜明对比。

该工具在生成泰勒·斯威夫特视频时，即使在未被明确要求的情况下，也生成了其裸露上身的片段，并且在用户生成“泰勒·斯威夫特与男孩们一起庆祝科切拉音乐节”的图片时，提供了大量穿着暴露的斯威夫特图像。

尽管 Grok Imagine 的图像生成效果可能存在“恐怖谷”效应，但其生成的名人形象仍可被识别。此外，该工具还能生成儿童的逼真照片，虽然拒绝以不当方式处理儿童图像，但其内容生成的自由度仍令人担忧。

xAI 的可接受使用政策禁止“以色情方式描绘人物形象”，但 Grok Imagine 似乎未能有效执行此政策，尤其是在名人内容生成方面。同时，其年龄验证机制存在严重漏洞，容易被绕过。

Grok Imagine 的使用量呈爆炸式增长，自推出以来已生成超过 3400 万张图片，其“野火般蔓延”的使用趋势预示着可能带来的伦理、法律和社会影响不容忽视。

Grok 新推出的生成式 AI 视频工具 Grok Imagine 拥有一个“辣”（spicy）模式，被认为存在潜在的法律风险。据 The Verge 报道，与 Google 的 Veo 和 OpenAI 的 Sora 等其他视频生成工具不同，Grok Imagine 似乎对生成成人内容和名人换脸视频毫无顾忌。在首次使用该工具时，其甚至在未被明确要求的情况下，直接生成了泰勒·斯威夫特（Taylor Swift）赤裸上身的视频片段。

Grok Imagine 的 iOS 版本允许用户通过文本提示词生成图片，并通过“自定义”“正常”“有趣”和“辣”四种预设模式，快速将图片转化为视频片段。尽管许多图像生成器通常会避免生成名人形象，但当被要求生成“泰勒`斯威夫特与男孩们一起庆祝科切拉音乐节”的图片时，该工具却提供了超过 30 张可供选择的图像，其中不少图片中斯威夫特穿着暴露。

用户只需打开一张斯威夫特穿着银色短裙和露肩上衣的图片，点击右下角的“制作视频”选项，从下拉菜单中选择“辣”模式，并确认自己的出生年份（尽管在英国已实行年龄限制，但下载该应用时并未要求进行年龄验证），视频便会立即生成。在视频中，斯威夫特脱掉衣服，仅穿着丁字裤在一群冷漠的 AI 生成观众面前跳舞。

尽管 Grok 生成的斯威夫特形象并不完美，大多数图像都带有一种“恐怖谷”般的不自然感，但仍可被识别为她本人。

此外，该图像生成器还可以根据要求生成儿童的逼真照片，但值得庆幸的是，尽管“辣”选项仍然可用，其拒绝以不适当的方式对儿童图像进行动画处理。在所有测试中，只是添加了一些普通的动作。

xAI 的可接受使用政策确实禁止“以色情方式描绘人物形象”，但 Grok Imagine 似乎并未采取任何措施来阻止用户生成像斯威夫特这样的名人形象，同时提供了一项专门用于制作包含部分裸体的暗示性视频的服务。而且年龄验证仅出现了一次，且极易被绕过，无需任何证明用户所声称年龄的证据。

据 xAI 首席执行官埃隆·马斯克（Elon Musk）透露，自周一以来，已有超过 3400 万张图片通过 Grok Imagine 生成，其使用量正在“像野火般蔓延”。

题图来源：The Verge