埃隆·马斯克旗下xAI公司的人工智能聊天机器人Grok推出虚拟“companions”功能,其中“Ani”和“Bad Rudi”两个角色因涉及露骨性暗示及暴力内容,引发争议。Ani呈现日本动漫风格,使用轻浮语言进行互动,甚至模拟脱衣动作;Bad Rudi则以红熊猫形象,诱导暴力对话,表达对宗教和权威人物的敌视。该功能对所有用户开放,但需手动开启权限,这使得Grok在主流AI聊天机器人中显得特殊。此前Grok曾因反犹言论引发丑闻,此次新功能再次凸显其内容风险。目前,xAI尚未对相关争议及功能漏洞作出回应。
🤖 xAI公司推出的Grok聊天机器人新增了虚拟“companions”功能,其中包括“Ani”和“Bad Rudi”两个角色。
👧 “Ani”是日本动漫风格形象,使用轻浮语言与用户互动,甚至模拟脱衣动作,引发了关于儿童性剥削的担忧。
🦝 “Bad Rudi”以红熊猫为形象,使用粗俗语言诱导暴力对话,表达对宗教、权威人物的敌视,甚至扬言针对马斯克本人。
⚠️ 该功能对所有用户开放,但需手动开启权限,其露骨内容使Grok在主流AI聊天机器人中显得特殊,此前Grok刚因反犹言论引发丑闻,此次新功能再次凸显其内容风险。
💡 目前,该功能的技术层面仍存在问题,用户反馈显示角色存在问答延迟、中途变声等漏洞,xAI尚未对相关争议及功能漏洞作出回应。
近日,埃隆・马斯克旗下xAI公司的人工智能聊天机器人Grok推出虚拟 “companions(伙伴)”功能,首批上线的两个角色分别为 “Ani” 和 “Bad Rudi” ,因涉及露骨性暗示及暴力内容,已遭到美国国家性剥削防治中心批评。

据了解,Ani是日本动漫风格形象,会通过轻浮语言与用户互动,甚至在对话中做出脱衣相关模拟动作;Bad Rudi则以红熊猫为形象,使用粗俗语言诱导暴力对话,称要实施偷游艇、轰炸银行等行为,还表达对宗教、权威人物的敌视,甚至扬言针对马斯克本人。
这两款角色可响应语音指令并做出逼真动作,对所有用户开放,但需手动开启权限。其露骨内容使Grok在主流AI聊天机器人中显得特殊 —— 此前 Grok 刚因反犹言论引发丑闻,此次新功能再次凸显其内容风险。反色情组织 “国家性剥削防治中心” 已呼吁xAI移除 Ani,认为其 “带孩童特质却宣扬高风险性行为”。

从背景看,xAI是马斯克商业版图的重要一环。近期SpaceX宣布向其投资20亿美元,美国国防部也授予其最高2亿美元合同。但该公司运营成本高昂,有报道称其每月消耗10亿美元用于基础设施建设,马斯克则否认了这一说法。
目前,该功能技术层面仍存问题,用户反馈显示角色存在问答延迟、中途变声等漏洞。
xAI尚未对相关争议及功能漏洞作出回应。
查看评论