IT之家 05月14日 15:48
马斯克的 xAI 未按时发布 AI 安全框架,安全记录欠佳
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

埃隆・马斯克的人工智能公司xAI未能如期发布最终人工智能安全框架,引发对其AI安全表现的质疑。此前,xAI发布的AI安全框架草案被指仅适用于“尚未开发的”未来AI模型,且未能明确风险缓解措施。尽管马斯克曾警告AI的潜在危险,但xAI的安全记录并不理想,其风险管理措施被认为薄弱。同时,其他AI实验室在安全测试和报告发布方面也进展缓慢,引发专家对AI安全被忽视的担忧。

⚠️ xAI未能按原定5月10日截止日期发布修订后的安全政策,官方渠道也未对此作出回应。

📄 xAI此前发布的AI安全框架草案仅适用于“目前尚未开发的”未来AI模型,并且未能明确说明如何识别和实施风险缓解措施。

📉 非营利组织SaferAI的研究显示,由于xAI“风险管理措施非常薄弱”,其在同行中排名较低。

🤔 近期报告显示,xAI的聊天机器人Grok在用户要求下能对女性照片进行“脱衣”处理,且语言风格粗俗,经常使用脏话。

IT之家 5 月 14 日消息,据监督组织 The Midas Project 指出,埃隆・马斯克(Elon Musk)的人工智能公司 xAI 未能在其自行设定的最后期限前发布最终的人工智能安全框架。

xAI 在 AI 安全领域的表现一直备受质疑。近期的一份报告显示,其 AI 聊天机器人 Grok 在用户要求下,能够对女性照片进行“脱衣”处理。Grok 的语言风格也比 Gemini 和 ChatGPT 等其他聊天机器人也更为粗俗,经常毫无顾忌地使用脏话。

然而,在二月份于韩国首尔举行的全球 AI 领导者和利益相关者峰会上,xAI 发布了一份 AI 安全框架的草案。这份八页的文件概述了 xAI 的安全优先事项和理念,包括其基准测试协议和 AI 模型部署考虑因素。

The Midas Project 周二在其博客文章中指出,这份草案仅适用于“目前尚未开发的”未来 AI 模型。此外,该草案未能明确说明 xAI 将如何识别和实施风险缓解措施,而这正是该公司在首尔 AI 峰会上签署的文件的核心组成部分。

在草案中,xAI 表示计划在“三个月内”发布修订后的安全政策,即在 5 月 10 日之前。然而,截止日期已过,xAI 的官方渠道并未对此作出任何回应。

尽管马斯克经常警告不受控制的 AI 所带来的危险,但 xAI 在 AI 安全方面的记录却不尽如人意。非营利组织 SaferAI 最近的一项研究发现,由于 xAI “风险管理措施非常薄弱”,其在同行中排名较低。

IT之家注意到,其他 AI 实验室的安全状况也并不乐观。近几个月来,xAI 的竞争对手,包括谷歌和 OpenAI,都在仓促进行安全测试,并且在发布模型安全报告方面进展缓慢,甚至完全跳过发布报告。一些专家对此表示担忧,认为在 AI 能力日益增强、潜在危险也随之增加的当下,安全工作似乎被置于次要地位。

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

xAI 人工智能安全 埃隆・马斯克 Grok
相关文章