动点科技 2024年07月19日
构筑 AI 安全防线,Google、微软、英伟达等 14 家公司组建安全 AI 联盟
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

在阿斯彭安全论坛上,包括Google、微软、OpenAI等在内的14家AI领域大公司宣布组建安全人工智能联盟CoSAI,旨在为AI从业人员提供安全系统设计指导,推动开源方法和标准化框架共享,以降低AI系统风险。

🌐 **联盟组建背景**:Google、微软等14家AI领域公司联合组建CoSAI,由OASIS全球标准机构主办,旨在为AI从业人员提供安全系统设计所需的指导和工具。

🚀 **首要目标**:CoSAI将致力于开发AI安全最佳实践,应对AI领域的挑战,并确保AI应用的安全,工作范围涵盖AI系统的构建、集成、部署和运行。

🛡️ **降低风险**:重点在于降低模型盗窃、数据中毒、提示注入、规模滥用和推理攻击等风险,通过开源社区的形式推进技术议程。

🤝 **组织架构**:CoSAI由项目理事会和技术指导委员会领导,理事会推进技术议程,委员会由AI专家组成,监督工作流程。

📢 **业界反响**:Google安全副总裁Heather Adkins表示,CoSAI将帮助各组织安全整合AI,利用AI优势的同时降低风险。

在阿斯彭安全论坛(Aspen Security Forum)会议上,Google、微软、OpenAI、亚马逊、英伟达、英特尔等 14 家 AI 领域的大公司宣布联合组建安全人工智能联盟(Coalition for Secure AI,CoSAI)

CoSAI 由 OASIS 全球标准机构主办,是一项开源计划,旨在为所有 AI 从业人员和开发人员提供创建设计安全人工智能系统所需的指导和工具。CoSAI 将建立一个合作生态系统,共享开源方法、标准化框架和工具等等。

CoSAI 的创始赞助商包括 Google、IBM、英特尔、微软、英伟达和 PayPal。其他创始赞助商包括亚马逊、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI 和 Wiz。

CoSAI 首先将致力于实现三个目标:

CoSAI 的工作范围包括安全地构建、集成、部署和运行人工智能系统,重点是降低模型盗窃、数据中毒、提示注入、规模滥用和推理攻击等风险。

CoSAI 是一个开源社区,由项目理事会和技术指导委员会领导,前者负责推进和管理其总体技术议程,后者由学术界和产业界的人工智能专家组成,负责监督其工作流。

Google 安全副总裁希瑟`阿德金斯(Heather Adkins)表示:“AI 发展多年,为防御者带来的持续潜力,同时也认识到它为对手带来的机遇。CoSAI 将帮助大大小小的组织安全、负责任地整合人工智能,帮助他们利用人工智能的优势,同时降低风险。”

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

安全人工智能联盟 AI安全 开源社区 风险降低 技术指导
相关文章