2024年11月12日，加拿大创新、科学和工业部长 François-Philippe Champagne 宣布成立加拿大人工智能安全研究所 （CAISI），以增强加拿大应对 AI 安全风险的能力，进一步将该国定位为安全和负责任地开发和采用 AI 技术的领导者。这是 2024 年预算中宣布的 24 亿美元更广泛投资的一个组成部分，旨在帮助研究人员和企业负责任地开发和采用 AI。
人工智能 （AI） 的快速发展凸显了这项变革性技术相关的前景和风险。确保人工智能系统的安全和负责任地使用是加拿大政府的首要任务，专家们强调了不断变化的风险，包括它们在虚假信息活动、网络安全漏洞和选举干预中被滥用的可能性。政府正在采取具体行动保护加拿大人免受 AI 的潜在有害影响。
CAISI 将利用加拿大世界领先的 AI 研究生态系统和人才基础，促进对与先进 AI 系统相关的风险的理解，并推动制定应对这些风险的措施。基于加拿大通过《布莱切利宣言》对国际合作的承诺，CAISI 还将与其他司法管辖区的安全机构合作，作为新的人工智能安全机构国际网络的一部分，该网络将于本月晚些时候在旧金山首次召开会议。
加拿大 AI 安全研究所是政府促进加拿大安全和负责任的 AI 开发的更广泛战略的一部分，该战略包括拟议的《人工智能和数据法案》和《关于负责任地开发和管理高级生成式 AI 系统的自愿行为准则》。
通过该研究所，联邦政府正在帮助确保 AI 安全并建立对该技术的信任。通过负责任地采用 AI 来培养对 AI 的更大信任，可以确保加拿大在当今和未来几代人的 AI 优势。
快速概览：
加拿大人工智能安全研究所 （CAISI） 的初始预算将在五年内为 5000 万美元。
CAISI 将设在加拿大创新、科学和经济发展部，并设有一个专门办公室负责监督研究议程并与国际合作伙伴接触。
它将利用加拿大国家研究委员会、加拿大高级研究所 （CIFAR）、加拿大三个国家人工智能研究所（埃德蒙顿的 Amii、蒙特利尔的 Mila 和多伦多的 Vector 研究所）的现有专业知识，并让更广泛的加拿大研究和商业界参与开展项目，以评估风险、测试系统和制定应对风险的指南。
CAISI 将分两个方向进行研究：
应用和研究者主导的研究将通过与总部位于加拿大的全球研究组织 CIFAR 达成的捐助协议获得资金，使加拿大和国际专家能够探索关键的 AI 安全问题。
政府主导的项目将由加拿大国家研究委员会实施，重点关注解决政府直接优先事项（如网络安全）或涉及其他国际 AI 安全机构的 AI 项目。
CAISI 的创建补充了政府的一系列措施，包括泛加拿大人工智能战略、拟议的人工智能和数据法案以及关于负责任开发和管理先进生成式人工智能系统的自愿行为准则，这些措施共同旨在支持加拿大的人工智能开发和采用，同时保护加拿大人免受与该技术相关的风险。
本文来源自“Government of Canda”，https://www.canada.ca/en/innovation-science-economic-development/news/2024/11/canada-launches-canadian-artificial-intelligence-safety-institute.html
责任编辑：孙瑜
声明：本文来自数据法律资讯，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
