全国网络安全标准化技术委员会发布了《人工智能安全治理框架》1.0版，该框架提出了包容审慎、确保安全等原则，针对模型算法安全、数据安全和系统安全等风险，提出了技术应对和综合防治措施，为规范人工智能发展和应用提供了技术指南。该框架的发布旨在应对近年来人工智能技术快速发展带来的安全风险，以及各国和机构在规范该领域方面的努力。

🤔 **包容审慎，确保安全**: 该框架强调要以包容审慎的态度对待人工智能发展，并确保其安全可靠。这意味着在促进人工智能创新和应用的同时，要加强安全监管和风险控制，防止潜在的安全风险。

🛡️ **风险导向，敏捷治理**: 框架提出要以风险为导向，实施敏捷治理，针对不同的风险类别制定相应的安全措施。例如，针对模型算法安全风险，需要加强算法透明度和可解释性，以及模型安全评估和测试等措施。

🤝 **技管结合，协同应对**: 框架强调要将技术手段和管理措施相结合，协同应对人工智能安全风险。例如，要加强人工智能安全技术研发，同时建立健全安全管理制度和标准规范。

🌐 **开放合作，共治共享**: 框架提倡开放合作，共同治理人工智能安全，并共享安全经验和技术。这需要政府、企业、研究机构等各方共同参与，建立协同机制，共同促进人工智能安全发展。

⚖️ **伦理域**: 框架也强调了人工智能伦理安全的重要性，强调要将伦理道德融入人工智能研发和应用的全过程，确保人工智能技术的应用符合社会伦理规范。例如，要防止人工智能技术被用于歧视、偏见或侵犯个人隐私等行为。

快科技9月9日消息，今日，全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0版。

《框架》提出了包容审慎、确保安全，风险导向、敏捷治理，技管结合、协同应对，开放合作、共治共享等人工智能安全治理的原则。

针对模型算法安全、数据安全和系统安全等内生安全风险和网络域、现实域、认知域、伦理域等应用安全风险，《框架》提出相应技术应对和综合防治措施，以及人工智能安全开发应用指引，为促进人工智能健康发展和规范应用，提供了基础性、框架性技术指南。

这也是目前各国、机构都在寻求规范的领域，因为近两年AI技术发展迅速，目前已经深入到各方各面，如果没有规范管理，在灰色地带很容易产生一些风险。

今年早些时候，欧盟就批准了《人工智能法案》，其中严格禁止“对人类安全造成不可接受风险的人工智能系统”。

包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等，还规定人工智能公司要对算法进行人为控制，提供技术文件，并建立相应的风险管理系统。