1范围 本文档2规定了生成型人工智能服务的基本安全要求，包括训练数据安全、模型安全以及安全措施，并提供了安全评估要求。 本文件适用于执行安全评估的服务提供商，并为相关的主要监管机构（主管部门）提供参考。 2规范性参考文件 下列文件的内容通过本文的规范引用构成了本文件的不可或缺的规定。其中，对于有日期引用的文件，仅该日期对应的版本适用于本文件；对于无日期引用的文件，最新版本（包括所有修改版）适用于本文件。 信息安全技术术语GB/T25069-2022 3术语和定义 GB/T25069-2022中定义的及下列术语和定义适用于本文件。 3.1生成人工智能服务 生成人工智能技术用于向公众提供文本、图形、音频、视频及其他内容生成服务。 3.2服务提供商 提供生成式AI服务的组织或个人，以交互界面、可编程接口等形式呈现。 3.3培训数据 直接作为模型训练输入的所有数据，包括预训练和优化训练数据。 4Overview 这份文件旨在帮助服务提供商建立生成式AI服务的网络安全基线，并提高服务的安全水平。针对当前生成式AI服务面临的关键问题，如网络安全、数据安全和个人信息保护，它提出了涵盖整个服务生命周期的安全要求，以在服务过程中预防和减轻涉及应用场景、软件和硬件环境、生成内容以及权益保护的安全风险。 对于生成式AI服务上线前的模型开发过程，本文件重点关注训练数据来源安全、训练数据内容安全、数据标注安全以及模型安全。对于服务提供过程，在服务向公众开放后，本文件重点关注在服务提供过程中应采取的安全措施。
