生成式人工智能已成为继移动互联网技术之后最大的一波技术浪潮，在全球范围内引发科技巨头争相布局、掀起创业热潮的链式反应，同时也带来了新的安全风险和挑战。2023年7月，国家网信办等七部门发布了《办法》，从政策法规层面为我国生成式人工智能健康发展保驾护航，为有序开展相关管理工作明确了方向。
2024年4月，生成式人工智能数据标注和训练两项国标征求意见，两项国标一是有效提升生成式人工智能人工标注实施及应用安全性，二是开展预训练和优化训练过程中涉及的数据处理过程安全保护要求作出明确规范。
为响应中央重视生成式人工智能发展，营造创新生态，重视防范风险的要求，在生成人工智能的训练数据、数据标注、生成内容、用户权益等方面开展安全保护，全方位支撑《办法》，推动生成式人工智能的安全健康发展，《网络安全技术 生成式人工智能服务安全基本要求》被列入国家标准需求。
本标准对《办法》中的安全要求进行细化，规定了生成式人工智能服务在安全方面的基本要求，针对当前生成式人工智能服务研发过程中的网络安全、数据安全、个人信息保护，以及面向服务过程中的应用场景安全风险、软硬件环境安全风险、生成内容安全风险、权益保障安全风险等方面，提出细化安全要求，帮助明确服务网络安全基线、提高企业服务安全水平。
本标准针对生成式人工智能服务存在的安全风险，对现有生成式人工智能技术及其面向公众提供的服务进行分析与调研，对《办法》中的安全要求进行细化，规定了生成式人工智能服务在安全方面的基本要求，包括训练数据安全、模型安全、安全措施等，并给出了安全评估参考要点。充分发挥标准对生成式人工智能管理工作的支撑作用，对防范生成式人工智能重大安全风险、提升生成式人工智能安全水平起到规范引导作用，促进生成式人工智能行业安全发展。
2024年5月23日，为确保标准质量，全国网络安全标准化技术委员会对国家标准《网络安全技术 生成式人工智能服务安全基本要求》（征求意见稿）面向社会广泛征求意见，请于2024年07月22日前反馈给网安标委秘书处。
联系人：王姣 13661025214 wangjiao@cesi.cn
下载附件：
1. 网络安全技术 生成式人工智能服务安全基本要求-标准文本
2. 网络安全技术 生成式人工智能服务安全基本要求-意见汇总处理表
3. 网络安全技术 生成式人工智能服务安全基本要求-编制说明
