全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 针对人工智能内生安全风险 ………………………… 7 4.2 针对人工智能应用安全风险 ………………………… 9 5. 综合治理措施 ……………………………………………… 10 6. 人工智能安全开发应用指引 ……………………………… 12 6.1 模型算法研发者安全开发指引 ……………………… 12 6.2 人工智能服务提供者安全指引 ……………………… 13 6.3 重点领域使用者安全应用指引 6.4 社会公众安全应用指引 ……………………………… 15 目 录- 1 - 人工智能安全治理框架 人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。 落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为 推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工 智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本 框架。

REST API Weblate 客户端 Weblate 的 Python API 管理员文档 配置说明 Weblate 部署 升级 Weblate 备份和移动 Weblate 身份验证 访问控制 翻译项目 语言定义 持续本地化 翻译许可 翻译进程 检查和修正 配置自动建议 附加组件 翻译记忆库 配置 配置的示例 管理命令 公告 部件列表 可选的 Weblate 模块 定制 Weblate 管理界面 Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 更新日志 Weblate 4.15.2 Weblate 4.15.1 Weblate 4.15 Weblate 4.14.2 （例如，将一个应用中用到的所有翻译集合在一起）。 默认情况下，每个项目内都有对跨部件传播的公共字符串的翻译。这减轻了重 复和多版本翻译的负担。但假如翻译应当有所不同，可以使用 允许同步翻译 通过 部件配置 禁用翻译传播。 参见 与 Weblate 集成 注册和用户个人资料 注册 默认情况下，每个人都可以浏览项目、查看翻译或建议翻译。只有注册用户才 能实际保存更改，并且每次翻译都会获得积分。

REST API Weblate 客户端 Weblate 的 Python API 管理员文档 配置说明 Weblate 部署 升级 Weblate 备份和移动 Weblate 身份验证 访问控制 翻译项目 语言定义 持续本地化 翻译许可 翻译进程 检查和修正 配置自动建议 附加组件 翻译记忆库 配置 配置的示例 管理命令 公告 部件列表 可选的 Weblate 模块 定制 Weblate 管理界面 Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 更新日志 Weblate 4.15.1 Weblate 4.15 Weblate 4.14.2 Weblate 4.14.1 （例如，将一个应用中用到的所有翻译集合在一起）。 默认情况下，每个项目内都有对跨部件传播的公共字符串的翻译。这减轻了重 复和多版本翻译的负担。但假如翻译应当有所不同，可以使用 允许同步翻译 通过 部件配置 禁用翻译传播。 参见 与 Weblate 集成 注册和用户个人资料 注册 默认情况下，每个人都可以浏览项目、查看翻译或建议翻译。只有注册用户才 能实际保存更改，并且每次翻译都会获得积分。

REST API Weblate 客户端 Weblate 的 Python API 管理员文档 配置说明 Weblate 部署 升级 Weblate 备份和移动 Weblate 身份验证 访问控制 翻译项目 语言定义 持续本地化 翻译许可 翻译进程 检查和修正 配置自动建议 附加组件 翻译记忆库 配置 配置的示例 管理命令 公告 部件列表 可选的 Weblate 模块 定制 Weblate 管理界面 Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 更新日志 Weblate 4.15 Weblate 4.14.2 Weblate 4.14.1 Weblate 4.14 Weblate （例如，将一个应用中用到的所有翻译集合在一起）。 默认情况下，每个项目内都有对跨部件传播的公共字符串的翻译。这减轻了重 复和多版本翻译的负担。但假如翻译应当有所不同，可以使用 允许同步翻译 通过 部件配置 禁用翻译传播。 参见 与 Weblate 集成 注册和用户个人资料 注册 默认情况下，每个人都可以浏览项目、查看翻译或建议翻译。只有注册用户才 能实际保存更改，并且每次翻译都会获得积分。

REST API Weblate 客户端 Weblate 的 Python API 管理员文档 配置说明 Weblate 部署 升级 Weblate 备份和移动 Weblate 身份验证 访问控制 翻译项目 语言定义 持续本地化 翻译许可 翻译进程 检查和修正 配置自动建议 附加组件 翻译记忆库 配置 配置的示例 管理命令 公告 部件列表 可选的 Weblate 模块 定制 Weblate 管理界面 Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 更新日志 Weblate 4.14.2 Weblate 4.14.1 Weblate 4.14 Weblate 4.13.1 （例如，将一个应用中用到的所有翻译集合在一起）。 默认情况下，每个项目内都有对跨部件传播的公共字符串的翻译。这减轻了重 复和多版本翻译的负担。但假如翻译应当有所不同，可以使用 允许同步翻译 通过 部件配置 禁用翻译传播。 参见 与 Weblate 集成 注册和用户个人资料 注册 默认情况下，每个人都可以浏览项目、查看翻译或建议翻译。只有注册用户才 能实际保存更改，并且每次翻译都会获得积分。

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 164 2 管理员文档 167 2.1 配置说明 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 306 2.13 配置自动建议 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 317 2 . . . . . . . . . . . . . . . . 348 2.16 配置 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 350 2.17 配置的示例 . . . . . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 164 2 管理员文档 167 2.1 配置说明 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 306 2.13 配置自动建议 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 317 2 . . . . . . . . . . . . . . . . 348 2.16 配置 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 350 2.17 配置的示例 . . . . . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154 2 管理员文档 156 2.1 配置说明 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 289 2.13 配置自动建议 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 299 2 . . . . . . . . . . . . . . . . 326 2.16 配置 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 328 2.17 配置的示例 . . . . . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153 2 管理员文档 155 2.1 配置说明 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 155 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 288 2.13 配置自动建议 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 299 2 . . . . . . . . . . . . . . . . 326 2.16 配置 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 328 2.17 配置的示例 . . . . . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154 2 管理员文档 157 2.1 配置说明 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 157 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 290 2.13 配置自动建议 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 300 2 . . . . . . . . . . . . . . . . 327 2.16 配置 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 329 2.17 配置的示例 . . . . . . . . . . . . . . . . . . . .