全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 针对人工智能内生安全风险 ………………………… 7 4.2 针对人工智能应用安全风险 ………………………… 9 5. 综合治理措施 ……………………………………………… 10 6. 人工智能安全开发应用指引 ……………………………… 12 6.1 模型算法研发者安全开发指引 ……………………… 12 6.2 人工智能服务提供者安全指引 ……………………… 13 6.3 重点领域使用者安全应用指引 6.4 社会公众安全应用指引 ……………………………… 15 目 录- 1 - 人工智能安全治理框架 人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。 落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为 推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工 智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本 框架。

的台阶，为 LLM 的广泛应用奠定了基础。再之后的 11 月份，OpenAI 再发力，GPTs 的到来，“用户自定义 ChatGPT”的能力，更是让世人领略了 OpenAI 作为 LLM 一哥的宏大叙事能力与强劲技术实力。 二、 New Bing（Bing AI）代表了微软在 LLM 领域的野心和 决心，它首次把当时世人能想到最有价值又可行的 LLM 应用场景——“智能对话+联网搜索”——无缝整合了起来， 全代码，大大提高了开发效率。这也引发了代码原创性的讨 论，但它已经实实在在将 LLM 拉进了编程应用领域。 六、 LangChain 的出现，实现了 LLM 之间的链式交互，使多 个 LLM 模型串联工作，发挥各自的优势，并且可以将 LLM 模型与外部数据源进行连接，产生更强大的语言理解 和生成效果。这开启了 LLM 集成应用的新方向，并诞生了 一个新的细分领域“LLMOps”。 七、 “提示词工程”，这是 LLM 从传 统的模型训练和应用模式，转向以 Agent 为中心的智能 化模式。LLM Agent 打破了传统 LLM 的被动性，使 LLM 能够主动学习和执行任务，从而提高了 LLM 的应用 范围和价值；它为 LLM 的智能化发展提供了新的方向， 使 LLM 能够更加接近于人类智能。 九、 AI 原生，目前还没有明确的定义，大致是说，不同于当前 各种应用在原本的基础上增加 AI 能力，使其智能化，但

本程序是自由软件：您可以在自由软件基金会发布的 GNU 一般公共许可的第 三版许可，或（您选择的）更新版本的条款之下，将其重新发布并且/或者修 改。 发布本程序希望它有用，但不具有任何质保；甚至没有应用可销售性或适于特 定目的的质保。更多细节请参见 GNU 一般公共许可。 You should have received a copy of the GNU General Public License Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与连续集成 数据架构 发布 Weblate 安全和隐私 关于 Weblate 许可协议 Change history Weblate 4.6 Weblate 4.5.3 Weblate 4.5.2 Weblate 4.5.1 Weblate 4 翻译组织成为项目和组件。每个项目可以包含几个组件，并 且组件包含各个语言的翻译。组件相应于一个翻译文件（例如 GNU gettext 或 安卓字符串资源）。项目帮助您将组件组织为逻辑的组（例如，将一个应用中 使用的所有翻译分组）。 默认情况下，每个项目内都有对跨组件传播的公共字符串的翻译。这减轻了重 复和多版本翻译的负担。但假如翻译应当有所不同，可以使用 允许同步翻译 通过 组件配置 禁用翻译传播。

本程序是自由软件：您可以在自由软件基金会发布的 GNU 一般公共许可的第 三版许可，或（您选择的）更新版本的条款之下，将其重新发布并且/或者修 改。 发布本程序希望它有用，但不具有任何质保；甚至没有应用可销售性或适于特 定目的的质保。更多细节请参见 GNU 一般公共许可。 You should have received a copy of the GNU General Public License Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与连续集成 数据架构 发布 Weblate 安全和隐私 关于 Weblate 许可协议 Change history Weblate 4.6.2 Weblate 4.6.1 Weblate 4.6 Weblate 4.5.3 Weblate 4 翻译组织成为项目和组件。每个项目可以包含几个组件，并 且组件包含各个语言的翻译。组件相应于一个翻译文件（例如 GNU gettext 或 安卓字符串资源）。项目帮助您将组件组织为逻辑的组（例如，将一个应用中 使用的所有翻译分组）。 默认情况下，每个项目内都有对跨组件传播的公共字符串的翻译。这减轻了重 复和多版本翻译的负担。但假如翻译应当有所不同，可以使用 允许同步翻译 通过 组件配置 禁用翻译传播。

本程序是自由软件：您可以在自由软件基金会发布的 GNU 一般公共许可的第 三版许可，或（您选择的）更新版本的条款之下，将其重新发布并且/或者修 改。 发布本程序希望它有用，但不具有任何质保；甚至没有应用可销售性或适于特 定目的的质保。更多细节请参见 GNU 一般公共许可。 You should have received a copy of the GNU General Public License Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与连续集成 数据架构 发布 Weblate 安全和隐私 关于 Weblate 许可协议 Change history Weblate 4.6.1 Weblate 4.6 Weblate 4.5.3 Weblate 4.5.2 Weblate 4 翻译组织成为项目和组件。每个项目可以包含几个组件，并 且组件包含各个语言的翻译。组件相应于一个翻译文件（例如 GNU gettext 或 安卓字符串资源）。项目帮助您将组件组织为逻辑的组（例如，将一个应用中 使用的所有翻译分组）。 默认情况下，每个项目内都有对跨组件传播的公共字符串的翻译。这减轻了重 复和多版本翻译的负担。但假如翻译应当有所不同，可以使用 允许同步翻译 通过 组件配置 禁用翻译传播。

本程序是自由软件：您可以在自由软件基金会发布的 GNU 一般公共许可的第 三版许可，或（您选择的）更新版本的条款之下，将其重新发布并且/或者修 改。 发布本程序希望它有用，但不具有任何质保；甚至没有应用可销售性或适于特 定目的的质保。更多细节请参见 GNU 一般公共许可。 You should have received a copy of the GNU General Public License Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与连续集成 数据架构 发布 Weblate 安全和隐私 关于 Weblate 许可协议 Change history Weblate 4.5.3 Weblate 4.5.2 Weblate 4.5.1 Weblate 4.5 Weblate 4 翻译组织成为项目和组件。每个项目可以包含几个组件，并 且组件包含各个语言的翻译。组件相应于一个翻译文件（例如 GNU gettext 或 安卓字符串资源）。项目帮助您将组件组织为逻辑的组（例如，将一个应用中 使用的所有翻译分组）。 默认情况下，每个项目内都有对跨组件传播的公共字符串的翻译。这减轻了重 复和多版本翻译的负担。但假如翻译应当有所不同，可以使用 允许同步翻译 通过 组件配置 禁用翻译传播。

本程序是自由软件：您可以在自由软件基金会发布的 GNU 一般公共许可的第 三版许可，或（您选择的）更新版本的条款之下，将其重新发布并且/或者修 改。 发布本程序希望它有用，但不具有任何质保；甚至没有应用可销售性或适于特 定目的的质保。更多细节请参见 GNU 一般公共许可。 You should have received a copy of the GNU General Public License Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与连续集成 数据架构 发布 Weblate 安全和隐私 关于 Weblate 许可协议 Change history Weblate 4.5.1 Weblate 4.5 Weblate 4.4.2 Weblate 4.4.1 Weblate 4 翻译组织成为项目和组件。每个项目可以包含几个组件，并 且组件包含各个语言的翻译。组件相应于一个翻译文件（例如 GNU gettext 或 安卓字符串资源）。项目帮助您将组件组织为逻辑的组（例如，将一个应用中 使用的所有翻译分组）。 默认情况下，每个项目内都有对跨组件传播的公共字符串的翻译。这减轻了重 复和多版本翻译的负担。但假如翻译应当有所不同，可以使用 允许同步翻译 通过 组件配置 禁用翻译传播。

本程序是自由软件：您可以在自由软件基金会发布的 GNU 一般公共许可的第 三版许可，或（您选择的）更新版本的条款之下，将其重新发布并且/或者修 改。 发布本程序希望它有用，但不具有任何质保；甚至没有应用可销售性或适于特 定目的的质保。更多细节请参见 GNU 一般公共许可。 You should have received a copy of the GNU General Public License Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与连续集成 数据架构 发布 Weblate 安全和隐私 关于 Weblate 许可协议 Change history Weblate 4.5 Weblate 4.4.2 Weblate 4.4.1 Weblate 4.4 Weblate 4.3 翻译组织成为项目和组件。每个项目可以包含几个组件，并 且组件包含各个语言的翻译。组件相应于一个翻译文件（例如 GNU gettext 或 安卓字符串资源）。项目帮助您将组件组织为逻辑的组（例如，将一个应用中 使用的所有翻译分组）。 默认情况下，每个项目内都有对跨组件传播的公共字符串的翻译。这减轻了重 复和多版本翻译的负担。但假如翻译应当有所不同，可以使用 允许同步翻译 通过 组件配置 禁用翻译传播。

com 本程序是自由软件：您可以在自由软件基金会发布的 GNU 通用公共许可证第 三版，或（您选择的）更新版本的条款之下，将其重新发布并且/或者修改。 发布本程序希望它有用，但不作任何担保；甚至没有应用可销售性或适于特定 目的的担保。更多细节请参见 GNU 通用公共许可证。 You should have received a copy of the GNU General Public License 翻译进程 检查并修正 机器翻译 附加组件 翻译记忆库 配置 配置的例子 管理命令 公告 组件列表 可选的 Weblate 模块 定制 Weblate 管理界面 从 Weblate 获取支持 法律文件 应用开发者指南 从国际化开始 与 Weblate 集成 使用 GNU gettext 来翻译软件 使用 Sphinx 翻译文档 使用 Weblate CDN 翻译 HTML 和 JavaScript 翻译组件警报 Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 关于 Weblate 许可协议 更新历史 Weblate 4.10.1 Weblate 4.10 Weblate 4.9.1 Weblate 4.9 Weblate 4.8.1 Weblate

com 本程序是自由软件：您可以在自由软件基金会发布的 GNU 通用公共许可证第 三版，或（您选择的）更新版本的条款之下，将其重新发布并且/或者修改。 发布本程序希望它有用，但不作任何担保；甚至没有应用可销售性或适于特定 目的的担保。更多细节请参见 GNU 通用公共许可证。 You should have received a copy of the GNU General Public License Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 关于 Weblate 许可协议 Change history Weblate 4.10 Weblate 4.9.1 Weblate 4.9 Weblate 4.8.1 Weblate 4 格式字符串样例: Your balance is {{amount}} {{ currency }} 参见 格式化字符串, AngularJS text interpolation [https://angular.io/guide/interpolation] C 格式 C 格式的字符串与原文不匹配 已翻译字符串 weblate.checks.format.CFormatCheck c-format