全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 （b）偏见、歧视风险。算法设计及训练过程中，个人偏见被有意、无意引入， 或者因训练数据集质量问题，导致算法设计目的、输出结果存在偏见或歧视， 甚至输出存在民族、宗教、国别、地域等歧视性内容。 （c）鲁棒性弱风险。由于深度神经网络存在非线性、大规模等特点，人 工智能易受复杂多变运行环境或恶意干扰、诱导的影响，可能带来性能下降、 决策错误等诸多问题。- 4 - 人工智能安全治理框架 （d）被窃取、篡改的风险。参数、结构、功能等算法核心信息，面临被 球化分工协作格局。 但个别国家利用技术垄断和出口管制等单边强制措施制造发展壁垒，恶意阻断 全球人工智能供应链，带来突出的芯片、软件、工具断供风险。 3.2 人工智能应用安全风险 3.2.1 网络域安全风险 （a）信息内容安全风险。人工智能生成或合成内容，易引发虚假信息传播、 歧视偏见、隐私泄露、侵权等问题，威胁公民生命财产安全、国家安全、意识 形态安全和伦理安全。如果用户输入的提示词存在不良内容，在模型安全防护

提速降价、更多的 API 开放。 2023 年 8 月，谷歌宣布推出 AI 代码编辑器 Project IDX，一个基于浏览器的 开发环境：集成 AI、支持全栈编程语言、跨平台真机预览、一键部署，用于 构建全栈网络和多平台应用程序。 2023 年 10 月，百川智能发布 Baichuan2-192K 大模型，上下文窗口长度高 达 192K，号称是当时全球最长的上下文窗口，能够处理约 35 万个汉字。 在上下 河南联通强迫用户更换光猫 河南周口联通为了强迫用户更 换光猫，公司在后台停掉用户 的宽带账号，导致用户无法上 网，然后让工程师上门 “维修”， 谎称光猫损坏，需要花 299 元 换新。更换完后，联通再在后 台恢复用户的网络。 员工盗用公司游戏源代码 中国人民大学一名硕士毕业生涉嫌在校期间非法获取全校学生的个人信息， 并利用这些信息制作了一个给学生颜值打分的网站。 针对 “中国人民大学部分学生信息被非法获取” 的情况，海淀警方接到报警 岁，该校毕业生）涉嫌非法获取该校部分学生 个人信息等违法犯罪行为，后被海淀公安分局依法刑事拘留。 上海一游戏公司三名员工利 用职务之便，在从原公司离 职前盗取了公司开发的手游 源代码；并将该手游的源代 码提供给 了另一家网络 公 司，对方进行简单 “换皮” 之 后就开始上线经营。 创建颜值打分网站——结局很“刑” 一年私吞 260 余万元 民警随即展开工作，最终嫌疑人曹某迫于压力主动投案自首。 曹某是该公司的软件工程师，他坦白称，去年

translate-toolkit [https://toolkit.translatehouse.org/]，也支持嵌套结构的 JSON 文件。 在 4.3 版更改: 即使对于在之前发布版本中中断的复杂情况，JSON 文件的结 构也适当保留。 JSON 格式主要用于翻译 Javascript 中实施的应用。 Weblate 当前支持 JSON 翻译的几个变体： 简单的键/值文件，由例如 要启用对 Sentry 的支持，请进行以下设置： SENTRY_DSN 您的 Sentry DSN。 SENTRY_ENVIRONMENT 您的 Sentry 环境（可选）。 语言本地化内容分发网络 WEBLATE_LOCALIZE_CDN_URL WEBLATE_LOCALIZE_CDN_PATH 4.2.1 新版功能. :ref:`addon-weblate.cdn.cdnjs`的配置。 Celery 的后台任务）。 与特定版本相关的指示 从 2.x 升级 如果从 2.x 发布版本升级，首先总是升级到 3.0.1，然后继续在 3.x 系列中升 级。跳过这步的升级不被支持，并且会中断。 参见 Weblate 3.0 文档中关于从 2.20 升级到 3.0 [https://docs.weblate.org/en/weblate- 3.0.1/admin/upgrade.html#upgrade-3]

translate-toolkit [https://toolkit.translatehouse.org/]，也支持嵌套结构的 JSON 文件。 在 4.3 版更改: 即使对于在之前发布版本中中断的复杂情况，JSON 文件的结 构也适当保留。 JSON 格式主要用于翻译 Javascript 中实施的应用。 Weblate 当前支持 JSON 翻译的几个变体： 简单的键/值文件，由例如 要启用对 Sentry 的支持，请进行以下设置： SENTRY_DSN 您的 Sentry DSN。 SENTRY_ENVIRONMENT 您的 Sentry 环境（可选）。 语言本地化内容分发网络 WEBLATE_LOCALIZE_CDN_URL WEBLATE_LOCALIZE_CDN_PATH 4.2.1 新版功能. :ref:`addon-weblate.cdn.cdnjs`的配置。 Celery 的后台任务）。 与特定版本相关的指示 从 2.x 升级 如果从 2.x 发布版本升级，首先总是升级到 3.0.1，然后继续在 3.x 系列中升 级。跳过这步的升级不被支持，并且会中断。 参见 Weblate 3.0 文档中关于从 2.20 升级到 3.0 [https://docs.weblate.org/en/weblate- 3.0.1/admin/upgrade.html#upgrade-3]

translate-toolkit [https://toolkit.translatehouse.org/]，也支持嵌套结构的 JSON 文件。 在 4.3 版更改: 即使对于在之前发布版本中中断的复杂情况，JSON 文件的结 构也适当保留。 JSON 格式主要用于翻译 Javascript 中实施的应用。 Weblate 当前支持 JSON 翻译的几个变体： 简单的键/值文件，由例如 要启用对 Sentry 的支持，请进行以下设置： SENTRY_DSN 您的 Sentry DSN。 SENTRY_ENVIRONMENT 您的 Sentry 环境（可选）。 语言本地化内容分发网络 WEBLATE_LOCALIZE_CDN_URL WEBLATE_LOCALIZE_CDN_PATH 4.2.1 新版功能. :ref:`addon-weblate.cdn.cdnjs`的配置。 Celery 的后台任务）。 与特定版本相关的指示 从 2.x 升级 如果从 2.x 发布版本升级，首先总是升级到 3.0.1，然后继续在 3.x 系列中升 级。跳过这步的升级不被支持，并且会中断。 参见 Weblate 3.0 文档中关于从 2.20 升级到 3.0 [https://docs.weblate.org/en/weblate- 3.0.1/admin/upgrade.html#upgrade-3]

translate-toolkit [https://toolkit.translatehouse.org/]，也支持嵌套结构的 JSON 文件。 在 4.3 版更改: 即使对于在之前发布版本中中断的复杂情况，JSON 文件的结 构也适当保留。 JSON 格式主要用于翻译 Javascript 中实施的应用。 Weblate 当前支持 JSON 翻译的几个变体： 简单的键/值文件，由例如 要启用对 Sentry 的支持，请进行以下设置： SENTRY_DSN 您的 Sentry DSN。 SENTRY_ENVIRONMENT 您的 Sentry 环境（可选）。 语言本地化内容分发网络 WEBLATE_LOCALIZE_CDN_URL WEBLATE_LOCALIZE_CDN_PATH 4.2.1 新版功能. :ref:`addon-weblate.cdn.cdnjs`的配置。 Celery 的后台任务）。 与特定版本相关的指示 从 2.x 升级 如果从 2.x 发布版本升级，首先总是升级到 3.0.1，然后继续在 3.x 系列中升 级。跳过这步的升级不被支持，并且会中断。 参见 Weblate 3.0 文档中关于从 2.20 升级到 3.0 [https://docs.weblate.org/en/weblate- 3.0.1/admin/upgrade.html#upgrade-3]

translate-toolkit [https://toolkit.translatehouse.org/]，也支持嵌套结构的 JSON 文件。 在 4.3 版更改: 即使对于在之前发布版本中中断的复杂情况，JSON 文件的结 构也适当保留。 JSON 格式主要用于翻译 Javascript 中实施的应用。 Weblate 当前支持 JSON 翻译的几个变体： 简单的键/值文件，由例如 要启用对 Sentry 的支持，请进行以下设置： SENTRY_DSN 您的 Sentry DSN。 SENTRY_ENVIRONMENT 您的 Sentry 环境（可选）。 语言本地化内容分发网络 WEBLATE_LOCALIZE_CDN_URL WEBLATE_LOCALIZE_CDN_PATH 4.2.1 新版功能. :ref:`addon-weblate.cdn.cdnjs`的配置。 Celery 的后台任务）。 与特定版本相关的指示 从 2.x 升级 如果从 2.x 发布版本升级，首先总是升级到 3.0.1，然后继续在 3.x 系列中升 级。跳过这步的升级不被支持，并且会中断。 参见 Weblate 3.0 文档中关于从 2.20 升级到 3.0 [https://docs.weblate.org/en/weblate- 3.0.1/admin/upgrade.html#upgrade-3]

translate-toolkit [https://toolkit.translatehouse.org/]，也支持嵌套结构的 JSON 文件。 在 4.3 版更改: 即使对于在之前发布版本中中断的复杂情况，JSON 文件的结 构也适当保留。 JSON 格式主要用于翻译 Javascript 中实施的应用。 Weblate 当前支持 JSON 翻译的几个变体： 简单的键/值文件，由例如 要启用对 Sentry 的支持，请进行以下设置： SENTRY_DSN 您的 Sentry DSN。 SENTRY_ENVIRONMENT 您的 Sentry 环境（可选）。 语言本地化内容分发网络 WEBLATE_LOCALIZE_CDN_URL WEBLATE_LOCALIZE_CDN_PATH 4.2.1 新版功能. :ref:`addon-weblate.cdn.cdnjs`的配置。 Celery 的后台任务）。 与特定版本相关的指示 从 2.x 升级 如果从 2.x 发布版本升级，首先总是升级到 3.0.1，然后继续在 3.x 系列中升 级。跳过这步的升级不被支持，并且会中断。 参见 Weblate 3.0 文档中关于从 2.20 升级到 3.0 [https://docs.weblate.org/en/weblate- 3.0.1/admin/upgrade.html#upgrade-3]

https://github.com/WeblateOrg/weblate/issues 实时聊天 关于 Weblate 的即时聊天可以在 Libera.Chat [https://libera.chat/] IRC网络上进行。频 道名称是 #weblate 。这可以通过例如 https://web.libera.chat/#weblate 或安装在 你电脑上的IRC客户端来访问。 许可协议 版权所有 © Michal PunctuationSpacingCheck punctuation_spacing ignore-punctuation-spacing 检查双标点符号（感叹号、问号、分号和冒号）之前是否存在不可中断的空 格。此规则仅在法语或布列塔尼语等少数选定语言中使用，其中双标点符号前 的空格是排版规则。 参见 维基百科上的法语和英语间距（英文） [https://en.wikipedia.org/w 单语言译文模版语言文件 language/en-GB/com_foobar.ini 新翻译的翻译模版 空 文件格式 Joomla 语言文件 JSON 文件 在 4.3 版本发生变更: 即使对于在之前发布版本中中断的复杂情况，JSON 文件 的结构也适当保留。 JSON 格式主要用于翻译用 JavaScript 实现的应用程序。 Weblate 目前支持 JSON 翻译的几种变体： 简单的键/值文件，由例如

https://github.com/WeblateOrg/weblate/issues 实时聊天 关于 Weblate 的即时聊天可以在 Libera.Chat [https://libera.chat/] IRC网络上进 行。频道名称是 #weblate 。这可以通过例如 https://web.libera.chat/#weblate 或安装在你电脑上的IRC客户端来访问。 许可协议 版权所有 © Michal PunctuationSpacingCh eck punctuation_spacing ignore-punctuation-spacing 检查双标点符号（感叹号、问号、分号和冒号）之前是否存在不可中断的空 格。此规则仅在法语或布列塔尼语等少数选定语言中使用，其中双标点符号前 的空格是排版规则。 参见 维基百科上的法语和英语间距（英文） [https://en.wikipedia.org/w translate- toolkit [https://toolkit.translatehouse.org/]，也支持嵌套结构的 JSON 文件。 在 4.3 版本发生变更: 即使对于在之前发布版本中中断的复杂情况，JSON 文 件的结构也适当保留。 JSON 格式主要用于翻译用 JavaScript 实现的应用程序。 Weblate 目前支持 JSON 翻译的几种变体： 简单的键/值文件，由例如