全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 ………………………… 7 4.2 针对人工智能应用安全风险 ………………………… 9 5. 综合治理措施 ……………………………………………… 10 6. 人工智能安全开发应用指引 ……………………………… 12 6.1 模型算法研发者安全开发指引 ……………………… 12 6.2 人工智能服务提供者安全指引 ……………………… 13 6.3 重点领域使用者安全应用指引 ……………………… 14 6 6.4 社会公众安全应用指引 ……………………………… 15 目 录- 1 - 人工智能安全治理框架 人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。 落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为 推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工 智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本 框架。

Part 2： TOP101-2024 大 模 型 观 点 编委会 21 | 2024 年中国开源模型：崛起与变革 26 | 开源模型未必更先进，但会更长久 30 | 大模型撞上“算力墙”，超级应用的探寻之路 36 | AI 的三岔路口：专业模型和个人模型 40 | 2024 年 AI 编程技术与工具发展综述 45 | RAG 的 2024：随需而变，从狂热到理性 51 | 大模型训练中的开源数据和算法：机遇及挑战 大模型训练中的开源数据和算法：机遇及挑战 57 | 2024 年 AI 编程工具的进化 62 | AI 开发者中间件工具生态 2024 年总结 66 | AI Agent 逐渐成为 AI 应用的核心架构 68 | 谈开源大模型的技术主权问题 72 | 2024:大模型背景下知识图谱的理性回归 77 | 人工智能与处理器芯片架构 89 | 大模型生成代码的安全与质量 93 | 2024 年 AI Part 1：中国开源开发者生态数据 04 | Gitee 数据篇 Part 3：国内 GenAI 生态高亮瞬间 104 | 中国 GenAI 消费应用人气榜 Top10 15 | OSS Compass Insight 106 | AI 创新应用开发大赛获奖作品 局长，OSCHINA 副主编 肖滢，OSCHINA 副主编 李泽辰，Gitee 主编 高瞻，Gitee AI 运营 设计：张琪

• DeepSeek-R1是其开源的推理模型，擅长处理复杂任务且可免费商用。 Deepseek可以做什么？ 直接面向用户或者支持开发者，提供智能对话、文本生成、语义理解、计算推理、代码生成补全等应用场景， 支持联网搜索与深度思考模式，同时支持文件上传，能够扫描读取各类文件及图片中的文字内容。 文本生成 表格、列表生成（如日程安排、菜谱） 代码注释、文档撰写 结构化生成 文章/故事/诗歌写作 ①自建区域仓库（初期投入高，长期成本低） ②与第三方合作（按需付费，灵活性高） 请根据ROI计算模型，对比5年内的总成本并推荐最优 解。" �实战技巧： "以下是某论文结论：'神经网络模型A优于传统方法B'。 请验证： ① 实验数据是否支持该结论； ② 检查对照组设置是否存在偏差； ③ 重新计算p值并判断显著性。" �实战技巧： 分析需求 "分析 保持时间复杂度不变； ② 使用numpy优化数组操作； ③ 输出带时间测试案例的完整代码。" 创造性需求 "设计一款智能家居产品，要求： ① 解决独居老人安全问题； ② 结合传感器网络和AI预警； ③ 提供三种不同技术路线的原型草图说明。" �实战技巧： 还要不要学提示语？ 提示语（Prompt）是用户输入给AI系统的指令或信息，用于 引导AI生成特定的输出或执行特定的任务。简单来说，提示语

• DeepSeek-R1是其开源的推理模型，擅长处理复杂任务且可免费商用。 Deepseek可以做什么？ 直接面向用户或者支持开发者，提供智能对话、文本生成、语义理解、计算推理、代码生成补全等应用场景， 支持联网搜索与深度思考模式，同时支持文件上传，能够扫描读取各类文件及图片中的文字内容。 文本生成 表格、列表生成（如日程安排、菜谱） 代码注释、文档撰写 结构化生成 文章/故事/诗歌写作 ①自建区域仓库（初期投入高，长期成本低） ②与第三方合作（按需付费，灵活性高） 请根据ROI计算模型，对比5年内的总成本并推荐最优 解。" �实战技巧： "以下是某论文结论：'神经网络模型A优于传统方法B'。 请验证： ① 实验数据是否支持该结论； ② 检查对照组设置是否存在偏差； ③ 重新计算p值并判断显著性。" �实战技巧： 分析需求 "分析 保持时间复杂度不变； ② 使用numpy优化数组操作； ③ 输出带时间测试案例的完整代码。" 创造性需求 "设计一款智能家居产品，要求： ① 解决独居老人安全问题； ② 结合传感器网络和AI预警； ③ 提供三种不同技术路线的原型草图说明。" �实战技巧： 还要不要学提示语？ 提示语（Prompt）是用户输入给AI系统的指令或信息，用于 引导AI生成特定的输出或执行特定的任务。简单来说，提示语

Table of Contents KiCad PCB 编辑器简介 初始配置 PCB 编辑器的用户界面 导航编辑画布 快捷键 显示和选择控件 板层 外观面板 选择和选择筛选器 网络高亮 从原理图交叉探测 左侧工具栏显示控件 创建 PCB PCB 的基本概念 性能 从原理图开始 从头开始 电路板设置 编辑电路板 放置和绘制操作 捕捉 编辑对象属性 使用封装 使用焊盘 使用区域 图形对象 标注 布线 向前和向后批注 锁定 批量编辑工具 清理工具 正在导入图形 检查电路板 测量工具 设计规则检查 查找工具 搜索面板 3D 查看器 网络检查 生成输出 2 2 3 3 4 5 5 5 6 7 7 8 9 9 9 9 10 10 18 18 19 19 20 23 26 28 32 TODO：写下这一节。 外观面板 外观面板提供了管理 PCB 编辑器绘图画布中的对象的可见性、颜色和不透明度的控制。 它有三个标签：层标签包含 电路板层的控制，对象标签包含不同类型图形对象的控制，网络标签包含飞线和铜项目的外观控制。 图层控件 在外观面板的图层选项卡中，每个电路板图层都显示了其颜色和可见性状态。 活动图层在色块的左边有一个箭头指 示器。 左键点击一个图层来选择它作为活动图层。

的台阶，为 LLM 的广泛应用奠定了基础。再之后的 11 月份，OpenAI 再发力，GPTs 的到来，“用户自定义 ChatGPT”的能力，更是让世人领略了 OpenAI 作为 LLM 一哥的宏大叙事能力与强劲技术实力。 二、 New Bing（Bing AI）代表了微软在 LLM 领域的野心和 决心，它首次把当时世人能想到最有价值又可行的 LLM 应用场景——“智能对话+联网搜索”——无缝整合了起来， 全代码，大大提高了开发效率。这也引发了代码原创性的讨 论，但它已经实实在在将 LLM 拉进了编程应用领域。 六、 LangChain 的出现，实现了 LLM 之间的链式交互，使多 个 LLM 模型串联工作，发挥各自的优势，并且可以将 LLM 模型与外部数据源进行连接，产生更强大的语言理解 和生成效果。这开启了 LLM 集成应用的新方向，并诞生了 一个新的细分领域“LLMOps”。 七、 “提示词工程”，这是 LLM 从传 统的模型训练和应用模式，转向以 Agent 为中心的智能 化模式。LLM Agent 打破了传统 LLM 的被动性，使 LLM 能够主动学习和执行任务，从而提高了 LLM 的应用 范围和价值；它为 LLM 的智能化发展提供了新的方向， 使 LLM 能够更加接近于人类智能。 九、 AI 原生，目前还没有明确的定义，大致是说，不同于当前 各种应用在原本的基础上增加 AI 能力，使其智能化，但

. . . Table of Contents Pcbnew 简介 初始配置 Pcbnew 用户界面 导航编辑画布 快捷键 显示和选择控件 板层 外观面板 选择和选择筛选器 网络高亮 从原理图交叉探测 左侧工具栏显示控件 创建 PCB 基本 PCB 概念 性能 从原理图开始 从头开始 电路板设置 编辑电路板 放置和绘制操作 捕捉 编辑对象属性 使用封装 使用焊盘 使用区域 图形对象 标注 布线 向前和向后批注 锁定 批量编辑工具 清理工具 正在导入图形 检查电路板 测量工具 设计规则检查 Find tool 3D 查看器 网络检查 生成输出 2 2 3 3 4 5 5 5 6 7 7 7 9 9 9 9 11 11 18 18 19 19 19 20 23 26 27 TODO：写下这一节。 外观面板 外观面板提供用于管理 Pcbnew 绘图画布中对象的可见性、颜色和不透明度的控件。它有三个选项卡：图层选项卡包 含电路板层的控件，对象选项卡包含不同类型图形对象的控件，网络选项卡包含飞线和铜项外观的控件。 图层控件 在外观面板的图层选项卡中，每个电路板图层都显示了其颜色和可见性状态。 活动图层在色块的左边有一个箭头指 示器。 左键点击一个图层来选择它作为活动图层。

具备能衍生出并支撑 多个技术簇的一类根 技术软件，拥有技术 门槛高、衍生场景复 杂等特点 中间件：不同系统和应用程序之间交互 与协作的桥梁 AI框架：具备构建和部署人工智能模型 的基础的全套开发工具 操作系统：是软硬件资源的资源管理者， 为用户与应用程序提供交互接口 数据库：通过对数据的访问与管理，支 持各种应用程序和业务的需求 编程语言：人与计算机交互的“语言”， 含编译器、基础编程语言、IED等 社区协作：鼓励各方在开放平台上协作 自由共享：开源内容可以免费被任何人 查看、学习、使用 透明与可审查：开源的源代码可以被任 何人审查验证、保持质量 开源精神 通过传递一种对于知 识分享、知识透明和 平等合作的价值观， 凝聚群众力量，促进 开源内容传播应用与 迭代升级，达到社会 集体效应最大化 5 ©2023.11 iResearch Inc. Apache许可证 百分比（%） 来源：Gitee《2022中国开源开发者报告》，结合专家访谈、公开资料，由艾瑞咨询研究院自主研究及绘制。 开发者对常见开源许可证了解情况 开源开发者对于许可证种类与应用的了解不全 17%的开源开发者对于所有开源许可证不了解但直接使用 开发者对于许可证的种类认知并不全面，了解程度最高的 Apache许可证占比仅有60%，对于常见开源许可证都了解且 自觉遵守的开发者占比只有11%。

Table of Contents KiCad PCB 编辑器简介 初始配置 PCB 编辑器的用户界面 浏览编辑画布 快捷键 显示和选择控件 板层 外观面板 选择和选择筛选器 网络高亮 从原理图交叉探测 左侧工具栏显示控件 创建 PCB PCB 的基本概念 性能 从原理图开始 从头开始 电路板设置 编辑电路板 放置和绘制操作 Grids and snapping . . . . . . . . . . . . . . . . . . . . . . . 测量工具 设计规则检查 Board Statistics 查找工具 搜索面板 3D 查看器 网络检查 生成输出 制造输出和绘图 钻孔文件 IPC-2581 files 元件拾放文件 其它制造输出 打印 导出文件 封装和封装库 管理封装库 创建和编辑封装 Browsing active layer. 外观面板 外观面板提供了管理 PCB 编辑器绘图画布中的对象的可见性、颜色和不透明度的控制。 它有三个标签：层标签包含 电路板层的控制，对象标签包含不同类型图形对象的控制，网络标签包含飞线和铜对象的外观控制。 图层控件 在外观面板的 “层” 选项卡中，每个电路板层都显示了其颜色和可见性状态。 活动层在色块的左边有一个箭头指示 器。 左键点击一个图层来选择它作为活动图层。

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68 10 创建网络列表 69 10.1 概述 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131 15.3.4.3 使用命令行生成网络列表文件 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131 15.3.4.4 命令行格式：xsltproc 的示例 • Linux • Apple OS X • Windows 无论操作系统如何，所有 Eeschema 文件都可以从一个操作系统 100％兼容到另一个操作系统。 Eeschema 是一个集成的应用程序，其中绘图，控制，布局，库管理和访问 PCB 设计软件的所有功能都在 Eeschema 本身内执行。 Eeschema 打算与 PcbNew 合作，后者是 KiCad 的印刷电路设计软件。它还可以导出网表文件，其中列出了其他软件