全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 ……………………………… 15 目 录- 1 - 人工智能安全治理框架 人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。 落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为 推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工 智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本 框架。 1. 人工智能安全治理原则 秉持共同、综合 包容审慎、确保安全。鼓励发展创新，对人工智能研发及应用采取 包容态度。严守安全底线，对危害国家安全、社会公共利益、公众合法权益的 风险及时采取措施。 人工智能安全治理框架 （V1.0）- 2 - 人工智能安全治理框架 1.2 风险导向、敏捷治理。密切跟踪人工智能研发及应用趋势，从人工 智能技术自身、人工智能应用两方面分析梳理安全风险，提出针对性防范应对 措施。关注安全风险发展变化，

广大的个人用户和创意行业提供了强有力的工具，彻底改变 了数字艺术内容的创作方式。同时，它们也引发了人工智能 在创作领域的伦理和法律讨论。LLM 杀进多媒体领域。往 后 DALL-E 3 模型升级、Adobe 产品整合 LLM 能力、 语音模型 whisper-3 更新、AI 虚拟主播创造等，都是在 这条路上的进一步发展。 五、 AI 编程方面，Copilot 可以根据开发者的代码提示自动补 快速迭代发展，诸如 Dify.AI 的 LLMOps、Milvus 的向量 数据库、CodeGeeX 与 Comate 的 AI 编程、对 LLM Prompt 的研究、OneFlow 的深度学习框架。 值得一提的还有华为的盘古大模型，其中盘古气象大模型是 首个精度超过传统数值预报方法的 AI 模型，速度相比传统 数值预报提速 10000 倍以上，能够提供全球气象秒级预 报。盘古大模型的研究成果在国际顶级学术期刊《自然》正 场面”。 1 1 目录 一、开源开发者事件回顾 三、中国开发者开源新动向 二、2023 LLM 技术报告  46 | 向量数据库  47 | 数据库向量支持  48 | 大模型框架、微调  51 | 大模型训练平台与工具  53 | 编程语言  57 | 知名大模型  58 | 备案上线的中国大模型  21 | 硬核发版  26 | 热门话题  33

网易数帆 领先的数字化转型技术与服务提供商 网易数帆是网易集团旗下 TO B 企业服务品牌，定位于领先的数字化转型 技术与服务提供商，为客户提供创新、可靠的国产软件基础平台产品及相 应技术服务，业务覆盖云原生基础软件、数据智能全链路产品、人工智能 算法应用三大领域，旗下拥有轻舟、有数、易智三大产品线，致力于帮助 客户搭建无绑定、高兼容、自主可控的创新基础平台架构，快速应对新一 代信息技术下实现数字化转型的需求。 数帆愿景：成为客户首选的数字化转型技术与服务提供商 关于数帆 01 企业篇 数帆历程 关于数帆 数帆实力 荣誉资质 客户名录 客户口碑 业务全景 产品篇 网易有数 网易轻舟 网易易智 客户案例篇 解决方案篇 数据中台解决方案 业务中台解决方案 金融分布式解决方案 金融大数据解决方案 零售大数据解决方案 零售行业 金融行业 制造行业 综合行业 02 03 04 05 06 08 09 10 12 16 21 31 35 38 39 25 26 27 28 29 COMPANY 企业篇 COMPANY HISTORY 升级轻舟云原生软件生产力平台及有数全链路数据生产力平台；发布金融分布式、金融大数据、零售大数据、制造业智慧供应链等行业解决方案。 发布轻舟低代码平台 2.0 。 大数据开源项目 Kyuubi 全票进入

www.iresearch.com.cn 基础软件开源界限划分 操作系统、数据库、中间件、AI框架底层代码按规范进行共享与协作 本篇报告研究的基础软件开源范围，是指研究“开源”中“基础软件”板块的情况。开源过程中，参与者可以共享、协作完成开发， 正好与基础软件庞大的开发量需求相契合。这种契合性 对于这四类基础软件（操作系统、数据库、AI框架、中间件），其编写者将实现功能的代码按照一定的开源规范 开放，任何人可以查看、使用、贡献，同时，使用者也要遵循一定的开源规范。 基础软件开源范畴界定 国内基础软件开源界定 基础软件 具备能衍生出并支撑 多个技术簇的一类根 技术软件，拥有技术 门槛高、衍生场景复 杂等特点 中间件：不同系统和应用程序之间交互 与协作的桥梁 AI框架：具备构建和部署人工智能模型 AI框架：具备构建和部署人工智能模型 的基础的全套开发工具 操作系统：是软硬件资源的资源管理者， 为用户与应用程序提供交互接口 数据库：通过对数据的访问与管理，支 持各种应用程序和业务的需求 编程语言：人与计算机交互的“语言”， 含编译器、基础编程语言、IED等 社区协作：鼓励各方在开放平台上协作 贡献，推动开源内容的发展 创新改进：通过资源共享与协作共生， 提升开源内容质量，并产生新的内容 自由共享：开源内容可以免费被任何人

Google、MIT、Amazon等团队的使⽤和扩展，并获得过OpenAI
RL联创及负责⼈John
Schulman亲⾃邀请加盟。
iv. 基础设施⽅⾯。团队核⼼成员曾带领数⼗⼈从零开发世界领先的深度学习框架，也具备数千 卡集群全⾃动化硬件运维告警、数百亿特征检索、⼤规模（数⼗PB数据、百万台机器）分 布式系统数量级性能优化的经验。
c. ⽬前团队⼈数超过
80
⼈，每个⽉都有在全球某个领域有显著影响⼒的⼈加⼊。
帮⽤⼾完成任 务，⽽不是帮他们获取信息。
海外独⻆兽：从今天到实现你理想中的
AGI
还需要多少钱？
杨植麟：严格的
AGI
还需要百亿美元级别。但是它不是⼀步到位，你需要跑起来⼀个循环，业务能够 ⾃⼰产出对应的资源。这个百亿美元推论的原因是
scale
up
的规模还需要⾄少
2-3
个数量级。当然， 过程中会伴随着成本的优化。
海外独⻆兽：AGI
公司的商业模式应该是什么样的 现在很多⼤模型的开发者也⾯临这样的问题，你可能⽤了⾃⼰的专有数据，我也调了⼀个模型，但如 果你的基座模型升级了，你可能所有的这些微调都⽩费了。 所以，我们认为⻓⽂本是接下来会取代微调的⼀种定制化的⽅式。
你可以把所有的指令数据、训练数 据作为少量版本的prompt，作为模型的输⼊。当你的模型发⽣升级的时候，你并不需要再重新⽤你的 训练数据再微调⼀遍，⽽是仅仅需要把Prompt适配，完全不需要做任何的调整。这是⼀个⾮常强⼤的

步之时就在软件开发者群体中流传的“自由软件”理念，彼时这些开发者认 为软件不应该成为一种私有财产，而应该被公开成为公共资源，这样做的好处在于通过让海量的用户对软件进行使用和反 馈来帮助开发者进行产品升级——这是一种只有在软件这样的产品上才能够实现的发展模式；然而，自由软件理念与企业 商业化运营背道而驰。随着计算机产业的发展，软件作为一种产品的商业价值显著提升，在当时的微软、IBM等IT龙头企 业的 ”和“量”互相驱动和促进的良性循环。如果 没有成功的开源运营，软件开源就无法产生显著的商业化效果。 企业实施软件开源战略的商业模型 企业之内 企业之外 软件开源 用户增长 加速创新 产品升级 提供付费订阅版本 提供专业配套服务 引流产生广告收入 直接 商业化 渠道化 为互补产品宣传、导流 提升企业市场声量 产业级影响 促进协同产品出现和创新 构建开源产业基金会 e 务”的业务模式。如果我们以软件产业商务拓展的双漏斗模型来 衡量开源战略的商务价值，对比常规的闭源商业软件业务模式，开源软件在用户触达、加深产品了解、便捷化试用这三个 主要的“售前”环节具备显著的优势，而在初期的“售中”流程方面可能遇到一些困难——换言之，整体来看软件开源代 表着一种“广触达，少转化”的推广模式。从商业成功的角度上讲，促进转化的关键仍然是产品本身的创新性、竞争力以 及付费业务的价值量

……………… 20 3.8 Java 开发框架 ……………………………………………………………………………………… 21 3.9 PHP 开发框架 ……………………………………………………………………………………… 21 3.10 Ruby 开发框架 …………………………………………………………………………………… 22 3.11 Go 开发框架 ……………………………………………………………………………………… ……………………………… 22 3.12 Node.js 开发框架 ………………………………………………………………………………… 23 3.13 Python 开发框架 ………………………………………………………………………………… 23 3.14 前端开发框架 …………………………………………………………………………………… 24 3.15 数据库……………………………………………………………………………………………… …………………………………………… 25 3.16 版本控制工具 …………………………………………………………………………………… 26 3.17 AI 开发框架 ……………………………………………………………………………………… 26 3.18 云原生组件 / 工具 ………………………………………………………………………………… 27 4 开源社区参与现状 …………………………………………………………………………

way、 HTTPRoute和TLSRoute资源。 近日，Envoy Gateway v0.4发布，版本特性更新 如下： • 升级网关API依赖，升级至Gateway API v0.6.2； • 支持通过Helm完成Envoy Gateway安装； • 添加构建初始框架用于扩展Envoy Gateway； • 添加对基于IP子网的速率限制的支持； • 支持自定义Envoy代理引导配置、Envoy代理 v1.3.0发布，版本特性更新如下： • 重构Openyurt控制平面组件； • 允许用户为静态Pod定义Pod模板和升级模 型； • NodePort Service支持节点池隔离。 近日，Rainbond v5.14.0发布，版本特性更新 如下： • 各语言源码构建包版本升级； • 支持一键删除应用及应用下相关资源； • 使用集群命令行创建的pod有合理的回收机 制； • 域名配置https证书时，增加搜索功能或优 0发布 Prometheus v2.44.0发布 Rainbond是一款以应用为中心的开源PaaS，深 度整合Kubernetes的容器管理和Service Mesh 微服务架构最佳实践，满足支撑业务高速发展所 需的敏捷开发、高效运维和精益管理需求。 Prometheus是一个开源的系统监控和报警系统， 受启发于Google的Brogmon监控系统（相似的 Kubernetes是从Google的Brog系统演变而来），

并驾齐驱，某种程度反映了当下的技术热点趋势。开源的大数据 项目，Java (以及基于 JVM 的 Scala)是绝对主力，比如大家耳熟能详的 Hadoop, HBase, Spark 等，而开源的 AI 框架类项目，如：TensorFlow, PyTorch, MindSpore 等，则主要 由 Python 语言所构成。未来，这两大语言还将持续在各自擅长的领域发光发热。 Du Junping: Python Python's advantages over Java should continue to expand. 3.8 Java 开发框架 / 3.8 Java Development Framework Java 开发框架的使用中，Spring 以绝对优势遥遥领先。 Spring is far and away from the leader in using Java time being 3.9 PHP 开发框架 / 3.9 PHP Development Framework PHP 开发框架以 Thinkphp 的使用居多。 PHP development frameworks are predominantly used with Thinkphp. 3.10 Ruby 开发框架 / 3.10 Ruby Development Framework

业发展、引领产业升级、保障产业安全的支撑作用，更好推 进人工智能赋能新型工业化，特制定本指南。 一、产业发展现状 人工智能是引领新一轮科技革命和产业变革的基础性 和战略性技术，正成为发展新质生产力的重要引擎，加速和 实体经济深度融合，全面赋能新型工业化，深刻改变工业生 产模式和经济发展形态，将对加快建设制造强国、网络强国 和数字中国发挥重要的支撑作用。人工智能产业链包括基础 层、框架层、模型层、应用层等 层、框架层、模型层、应用层等 4 个部分。其中，基础层主 要包括算力、算法和数据，框架层主要是指用于模型开发的 深度学习框架和工具，模型层主要是指大模型等技术和产 品，应用层主要是指人工智能技术在行业场景的应用。近年 来，我国人工智能产业在技术创新、产品创造和行业应用等 方面实现快速发展，形成庞大市场规模。伴随以大模型为代 2 表的新技术加速迭代，人工智能产业呈现出创新技术群体突 破、行业应用融合发展、国际合作深度协同等新特点，亟需 （一）人工智能标准体系结构 人工智能标准体系结构包括基础共性、基础支撑、关键 技术、智能产品与服务、赋能新型工业化、行业应用、安全 /治理等 7 个部分，如图 1 所示。其中，基础共性标准是人 工智能的基础性、框架性、总体性标准。基础支撑标准主要 规范数据、算力、算法等技术要求，为人工智能产业发展夯 实技术底座。关键技术标准主要规范人工智能文本、语音、 图像，以及人机混合增强智能、智能体、跨媒体智能、具身