Insight 2024 中国开源开发者报告重点聚焦大模型，本章节以大模 型 LLM 开发技术栈作为切入点，将深入探讨以下中国 AI 大模型领域的代表性开源项目社区。 这些开源项目社区覆盖了深度学习框架、向量数据库、AI辅 助编程、LLM 应用开发框架、模型微调、推理优化、LLM Agent，以及检索增强生成（RAG）等多个关键技术栈。 为了更全面客观地展示中国大模型 LLM 开发技术栈的开源 社区生态，我们使用了 16 / 111 OSS Compass Insight 生产力-协作开发指数 本部分图表仅用于数据展示，不涉及先后排名 作为国内及业内领先的 AI 开发基础设施，本部分图表 中的开发框架、向量数据库、 开发平台、大模型均表现出 色，代表着它们的代码提交 频率、参与者、代码合并比 率等协作开发工作保持着较 高的水平。 17 / 111 OSS Compass Insight 本部分图表仅用于数据展示，不涉及先后排名 (EMQ) 市场&开发者 社区总监一职。 2004 年，顾钧从北京大学计算机系本科毕业，其后在工商银行、IBM、 摩根士丹利、华为和 Zilliz 等多家知名企业工作。 曾联合发起全球首个开源向量数据库项目 Milvus，并帮助 Milvus 社区 在两年间迅速拓展到两千家企业用户。 29 / 111 大模型撞上“算力墙”，超级应用的探寻之路 文/傅聪 近日，大模型教父 Sam Altman

生成、文本摘要、翻译等任务中展现了强大的通用性。 本报告从技术人视角出发，将深入探讨 LLM 技术的背景、 基础设施、应用现状，以及相关的工具和平台。 2 / 32 LLM Tech Map  向量数据库  数据库向量支持  大模型框架、微调 (Fine Tuning)  大模型训练平台与工具 基础设施 LLM Agent  备案上线的中国大模型  知名大模型  知名大模型应用 大模型 04 向量数据库/数据库向量支持 为大模型提供高效的存储和检索能力 大模型框架及微调 (Fine Tuning) 大模型框架提供基本能力和普适性，而微调 则是实现特定应用和优化性能的关键环节 大模型训练平台&工具 提供了在不同硬件和环境中训练大语言模型 所需的基础设施和支持 编程语言 以 Python 为代表 5 / 32 LLM 基础设施：向量数据库/数据库向量支持 向量数据库是专门用于存储和检索向量数据的数据库，它可以为 LLM 提供高效的存储和检索能力。通过数据向量化，实现了 在向量数据库中进行高效的相似性计算和查询。 根据向量数据库的的实现方式,可以将向量数据库大致分为两类： 原生的向量数据库专门为存储和检索向量而设计， 所管理的数据是基于对象或数据点的向量表示进行 组织和索引。 包括 等均属于原生向量数据库。 除了选择专业的向量数据库，对传统数据库添加

大模型、上海人工智能实验室的书生通用大模型、腾 讯的混元大模型、蚂蚁的百灵大模型等。 另一方面，除了大模型本身，中国在 LLM 相关技术领域也 快速迭代发展，诸如 Dify.AI 的 LLMOps、Milvus 的向量 数据库、CodeGeeX 与 Comate 的 AI 编程、对 LLM Prompt 的研究、OneFlow 的深度学习框架。 值得一提的还有华为的盘古大模型，其中盘古气象大模型是 首个精度超过传统数值预报方法的 【生产事故】冥场面！速来围观 2023 十大生产事故“名 场面”。 1 1 目录 一、开源开发者事件回顾 三、中国开发者开源新动向 二、2023 LLM 技术报告  46 | 向量数据库  47 | 数据库向量支持  48 | 大模型框架、微调  51 | 大模型训练平台与工具  53 | 编程语言  57 | 知名大模型  58 | 备案上线的中国大模型  21 | 生成、文本摘要、翻译等任务中展现了强大的通用性。 本报告从技术人视角出发，将深入探讨 LLM 技术的背景、 基础设施、应用现状，以及相关的工具和平台。 42 / 87 LLM Tech Map  向量数据库  数据库向量支持  大模型框架、微调 (Fine Tuning)  大模型训练平台与工具 基础设施 LLM Agent  备案上线的中国大模型  知名大模型  知名大模型应用 大模型

加了更多Python API扩展。 2.62 -- 2012年2⽉: 添加 Carve library 以改进布尔操作，增加了对物体追踪的⽀持，新增重构 ⽹格修改器，游戏引擎⼤量改进，Python API中的矩阵和向量改进，新的插 件，以及⼤量bug修复。 2.63 -- 2012年4⽉: 合并Bmesh到主⼲，开启n边多边形的全⾯⽀持，雕刻隐藏，为Cycles准备 的全景相机，镜⼦球环境纹理和浮点数精度纹理，渲染层遮罩层、环境光 当悬浮（当⿏标放在⼀个输⼊框上时）。 属性 Ctrl-C -- 复制输⼊框⾥的值（单个）。 Ctrl-V -- 粘贴值进输⼊框（单个）。 Ctrl-Alt-C -- 复制输⼊框⾥整个向量值或⾊彩值。 Ctrl-Alt-V -- 粘贴整个向量值或⾊彩值进输⼊框⾥。 RMB -- 打开上下⽂菜单。 Backspace -- 清除值（归零或清楚内容） Minus -- 否定数值（乘以-1.0）。 Ctrl-Wheel 插⼜的输⼊，数值映射的所有 点都被设置为相同的值。 整数（⽯灰绿⾊） ⽤于传递整数值（⽆⼩数的数字）。 布尔值（粉⾊） ⽤于传递⼀个正确或错误的值。 字符串（浅蓝⾊） ⽤于传递⽂本值。 ⽮量（深蓝⾊） 表⽰向量、坐标和法线信息。 颜⾊（黄⾊） 说明接⼜ 接收/⽣成 颜⾊信息。依照节点树的类型，颜⾊不⼀定有alpha属 性。 着⾊器（鲜绿⾊） ⽤于 Cycles 和 Eevee 的着⾊节点。 ⼏何信息（绿松⽯）

加了更多Python API扩展。 2.62 -- 2012年2⽉: 添加 Carve library 以改进布尔操作，增加了对物体追踪的⽀持，新增重构 ⽹格修改器，游戏引擎⼤量改进，Python API中的矩阵和向量改进，新的插 件，以及⼤量bug修复。 2.63 -- 2012年4⽉: 合并Bmesh到主⼲，开启n边多边形的全⾯⽀持，雕刻隐藏，为Cycles准备 的全景相机，镜⼦球环境纹理和浮点数精度纹理，渲染层遮罩层、环境光 当悬浮（当⿏标放在⼀个输⼊框上时）。 属性 Ctrl-C -- 复制输⼊框⾥的值（单个）。 Ctrl-V -- 粘贴值进输⼊框（单个）。 Ctrl-Alt-C -- 复制输⼊框⾥整个向量值或⾊彩值。 Ctrl-Alt-V -- 粘贴整个向量值或⾊彩值进输⼊框⾥。 RMB -- 打开上下⽂菜单。 Backspace -- 清除值（归零或清楚内容） Minus -- 否定数值（乘以-1.0）。 Ctrl-Wheel 个像素的亮度代表它的值）。如果⼀个单⼀的值被⽤作 "数值映射" 插⼜的 输⼊，数值映射的所有点都被设置为相同的值。 整数（⽯灰绿⾊） ⽤于传递整数值（⽆⼩数的数字）。 字符串（浅蓝⾊） ⽤于传递⽂本值。 ⽮量（深蓝⾊） 表⽰向量、坐标和法线信息。 数据块 集合（⽩⾊） ⽤于传递⼀个集合数据块。 物体（橙⾊） ⽤于传递⼀个物体数据块。 Material (salmon) Used to pass a material

加了更多Python API扩展。 2.62 -- 2012年2⽉: 添加 Carve library 以改进布尔操作，增加了对物体追踪的⽀持，新增重构 ⽹格修改器，游戏引擎⼤量改进，Python API中的矩阵和向量改进，新的插 件，以及⼤量bug修复。 2.63 -- 2012年4⽉: 合并Bmesh到主⼲，开启n边多边形的全⾯⽀持，雕刻隐藏，为Cycles准备 的全景相机，镜⼦球环境纹理和浮点数精度纹理，渲染层遮罩层、环境光 当悬停时（当⿏标放在⼀个输⼊框上）。 属性 Ctrl-C -- 复制输⼊框⾥的值（单个）。 Ctrl-V -- 粘贴值进输⼊框（单个）。 Ctrl-Alt-C -- 复制输⼊框⾥整个向量值或⾊彩值。 Ctrl-Alt-V -- 粘贴整个向量值或⾊彩值进输⼊框⾥。 RMB -- 打开上下⽂菜单。 Backspace -- 清除值（归零或清楚内容） Minus -- 否定数值（乘以-1.0）。 Ctrl-Wheel 个像素的亮度代表它的值）。如果⼀个单⼀的值被⽤作 "数值映射" 插⼜的 输⼊，数值映射的所有点都被设置为相同的值。 整数（⽯灰绿⾊） ⽤于传递整数值（⽆⼩数的数字）。 字符串（浅蓝⾊） ⽤于传递⽂本值。 ⽮量（深蓝⾊） 表⽰向量、坐标和法线信息。 数据块 集合（⽩⾊） ⽤于传递⼀个集合数据块。 物体（橙⾊） ⽤于传递⼀个物体数据块。 材质（⾁⾊） ⽤于传递⼀个材质数据块。 纹理（粉⾊） ⽤于传递⼀个纹理数据块。

添加了更多Python API扩展。 2.62 -- 2012年2⽉: 添加 Carve library 以改进布尔操作，增加了对物体追踪的⽀持，新增重构 ⽹格修改器，游戏引擎⼤量改进，Python API中的矩阵和向量改进，新的 插件，以及⼤量bug修复。 2.63 -- 2012年4⽉: 合并Bmesh到主⼲，开启n边多边形的全⾯⽀持，雕刻隐藏，为Cycles准备 的全景相机，镜⼦球环境纹理和浮点数精度纹理，渲染层遮罩层、环境光 当悬停时（当⿏标放在⼀个输⼊框上）。 属性 Ctrl-C -- 复制输⼊框⾥的值（单个）。 Ctrl-V -- 粘贴值进输⼊框（单个）。 Ctrl-Alt-C -- 复制输⼊框⾥整个向量值或⾊彩值。 Ctrl-Alt-V -- 粘贴整个向量值或⾊彩值进输⼊框⾥。 RMB -- 打开上下⽂菜单。 Backspace -- 清除值（归零或清楚内容） Minus -- 否定数值（乘以-1.0）。 Ctrl-Wheel 亮度代表它的值）。如果⼀个单⼀的值被⽤作 "数值映射" 插⼜的输⼊，数值映 射的所有点都被设置为相同的值。 整数（⽯灰绿⾊） ⽤于传递整数值（⽆⼩数的数字）。 字符串（浅蓝⾊） ⽤于传递⽂本值。 ⽮量（深蓝⾊） 表⽰向量、坐标和法线信息。 数据块 集合（⽩⾊） ⽤于传递⼀个集合数据块。 物体（橙⾊） ⽤于传递⼀个物体数据块。 材质（⾁⾊） ⽤于传递⼀个材质数据块。 纹理（粉⾊） ⽤于传递⼀个纹理数据块。

加了更多Python API扩展。 2.62 -- 2012年2⽉: 添加 Carve library 以改进布尔操作，增加了对物体追踪的⽀持，新增重构 ⽹格修改器，游戏引擎⼤量改进，Python API中的矩阵和向量改进，新的插 件，以及⼤量bug修复。 2.63 -- 2012年4⽉: 合并Bmesh到主⼲，开启n边多边形的全⾯⽀持，雕刻隐藏，为Cycles准备 的全景相机，镜⼦球环境纹理和浮点数精度纹理，渲染层遮罩层、环境光 当悬浮(当⿏标放在⼀个输⼊框上时)。 属性 Ctrl-C -- 复制输⼊框⾥的值(单个)。 Ctrl-V -- 粘贴值进输⼊框(单个)。 Ctrl-Alt-C -- 复制输⼊框⾥整个向量值或⾊彩值。 Ctrl-Alt-V -- 粘贴整个向量值或⾊彩值进输⼊框⾥。 RMB -- 打开上下⽂菜单。 Backspace -- 清除值(归零或清楚内容) Minus -- 否定数值(乘以-1.0)。 Ctrl-Wheel ⽤：Alpha映射和值的节点选项。 整数(⽯灰绿⾊) ⽤于传递整数值（⽆⼩数的数字）。 布尔(粉⾊) ⽤于传递⼀个正确或错误的值。 字符串(浅蓝⾊) ⽤于传递⽂本值。 ⽮量(深蓝⾊) 表⽰向量、坐标和法线信息。 颜⾊(黄⾊) 表⽰需要输⼊或从节点输出颜⾊信息，这可能包含或不包含Alpha通道，取 决于节点树的类型。 着⾊器(鲜绿⾊) ⽤于 Cycles 和 Eevee 的着⾊节点。

加了更多Python API扩展。 2.62 -- 2012年2⽉: 添加 Carve library 以改进布尔操作，增加了对物体追踪的⽀持，新增重构 ⽹格修改器，游戏引擎⼤量改进，Python API中的矩阵和向量改进，新的插 件，以及⼤量bug修复。 2.63 -- 2012年4⽉: 合并Bmesh到主⼲，开启n边多边形的全⾯⽀持，雕刻隐藏，为Cycles准备 的全景相机，镜⼦球环境纹理和浮点数精度纹理，渲染层遮罩层、环境光 当悬停时（当⿏标放在⼀个输⼊框上）。 属性 Ctrl-C -- 复制输⼊框⾥的值（单个）。 Ctrl-V -- 粘贴值进输⼊框（单个）。 Ctrl-Alt-C -- 复制输⼊框⾥整个向量值或⾊彩值。 Ctrl-Alt-V -- 粘贴整个向量值或⾊彩值进输⼊框⾥。 RMB -- 打开上下⽂菜单。 Backspace -- 清除值（归零或清楚内容） Minus -- 否定数值（乘以-1.0）。 Ctrl-Wheel 插⼜的输⼊，数值映射的所有 点都被设置为相同的值。 整数（⽯灰绿⾊） ⽤于传递整数值（⽆⼩数的数字）。 布尔值（粉⾊） ⽤于传递⼀个正确或错误的值。 字符串（浅蓝⾊） ⽤于传递⽂本值。 ⽮量（深蓝⾊） 表⽰向量、坐标和法线信息。 颜⾊（黄⾊） 说明接⼜ 接收/⽣成 颜⾊信息。依照节点树的类型，颜⾊不⼀定有alpha属 性。 着⾊器（鲜绿⾊） Used for shaders in Cycles and

加了更多Python API扩展。 2.62 -- 2012年2⽉: 添加 Carve library 以改进布尔操作，增加了对物体追踪的⽀持，新增重构 ⽹格修改器，游戏引擎⼤量改进，Python API中的矩阵和向量改进，新的插 件，以及⼤量bug修复。 2.63 -- 2012年4⽉: 合并Bmesh到主⼲，开启n边多边形的全⾯⽀持，雕刻隐藏，为Cycles准备 的全景相机，镜⼦球环境纹理和浮点数精度纹理，渲染层遮罩层、环境光 当悬浮（当⿏标放在⼀个输⼊框上时）。 属性 Ctrl-C -- 复制输⼊框⾥的值（单个）。 Ctrl-V -- 粘贴值进输⼊框（单个）。 Ctrl-Alt-C -- 复制输⼊框⾥整个向量值或⾊彩值。 Ctrl-Alt-V -- 粘贴整个向量值或⾊彩值进输⼊框⾥。 RMB -- 打开上下⽂菜单。 Backspace -- 清除值（归零或清楚内容） Minus -- 否定数值（乘以-1.0）。 Ctrl-Wheel options for a node. 整数（⽯灰绿⾊） ⽤于传递整数值（⽆⼩数的数字）。 布尔值（粉⾊） ⽤于传递⼀个正确或错误的值。 字符串（浅蓝⾊） ⽤于传递⽂本值。 ⽮量（深蓝⾊） 表⽰向量、坐标和法线信息。 颜⾊（黄⾊） Indicates that color information needs to be input or will be output from the node