Insight 2024 中国开源开发者报告重点聚焦大模型，本章节以大模 型 LLM 开发技术栈作为切入点，将深入探讨以下中国 AI 大模型领域的代表性开源项目社区。 这些开源项目社区覆盖了深度学习框架、向量数据库、AI辅 助编程、LLM 应用开发框架、模型微调、推理优化、LLM Agent，以及检索增强生成（RAG）等多个关键技术栈。 为了更全面客观地展示中国大模型 LLM 开发技术栈的开源 社区生态，我们使用了 16 / 111 OSS Compass Insight 生产力-协作开发指数 本部分图表仅用于数据展示，不涉及先后排名 作为国内及业内领先的 AI 开发基础设施，本部分图表 中的开发框架、向量数据库、 开发平台、大模型均表现出 色，代表着它们的代码提交 频率、参与者、代码合并比 率等协作开发工作保持着较 高的水平。 17 / 111 OSS Compass Insight 本部分图表仅用于数据展示，不涉及先后排名 (EMQ) 市场&开发者 社区总监一职。 2004 年，顾钧从北京大学计算机系本科毕业，其后在工商银行、IBM、 摩根士丹利、华为和 Zilliz 等多家知名企业工作。 曾联合发起全球首个开源向量数据库项目 Milvus，并帮助 Milvus 社区 在两年间迅速拓展到两千家企业用户。 29 / 111 大模型撞上“算力墙”，超级应用的探寻之路 文/傅聪 近日，大模型教父 Sam Altman

· · · · · · · · · 353 4.8 向量搜索 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 358 4.8.1 向量搜索概述· · · · · · · · · · · · · · · · · · · · · · · · 368 4.8.4 优化向量搜索性能 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 406 4.8.5 向量搜索限制· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 3655 14.12.6 向量搜索索引· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · ·

· · · · · · · · · 357 4.8 向量搜索 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 362 4.8.1 向量搜索概述· · · · · · · · · · · · · · · · · · · · · · · · 372 4.8.4 优化向量搜索性能 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 410 4.8.5 向量搜索限制· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 3674 14.12.6 向量搜索索引· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · ·

方法的 存取權。 – Write and compare let s3 = s1.deref(); and let s3 = &*s1;. • String 是以包裝函式的形式在位元組向量的四周實作，許多在向量上支援的作業也適用於 String，但需要某些額外保證。 • 請比較各種為 String 建立索引的方法： – 使用 s3.chars().nth(i).unwrap() 變為字元，其中 也能做為泛型型別，但您不必明確指定 T。和往常的 Rust 型別推論一樣，系統會在 第一次 push 呼叫期間建立 T。 • vec![...] 是用於取代 Vec::new() 的標準巨集，且支援在向量中加入初始元素。 • 如要為向量建立索引，請使用 [ ]，但如果超出範圍會引發恐慌。或者，使用 get 則可傳回 Option。 pop 函式會移除最後一個元素。 • 我們會在第 3 天談到切片。現階段，學生只需知道 Vec in the example above. • 可透過 dyn Pet 這個方法向編譯器告知實作 Pet 的動態大小型別。 • 在本例中，pets 和向量資料分別在堆疊和堆積上分配。這兩個向量元素都是「虛指標」： – A fat pointer is a double-width pointer. It has two components: a pointer to

建立了测量AI触及知识循环边界的方式。 AI的内容生成有一定的边界效应 研究将智能体知识循环边界操作化为生成内容的差异值，衡量标准为生成文本的平均相似度与重复率的加权值。 相似度计算 采用余弦相似度算法，将文本转化为词频向量，计算向量点积 与模长乘积的比值，评估文本间的相似性，取值范围为[-1, 1]， 值越接近1表示相似性越高。该方法广泛应用于信息检索和自 然语言处理领域，可有效评估文本内容的相似程度。 重复率计算 使用

架构的硬件平台部署 TiFlash 时，CPU 必须支持 ARMv8 架构。确保命令 grep 'crc32' /proc/cpuinfo | grep 'asimd' 有输出。通过使用向量扩展指令集，TiFlash 的向量化引擎能提供更好的性能。 5.1.3.2 生产环境 组件 CPU 内存 硬盘类型 网络 实例数量 (最低要求) TiDB 16 核 + 48 GB+ SSD 万兆网卡（2 块最佳） 架构的硬件平台部署 TiFlash 时，CPU 必须支持 ARMv8 架构。确保命令 grep 'crc32' �→ /proc/cpuinfo | grep 'asimd' 有输出。通过使用向量扩展指令集，TiFlash 的向量化引擎能提供更好的性 能。 2558 TiFlash 可以兼容 TiDB 与 TiSpark，用户可以选择使用不同的计算引擎。 TiFlash 推荐使用和 TiKV 不同的节点以做到 版本开始引入 • 作用域：SESSION | GLOBAL • 是否持久化到集群：是 • 是否受 Hint SET_VAR 控制：是 • 类型：布尔型 • 默认值：ON • 这个变量用于控制是否开启向量化执行。 14.5.1.205 tidb_enable_window_function • 作用域：SESSION | GLOBAL • 是否持久化到集群：是 • 是否受 Hint SET_VAR

中，创建自定义类型需要用到结构体和枚举。 第七章介绍 Rust 的模块（module）系统，其中的私有性规则用来组织代码和公开的 API（应 用程序接口）。第八章讨论标准库提供的常见集合数据结构，例如 Vector（向量）、字符串和 Hash Map（散列表）。第九章探索 Rust 的错误处理的理念与技术。 第十章深入介绍泛型（generic）、Trait 和生命周期（lifetime），这些功能让你能够定义适用 随着 程序的运行增长或缩小。每种集合都有着不同功能和开销，而根据当前情况选择合适的集合， 这是一项需要逐渐掌握的技能。在这一章里，我们将详细的了解三个在 Rust 程序中被广泛使 用的集合： • 向量（vector）允许我们一个挨着一个地储存一系列数量可变的值。 • 字符串（string）是字符的集合。我们之前见过 String 类型，不过在本章我们将深入了解。 • 哈希 map（hash ma run with `RUST_BACKTRACE=1` environment variable to display a backtrace 错误指向 main.rs 的第 4 行，这里我们试图访问向量 v 中的索引 99。 note: 告诉我们可以设置 RUST_BACKTRACE 环境变量来得到一个 backtrace。backtrace 是一个 执行到目前位置所有被调用的函数的列表。Rust

是 -3*pi/4 。 math.cos(x) 返回 x 弧度的余弦值。 math.hypot(x, y) 返回欧几里德范数，sqrt(x*x + y*y) 。这是从原点到点 (x, y) 的向量长度。 math.sin(x) 返回 x 弧度的正弦值。 math.tan(x) 返回 x 弧度的正切值。 9.2.4 角度转换 math.degrees(x) 将角度 x 从弧度转换为度数。 .。在 Python 中可 以组合map() 和count() 实现：map(f, count())。 这些内置工具同时也能很好地与operator 模块中的高效函数配合使用。例如，我们可以将两个向量的 点积映射到乘法运算符：sum(map(operator.mul, vector1, vector2)) 。 无穷迭代器： 迭代器 实参 结果 示例 count() start, [step] 流（例如 gzip 压缩的 HTTP 流或 LZMA 压缩的文件）的 XML 库。对于攻击者来说，它可以将传输 的数据量减少三个量级或更多。 PyPI 上 defusedxml 的文档包含有关所有已知攻击向量的更多信息以及示例和参考。 21.4. XML 处理模块 999 The Python Library Reference, 发布 3.7.13 21.4.2 defusedxml 和 defusedexpat

是 -3*pi/4 。 math.cos(x) 返回 x 弧度的余弦值。 math.hypot(x, y) 返回欧几里德范数，sqrt(x*x + y*y) 。这是从原点到点 (x, y) 的向量长度。 math.sin(x) 返回 x 弧度的正弦值。 math.tan(x) 返回 x 弧度的正切值。 9.2.4 角度转换 math.degrees(x) 将角度 x 从弧度转换为度数。 .。在 Python 中可以组 合map() 和count() 实现：map(f, count())。 这些内置工具同时也能很好地与operator 模块中的高效函数配合使用。例如，我们可以将两个向量的点积 映射到乘法运算符：sum(map(operator.mul, vector1, vector2)) 。 无穷迭代器： 迭代器 实参 结果 示例 count() start, [step] （例如 gzip 压缩的 HTTP 流或 LZMA 压缩的文件）的 XML 库。对于攻击者来说，它可以将传输的数据 量减少三个量级或更多。 PyPI 上 defusedxml 的文档包含有关所有已知攻击向量的更多信息以及示例和参考。 21.4.2 defusedxml 和 defusedexpat 软件包 defusedxml 是一个纯 Python 软件包，它修改了所有标准库 XML 解析器的子类，可以防止任何潜在的恶意操

20 3.8 新版功能. math.hypot(*coordinates) 返回欧几里得范数，sqrt(sum(x**2 for x in coordinates))。这是从原点到坐标给定点 的向量长度。 对于一个二维点 (x, y)，这等价于使用毕达哥拉斯定义 sqrt(x*x + y*y) 计算一个直角三角 形的斜边。 在 3.8 版更改: 添加了对 n 维点的支持。之前的版本只支持二维点。 .。在 Python 中可 以组合map() 和count() 实现：map(f, count())。 这些内置工具同时也能很好地与operator 模块中的高效函数配合使用。例如，我们可以将两个向量的 点积映射到乘法运算符：sum(map(operator.mul, vector1, vector2)) 。 无穷迭代器： 迭代器 实参 结果 示例 count() start, [step] 所引入的防护措施的情况下，这 会导致可被用来在解析 XML 的应用程序中制造拒绝服务攻击的指数级运行时间。此问题被称为 CVE-2023-52425。 PyPI 上 defusedxml 的文档包含有关所有已知攻击向量的更多信息以及示例和参考。 20.4. XML 处理模块 1045 The Python Library Reference, 发布 3.8.20 20.4.2 defusedxml 包 defusedxml