开源的大模型也是在不断提升智能化能力，例如 2024 年 9 月阿里发布的 Qwen 2.5 72B 模型 成为全球最强开源大模型。此外，Qwen 2.5 的整体性能相比前一代提升了超过 18%，并且在 多模态能力、长文本处理和指令遵循等方面也有所增强。 大模型应用从 Chatbot 到 RAG、Copilot 和 Agent 的发展历程充满了挑战与机遇。随着技 术的不断进步和创新，我们有理由相信，大模型应用将在未来展现出更加广阔的应用前景和巨大 （NPU）则直接运行深度学习相关程序。 处理器芯片设计是一项很复杂的任务，整个过程犹如一座冰山。冰山水面上是用户或者大 众看到的处理器芯片架构，呈现为一组微架构核心参数，比如 8 核、8 发射乱序执行、32KB 指令 Cache、2MB L2 Cache 等等。 但为何是选择这样的配置，不同配置对处理器的 PPA（性能、功耗、面积）有什么影响？ 要搞清楚这些联系，则需要一整套处理器架构设计基础设施的支撑（即冰山水面下部分）—— Unit）为例，这是现代高性能处理器的一个 重要组成部分，负责根据分支指令执行历史预测分支的走向，从而提前执行对应方向上的指 令。BPU 的预测准确率直接影响着处理器整体的性能和功耗，当 BPU 预测准确率高，则处 理器流水线的空泡（Stall）就比较少，甚至完全消除。但当 BPU 出现预测错误，不仅已执行 的错误路径上的指令都被浪费，而且还需要冲刷流水线等来保证后续执行的正确性，这降低了 处理器性能，也带来额外的功耗。

图⽚。 • 整理资料：⽆论是堆积如⼭的发票，还是复杂冗⻓的会议记录，Kimi
都能智能识别整理，⾃动提取 关键点，让资料整理不再繁琐，信息⼀⽬了然。 • 辅助创作：根据你提供的⽹⻚链接、⽂件、指令，Kimi
可以帮助你梳理⼤纲、续写⽂章、创作⽂ 案、写作周报、撰写⽅案，成为你的内容创作⼿脚架，提供⽆限灵感。 • 编程助⼿：Kimi
可以帮你快速阅读
API
⽂档，定位所需信息，还可以根据你的需求⽣成代码、快 代
AI
需要拔掉数据线，做到只要源源不断地输⼊电 ⼒，就能源源不断地输出智能。 这两个核⼼问题导致在第三层有巨⼤的空间，包括
long-context、不同模态的⽣成、模型多步规划的 能⼒、指令遵循的能⼒、各种
agent
的功能等。
这些上层的东西都会有巨⼤的差异化，因为中间存在两个重要的技术变量。我认为这是我们的机会。 除了技术层⾯，价值观上我们有⼀点和
OpenAI
不同：我们希望在下⼀个时代，能成为⼀家结合
我觉得这背后实际上是个技术问题。传统
AI
时代，要实现个性化，需要持续更新模型，⽤⼩模型解决 单点问题。⼤模型时代，实现个性化的⼀种⽅式是微调，但我认为微调可能不是本质的⽅法，⻓期来 看可能不会存在模型的微调。为什么？当你的模型指令跟随能⼒、推理能⼒、上下⽂⼀致性能⼒越来 越强时，所有东西只需要放在内存⾥就可以。⽐如你的⼤模型内存有⼀堆
prefix
这样的东西⽤来
follow，成本可以降到⾮常低。最终，你对模型个性化

索如何以 LLM 可以解析的方式来表达需要它完成的任务， 寻找 LLM 的“最佳输入形式”。通过注入提示词，提示词 工程建立了一套“人机交互语法”，来更精准地向 LLM 传 达想要它生成何种输出的指令。这为人们与 LLM 之间建立 高效、准确的“沟通桥梁”提供了可能性。什么“链式思考 1 1 （CoT）”、“自动推理并使用工具（ART）”、“思维 树（ToT）”……甚至运用心理学对 LLM 的发布清楚地表明开源是基础 模型的可行分发机制。不过在大型语言模型 (LLM) 领域却并非如此，这些 模型只能通过 API 获取。并且这些模型的开源替代品没有表现出相同水平 的性能，特别是在它们遵循人类指令的能力方面。 然而，一项意想不到的研究突破和泄露的模型版本彻底改变了这一现状。 2023 年 3 月，Meta 宣布了它的大语言模型 LLaMA，该模型的一大优势是 能运行在单张显卡上。当时 Meta 版最低要求 OpenGL 4.3，升级渲染能力，等等。 Wine-CE 是在不同指令集架构 Linux 系 统上运行 Windows 程序的兼容层，它基于 Wine 项目和 Qemu 项目。与 Wine 相比， Wine-CE 可 以 模 拟 执 行 不 同 指 令 集 的 Windows 软件，它使用修改过的 Qemu 作为指令翻译层。 历经三年多的开发，Meilisearch 1.0 首个完全稳定版于

本。 全球开源态势洞察｜第十期 18 政策和法律框架 政策和法律框架 • 2022年8月，捷克颁布《关于开放数据和公共部门信息再利用的2019年第1024号欧洲指令（“OD 指令”）》14的实施方案。该指令的功能之一是支持信息和数据的提供，以便这些信息和数据被重 复获取，特别是通过开放数据获取。为了支持这项法规，捷克相关部门已对现有法规进行了多样化 的修正。15 • 2022年2

电路图、 材料清单和开发板布局数据。并且硬件设计的源代码的特定的格式可以为其他人获得，以方便 对其进行修改。以 CPU 处理器为例，开源芯片的开源通常包括三个层次，首先是指令集（ISA） 开源，例如 RISC-V 指令集规范是开源的；其次是微架构的设计开源；第三层是开源 RTL 源 码乃至 GDSII，例如 Berkeley 的 Rocket Chip、剑桥大学的 lowRISC、芯来蜂鸟

Hardware，是可以通过公开渠道获得的硬件设计，如电路图、材料清单 和开发板布局数据。并且硬件设计的源代码的特定的格式可以为其他人获得，以方便对其进行修改。以 CPU 处理器为例，开源芯片的开源通常包括三个层次，首先是指令集（ISA）开源，例如 RISC-V 指 令集规范是开源的 ；其次是微架构的设计开源 ；第三层是开源 RTL 源码乃至 GDSII，例如 Berkeley 的 Rocket Chip、剑桥大学的