RL（强化学习）,
Infra⽅⾯新⽣代⼈才，主导了很多有世界影响⼒的⼯ 作，吸引了来⾃Google、Meta、Amazon等全球领先科技公司的海外⼈才加⼊：
i. ⼤模型⽅⾯。团队成员发明了RoPE相对位置编码，是Meta
LLaMa和Google
PALM等⼤多数 主流模型的重要组成部分；发明了group
normalization，是Stable
Diffusion等AI模型成功 的关键组件；发明 只到 这⼀步，那它可能就不是真实的规模化。 我会从两个例⼦来展开介绍，到底什么是真实的规模化。
我们认为，Transformer是新时代的计算 机。这跟⽼的计算机不⼀样，⽼的计算机可能是你通过编码⽅式实现⼀个确定性的需求，但在 Transformer上，你可能是通过Prompt作为编程语⾔，⽤数据作为桥梁去嫁接你的产品和研发。
在这种新的计算范式下⾯，它会产⽣新的计算，会产⽣新的内存。⽐如说参数数量可能就会决定计算 的，基本上很少存在今天这种
APP
突然不知道怎么开发，或者我这个定义了需求，结果没有被实现的 情形。因为它是⼀个确定性的事件，只需要经过⼈在计算机上⽤编码让计算机理解，就可以被实现。 但是
AGI
是不⼀样的，我很难去规划，今天要去完成⼀个什么样的需求、然后完成到什么程度，因为 它是没有办法被硬编码、被规则表⽰的。AGI
做事情的⽅式不是这种前置的规划性的创新，⽽是后置性 的，我可能要去试⼀下才知道。AGI
得有⼀个底

2024 年，我们还看到了“AI 程序员”Devin 的诞生，Devin 能够独立完成复杂的编码和 调试任务、自主查找和修复代码库中的错误，构建和部署应用程序。在 SWE-bench 编码基准测 试中，Devin 能够解决 GitHub 中 13.86%的真实问题，有了很大提升。 说起 SWE-bench 编码基准测试（https://www.swebench.com/），2024 年进步很快，以 技术检索历史上已知的代码缺陷模式和已知问题，从而比较 准确地识别潜在的缺陷和安全漏洞，甚至能够分析代码的功能意图，全面提升代码评审的能 力。  有些团队，根据 UI 设计图，让 LLM 自动生成相应的前端代码，大大减少了手动编码的时间， 加快了从设计到实现的流程。 43 / 111 从应用效果看，前面调研的数据可供参考。在国内 AI 编程开展比较好的大厂，超过 80%的 工程师在使用 AI 编程工具完成日常的编程工作，近 的发布，我们可以看到越来越多的 AI 工具开始涉足到软件开发 的不同阶段。比如，面向需求阶段的 Jira/Atlassian Intelligence，面向原型设计的 Vercel v0， 面向编码阶段的 GitHub Copilot，以及运维阶段的 Dynatrace Davis AI 等等。 就 2023 年的结论而言，基于人工智能的工具与基础大语言模型可以增强软件开发在设计、 57 /

英伟达凭借各国、初创公司、大型科技公司和研究人员 对其 GPU 的巨大需求，跻身市值万亿美元俱乐部；  主要芯片供应商开发了不受出口管制影响的替代产品；  在 ChatGPT 的带领下，生成式 AI 的应用在图像、 视频、编码、语音等领域取得了突破性的进展，带动了 180 亿美元的风险投资和企业投资。 O'Reilly 发 布 的 “ 2023 Generative AI in the Enterprise”报告显示： OpenAI 前成员创立的 Anthropic 发布对话 AI 产品 Claude，包含 520 亿个参数。 与 ChatGPT 类似，Claude 能够执行各种基于文字对话的任务，如文档搜索、 摘要、写作、编码，以及响应用户的提问。 四个月后，Anthropic 推出 Claude 2。Claude 2 改进了性能，响应时间更长， 可通过 API 访问。此外还上线了面向公众的 beta 网站 claude 不愧是 C++ 之父--谁在风头就“++”谁。好好的语言搞成大杂烩。“静态分 析以验证没有不安全的代码被执行”--说白了，就是穷举法。这早就被证伪了。 “简化代码的编码规则，使工业规模的静态分析可行。”--你那大杂汇，谁能 简化代码的编码规则！“使此类简化代码相当容易编写并确保在需要时进行运 行时检查的库。”--还是那句话--遇到个大杂汇语言，谁能简化代码--与其要 求别人简化，还是请先简化简化自己语言吧。

多个行业。 图表 36 ：PingCAP 产品 - 社区 - 商业化 资料来源：公司公告，GitHub，云启资本 5.2 GitLab GitLab 提供开源的 DevOps 平台，帮助编码者实现线上合作开发以及版本控制。GitLab 成立于 2014 2021 中国开源年度报告 101 年，总部位于特拉华州。最初起源于一个个人项目，是由 GitLab 前 CTO Dmitriy 数据控制。尤其是对于团队用户来说，可以 106 随时随地托管 AppFlowy，没有供应商锁定的问题。其次，向用户提供了定制与扩展功能。企业或者团 队用户可以使用开放的核心代码库以定制的方式设计和修改 AppFlowy ；无编码经验的个人用户可以使 用社区驱动的工具箱，包括模板、插件、主题等。再次，由于 AppFlowy 是基于 Flutter 和 Rust 构建的， 因此可以很好的支持多在个平台和设备上的使用。 图表

资料来源：公司公告，GitHub，云启资本 Source: Company Announcement, GitHub, Yunqi Partners 5.2 GitLab GitLab 提供开源的 DevOps 平台，帮助编码者实现线上合作开发以及版本控制。GitLab 成 立于 2014 年，总部位于特拉华州。最初起源于一个个人项目，是由 GitLab 前 CTO Dmitriy 2001 年创建的。根据 GitLab 于团队用户来说，可以随时随地托管 AppFlowy，没有供应商锁定的问题。其次，向用户提供 了定制与扩展功能。企业或者团队用户可以使用开放的核心代码库以定制的方式设计和修改 AppFlowy；无编码经验的个人用户可以使用社区驱动的工具箱，包括模板、插件、主题等。再 次，由于 AppFlowy 是基于 Flutter 和 Rust 构建的，因此可以很好的支持多在个平台和设备 上的使用。 AppFlowy

经营决策分析 经营管理驾驶舱 数据安全 数据治理中心 数据地图 数据质量 数据资产 数仓设计 数据服务中心 可视化建模 交互式建模 EasyAIOS 服务创建 服务测试 服务发布 免编码拖拽 建模 模型/数据市场 数据源管理 专家开发环境 Jupyter交互式 建模 Jupyter模型 市场 训练服务 训练可视化 作业管理 自定义算子 服务管理 SOLUTIONS

布图。在此，我们选择三个⼯作时间分布有明显特征的项⽬进⾏简单分析。  apache/carbondata，Apache CarbonData 是⼀种新的融合存储解决⽅案，利⽤先进 的列式存储、索引、压缩和编码技术提⾼计算效率，从⽽加快查询速度，其查询速度⽐ PetaBytes 数据快⼀个数量级。  apache/incubator-teaclave，⼀个开源的通⽤安全计算平台，使对隐私敏感的数

多样性 公开 合规 可交付 安全 社区治理 成员管理 文档管理 组织架构 组织架构 社区运营 会议活动 外部合作 开发者生态 社区活跃度监测 用户生态 社区开发 依赖管理 编码规范 构建管理 分支管理 漏洞管理 需求管理 基础设施 测试平台 构建平台 安全漏洞扫描 发布平台 许可证扫描 CLA签署工具 网站 代码仓库 触发期 协作期 流行期 发展期

is possible to supply a custom User-Agent string or other header when requesting a document from a URL: pandoc -f html -t markdown --request-header User-Agent:"Mozilla/5.0" \ https://www.fsf.org 6 Options output, this option causes metadata to be included; otherwise, metadata is suppressed. --template=FILE|URL Use the specified file as a custom template for the generated doc- ument. Implies --standalone. See This option may be repeated to add multiple syntax definitions. -H FILE, --include-in-header=FILE|URL Include contents of FILE, verbatim, at the end of the header. This can be used, for example, to include

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 1.3.1. User enters URL. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . the bigger picture. Let us take an example where a user opens a web browser and enters a certain URL and hits the enter key. What happens? It turns out answering this question is not quite simple because 3 1.3.1. User enters URL In the first step in our example, the user enters the following URL: https://localhost:8443/accounting/control/findInvoices If we break down this URL, we identify the following