MoE Roadmap 04 MoE 背景介绍 MoE 是什么 为什么做 MoE 方案调研与分析 MoE 背景介绍 — 什么是 MoE 处理性能高 （C++） 研发效能高 (GoLang、生态) 高性能、高研发效能、生态打通 MoE = MOSN + Envoy 相互融合，各取所长 在 Service Mesh 领域，Envoy 和 MOSN 作为其数据面 sidecar extension • External-proc extension 可扩展性、灵活性、生态 价值意义 • 技术共享，融合 Envoy 和 MOSN 优势 • 增强 Envoy 和 GoLang 社区生态粘性 MoE Envoy 和 GoLong 生态打通 维护成本高、可扩展性弱 MoE 背景介绍 — 方案调研 方案名称 优势 劣势 Lua Extension Lua 编写简单业务处理方便 目前仅对C/C++/Rust 友好， 对 GoLang Runtime 还未完全支持； 不能复用已有的 SDK，需要做网络 IO 适配改造 External-Proc Extension 跨语言支持、隔离性 需要跨进程通信性能低（UDS vs CGO 1KB Latency 差 8 倍)； 需要扩展具备 gRPC server 能力， 多进程管理复杂 MOSN(GoLang) Extension 可复用

Gateway • 推动 UDPA 多协议建 设 核心能力 微服务 性能优化 MOSN 网络层扩展思考和选型 MOE 背景介绍 — 什么是 MOE 处理性能高 （C++） 研发效能高 (GoLang、生态) 高性能、高研发效能、生态打通 MOE = MOSN + Envoy 相互融合，各取所长 在 Service Mesh 领域，Envoy 和 MOSN 作为 其数据面 Sidecar extension • External-proc extension 可扩展性、灵活性、生态 价值意义 • 技术共享，融合 Envoy 和 MOSN 优势 • 增强 Envoy 和 GoLang 社区生态粘性 MOE Envoy 和 GoLong 生态打通 维护成本高、可扩展性弱 MoE 背景介绍 — 方案调研 方案名称 优势 劣势 Lua Extension Lua 编写简单业务处理方便 友好，对 GoLang Runtime 还未 完全支持； 不能复用已有的 SDK，需要做网 络 IO 适配改造 External-Proc Extension 适合治理能力已经是一个远程服 务，集成进 Envoy 需要跨进程通信性能低（UDS vs CGO 1KB Latency 差 8 倍)； 需要扩展具备 gRPC server 能力， 多进程管理复杂 MOSN(GoLang) Extension

io 个人介绍 • 孙宏亮 • DaoCloud技术合伙人，高级工程师 • 热爱golang&docker • 《Docker源码分析》作者 • docker、swarm等项目committer Agenda • Docker生态&Golang • DaoCloud&Golang • Docker运维&Golang • 总结 广义的Docker，多代表生态 • Docker公司营造的整个生态 －CoreOS与Docker，以及Rocket －Kubernetes与Docker：容器编排能力 －Mesos与Docker：资源管理 Docker生态 Golang&Docker生态 golang C python DaoCloud&Golang 持续集成 1.对接代码托管平台 2.自定义集成规则 3.执行镜像构建 镜像仓库 1.用户认证 2.镜像托管 3.镜像高可用存储 PaaS平台 1 状态的存储（Docker Daemon／ETCD） • 微服务架构 • 容器化平台 • Golang in Backends • 大部分静态编译 • 容器化粒度部署工具 Golang&Docker@DaoCloud • 工程性语言 • 去耦合 • 轻量级 小结－Golang&Docker@DaoCloud Docker运维&Golang • 自动化部署工具 • 容器粒度部署 • 平台本身的容器化 •

trust网络安全趋势 Ø异构语言体系融合 • SOFA/NodeJS/C++/Python/.. • 业务低成本融入服务，运维体系为什么要自研Golang版本ServiceMesh 2 Ø跨团队协作需要考虑技术栈落地成本 ü 参与团队分别使用C，Golang，Java等多种技术栈 Ø基于蚂蚁SOFA体系的Mesh化思考 ü 无法保证上下游应用同时升级到Mesh模式 ü 基于RPC内容的流量调度 基于RPC内容的流量调度 ü 升级窗口有限，方案必须简单高效 Ø运维体系，容器化建设等方面适配 ü 蚂蚁运维架构建立在流量调度的基础上 ü 容器管理平台更替快速进行中 ØGolang 性能，成本评估符合蚂蚁实际需求2 构架SOFAMesh 1SOFAMosn 2SOFAMosn内数据流 3NET/IO 4 Ø屏蔽IO处理细节 Ø定义网络链接生命周期，事件机制 Ø定义可编程的网络模型，核心方法，监控指标 Ø定义可扩展的插件机制PROTOCOL 内存使用率提升，arena 区内存申请频率低，大小更小 üMheap 申请系统内存减少约60%内存 3 ØSLAB-style buffer pool ü减少内存 copy ü压测场景下内存复用率90% ØGolang 内存模型亲和 üP中 mcache 缓存小于 32K 的小内存块，最大 2M ü小内存分配顺序 Pmcache -> mcentral -> mheap -> arena ü大于 32K 的大内存分配顺序

公司和产品在社区知名度和影响力有限国内公司的选择之一：自研 华为：CES Mesher • 使用Golang编写 • 由go chassis演进而来 • 走的是已有类库->加proxy->再加 控制平面的路线 • 部分对接Istio • 细节暂时不清楚，即将开源 新浪微博：Motan Mesh • 也是使用Golang编写 • 全新实现（原有类库是基于Java） 老成持重的稳健思路：以proxy为切入口，第 没有提供和侵入式框架互通的解决方案Sofa Mesh：istio的增强扩展版 Pilot Auth Mixer Envoy Pilot Auth Mixer Golang Sidecar Istio现有架构 Sofa Mesh架构 1. 用Golang开发 Sidecar，替代Envoy 2. Mixer被部分合 并进入Sidecar 3. Pilot/Auth 做扩展和增强 Control plane plane Control plane Data plane Data plane Mixer架构设计 Architect2Golang版Sidecar Pilot Auth Golang Sidecar Mixer XDS API Mixer Service HTTP/1.1 HTTP/2 Sofa RPC ü 参照Envoy的设计 ü 实现XDS API ü 兼容Istio

the Node 8.5 function runtime, which can be dynamically started by baetyl-function-manager; SDK (Golang) can be used to develop custom modules. Architecture Architecture Installation Quick Install running mode of application services Mode string `json:"mode,omitempty"` // Baetyl compiled Golang version GoVersion string `json:"go_version,omitempty"` // Baetyl release version BinVersion string you in the Baetyl official repository. Code Review About Golang format, please refer to Go Code Review Comments [https://github.com/golang/go/wiki/CodeReviewComments]. Please feel free to ping your

Module Directory Convention Start/Stop Convention SDK Troubleshooting FAQ Resources Download Golang download MQTT download What is Baetyl Baetyl [https://baetyl.io] is an open edge computing framework the Node 8.5 function runtime, which can be dynamically started by baetyl-function-manager; SDK (Golang) can be used to develop custom modules. Architecture Architecture Installation Quick Install running mode of application services Mode string `json:"mode,omitempty"` // Baetyl compiled Golang version GoVersion string `json:"go_version,omitempty"` // Baetyl release version BinVersion string

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 108 17 FAQ 111 18 Download 115 18.1 Golang download . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . the Node 8.5 function runtime, which can be dynamically started by baetyl-function-manager; • SDK (Golang) can be used to develop custom modules. 4 Chapter 1. What is Baetyl BAETYL Documentation 1.2.1 Baetyl running mode of application services Mode string `json:"mode,omitempty"` // Baetyl compiled Golang version GoVersion string `json:"go_version,omitempty"` (continues on next page) 12 Chapter 2. Baetyl

Results summarised 6 fuzzers written and added to Istio's OSS-Fuzz integration 1 CVE found in Golang 1 vulnerability found that affected Googles managed Istio offering 11 issues found ● 5 system Googleʼs managed Istio offering, and it led to further investigation that revealed a vulnerability in Golang itself. The finding was reported by the auditing team to the Istio maintainers, because Istio does MaxBytesHandler introduces an http request smuggling attack vector. The issue was disclosed to the Golang security team who fixed the vulnerability and assigned it CVE-2022-41721. 3 Istio Security Audit

the Node 8.5 function runtime, which can be dynamically started by baetyl-function-manager; • SDK (Golang) can be used to develop custom modules. 4 Chapter 1. What is Baetyl BAETYL Documentation 1.2.1 Baetyl running mode of application services Mode string `json:"mode,omitempty"` // Baetyl compiled Golang version GoVersion string `json:"go_version,omitempty"` (continues on next page) 12 Chapter 2. Baetyl contributed by you in the Baetyl official repository. 23 BAETYL Documentation 3.2 Code Review • About Golang format, please refer to Go Code Review Comments. • Please feel free to ping your reviewers by sending