微服务的设计原则 与⽣生态系统 王磊磊 华为公司技术专家 ThoughtWorks⾸首席咨询师 Sybase Tech Leader • 《微服务架构与实践》作者 • 《DevOps Handbook》中⽂文译者之⼀一 • 国内较早倡导和实践微服务的先⾏行行者 • 对于⾃自动化测试、持续交付、DevOps有丰富的实践经验 • ⻄西安DevOps Meetup 联合发起⼈人 联合发起⼈人 关于我 议题 • 微服务架构的核⼼心 • 微服务架构设计原则 • 微服务架构⽣生态系统 Are you using microservices? Are you using microservices? https://www.nginx.com/resources/library/app-dev-survey/ 什什么是微服务架构？ • 微服务架构是⼀一种架构模式， 识别问题并⽤用⾃自动化的⼿手段消除痛苦 演进式架构 - 运维意识是关键 架构只是抽象，直到真正投⼊入运维产⽣生价值 议题 • 微服务架构的核⼼心 • 微服务架构设计原则 • 微服务架构⽣生态系统 It is about architecture， BUT not only architecture…… 微服务架构的设计原则 • 竞争能⼒力力平衡 • 围绕业务构建 • “去”中⼼心化

ServiceComb 微服务框架 杨波 ServiceComb 社区 / 华为开源软件能力中心 全栈生态：具有完整开源生态技术栈的解决方案，完全无商业Lock-in，支持平滑上云 配置中心生态 Others…… 微服务生态 ServiceComb 微服务解决方案 处理链 ServiceComb微服务解决方案 Java编程 （POJO/SpringM VC/JAX-RS） 熔断/容错 JWT认证 Saga事务一致性 服务契约 平滑上云 开源生态能力互通 微服务脚手架 云 Dubbo SpringBoot SpringCloud ServiceMesh APM/Tracing生态 Prometheus Zipkin Skywalking Apollo ServiceMesh生态 Istio ServiceComb子系统 Saga 分布式事务解决方案

Mesh理论的实现 - 基于go语言开发 - 接入ServiceComb等开源生态 - 高性能，11mb常驻内存，1毫秒延迟 Huawei Confidential Mesher架构总览 7 关键组件 - Control panel - Registry - Protocol - 监控 - 安全 拥抱生态 - ServiceComb - Istio - Promethues - Zipkin Huawei Confidential 9 基于微服务元数据的路由管理 • 匹配请求者header • 匹配请求者元数据信息 • 按权重引流 • Router使用统一配置模型，支持插件对接不同生态 请求特征： • Service Name • Headers • Consumer metadata Resolve 决定要访问的服务名后即可开 始匹配路由规则，比如 • 系统中稳定运行着A服务， Governance server Huawei Confidential 拥抱Istio生态 - 为Istio数据面提供新的可能性和选择，使用mesher替代Envoy。 - 并将go chassis接入到Istio，为istio提供侵入式框架 - 不使用Iptables转发 - 不接入Mixer服务，而是直接接入不同生态系统 13 Huawei Confidential Kubernetes

和落地，Go语⾔言微服务框架被华为5G核⼼心⺴⽹网络采⽤用，Service Mesh服务商⽤用上 线公有云 • 简介 • 实现⼀一个Service Mesh • 使⽤用Service Mesh快速构建微服务 • ⽣生态与扩展 • Service Mesh在华为内部的技术演进 我们在构建微服务，⽽而构建微服务是困难 的 微服务架构模式引⼊入的问题 路由规则 • 引流 • ⽀支持权重 • 根据消费者信息或请求特征进⾏行引流 ⼀一定程度的性能降低 • 侵⼊入式框架有更强的定制和扩展能⼒力 • 部署复杂性 • 简介 • 实现⼀一个Service Mesh • 使⽤用Service Mesh快速构建微服务 • ⽣生态与扩展 • Service Mesh在华为内部的技术演进 第⼀一代：基于Nginx的微服务代理 • 2013年,微服务开发平台中的组 件，公司内部某电信业务 • 400多个微服务，800左右实例， • ⽀支持多种部署⽅方式 • 占⽤用资源⼩小（闲置10多M，并发运⾏行时30多M） • 简介 • 实现⼀一个Service Mesh • 使⽤用Service Mesh快速构建微服务 • ⽣生态与扩展 • 与PaaS平台结合 • Service Mesh在华为内部的技术演进 整体架构 Mesher Service Mesher Service Mesher Service

错误注入 黑白名单 微服务管理 注册中心 配置中心 治理中心 全局事务 契约管理 监控大屏 智能分析 环境管理 开发环境 测试环境 预验证环境 灰度环境 生产环境 商业生态(aPaaS/SaaS) 行业 （政府、教育、医疗、零售、……） 伙伴 （软通、中软、幸宜、博思、医 信、……） 工具（CPE） 设计和开发 构建 测试 发布上线 监控运维 部署 Eclipse等 扩展插件： 静态检查等 扩展插件： 三方部署系 统 扩展插件： 客户测试系 统 扩展插件： 客户自有仓 库 扩展插件： 客户自有监 控 开发者生态 开源社区 案例 开发者 API 产品 生态 通用微服务工具市场 行业微服务组件市场 虚机（ECS） servicecomb.apache.org github.com/apache?q=servicecomb servicecomb.apache.org github.com/apache?q=servicecomb 为什么选择ServiceComb • 兼容Spring Cloud与ServiceComb等开源生态，使开发者能够无改造迁移上云 • 多语言解决方案：Java，Go两种语言框架与Service mesh方案 • 契约管理：自动生成API文档，并在中心管理，使集成更加流畅，约束接口不能任意变更

（正在迁移到Apache ServiceComb） 使用服务网格Mesher接入多语言，和编程框架统一治理 关键组件 - Control panel - Registry - Protocol - 监控 - 安全 拥抱生态 - ServiceComb - Istio - Promethues - Zipkin - 华为云 异构基础设施 - CCE - Kubernetes - Docker - VM - Bare metal 内核 服务中心 微服务开发框架 TCC&Saga 分布式事务框架 认证框架 配置中心 多语言方案 Rest(OpenAPI) / RPC 云原生 融合 流行 生态 融合开源生态的一站式微服务解决方案 融合开源生态的一站式微服务解决方案 https://github.com/apache?q=servicecomb 10 github.com/apache?q=servicecomb

务代码实现微服务化改造，与流行微服务框架治理互通 • 项目地址 https://github.com/apache/servicecomb-mesher • 开发计划 - 网关能力 - 融合生态 Istio/Promethues/Skywalking/… - 兼容异构基础设施 K8S/BareMetal/docker/VM/… [Website] http://servicecomb.apache [Website] http://servicecomb.apache.org [Github ] https://github.com/apache?q=servicecomb 融合开源生态的一站式微服务解决方案 融合开源生态的一站式微服务解决方案 遗留应用转型 全新微服务开发 开源异构微服务兼容 ServiceMesh 服务通信规范 配置 流行微服务框架 可视化监控 分布式追踪 开发工具 快速入门 案例代码库 用户手册 社区网站 内核 服务中心 微服务 开发框架 分布式事务 框架 认证框架 配置中心 多语言方案 Rest(OpenAPI) / RPC 云原生 融合 流行 生态 Apache ServiceComb [Website] http://servicecomb.apache.org [Github ] https://github.com/apache?q=servicecomb

数据库模拟消息队列，Apollo定时 读消息 HTTP异步通知 单机读（tps） 9000 15000 单机写（tps） 1100 1800 技术选型 • Dubbo生态产品， Nacos源于阿里内部服务的开源实现； • 支持各种生态环境， 支持k8s， spring cloud， dubbo， service mesh等集成； • 配置中心与注册中心原生打通； 落地的改造和升级 Nacos 日志输出对接公司内部日志服务； • 对接公司CMDB； • DNS-F Cluster； • DNS 忽略大小写 Nacos CMDB • 扩展对接虎牙CMDB • 对接内部负载均衡策略 虎牙直播与阿里共建Nacos生态 社区贡献 • Nacos Commiter 4人； • 承担多个模块的开发和维护（Nacos Service Mesh,Dubbo Mesh,Golang SDK,Nacos Syn等)；

微服务开发框架 TCC&Saga 分布式事务框架 认证框架 配置中心 多语言方案 Rest(OpenAPI) / RPC 云原生 接入 流行 生态 Apache ServiceComb 融合开源生态的一站式微服务解决方案 融合开源生态的一站式微服务解决方案 • 团队协作困难 • 问题定位困难 • 资源利用率低 • 对现有系统改动小 • 提升性能和硬件 利用率 • 提升定位问题效率

限流 负载均衡 分布式追踪 动态配置 服务注册 服务度量量 通信协议 （Rest&RPC） 边缘服务 熔断/容错 Token认证 Saga事务⼀一致性 服务契约 平滑上云 拥抱开源⽣生态 处理理链 微服务脚⼿手架 服务安全 治理理UI ⾃自动部署 监控运维 Public Cloud …… SpringCloud SpringBoot Istio Apollo Skywalking • 提供了了Dubbo事务调⽤用追踪⽀支持 ServiceComb近期发展路路线图 响应式编程⽀支持 RxJava AsyncRestTemplate CompletableFuture ⽣生态⽀支持 Java 9 + ⽀支持 Spring Boot 2.0 ⽀支持 脚⼿手架应⽤用示例例 服务中⼼心 多数据中⼼心⽀支持 契约测试 微服务管理理控制 开源配置中⼼心 对接多监控系统