OpenKruise 实现大规模集群 镜像预热&部署发布加速实践 王思宇（酒祝） 阿里云容器服务 技术专家 OpenKruise author & maintainer 目 录 前言：OpenKruise 简介 01 为什么说人人都需要镜像预热 02 OpenKruise 是如何实现镜像预热的 03 如何通过镜像预热加速部署&发布 04 版本前瞻：原地升级与预热的结合 05 前言：OpenKruise 享住智慧、艾佳生活、永辉科技中心、跟谁学、Deepexi、哈啰出行 • Lyft、Bringg、Arkane Systems、Spectro Cloud、Linkedin OpenKruise 能做什么 为什么说人人都需要镜像预热 第二部分 Pod创建过程 用户的期望： • 极致弹性 • 秒级扩容 • 弹出即可用 实际创建过程： create schedule attach/mount volume cni app 预拉取： pull image for sidecar pull image for app base 实际创建过程： OpenKruise 是如何实现镜像预热的 第三部分 OpenKruise的运行架构 节点维度预热定义 apiVersion: apps.kruise.io/v1alpha1 kind: NodeImage metadata: name: node1 spec:

单副本版本只有一个数据库节点，节点出现故障时，系统会重新拉起一个 Redis 进程（没有数据 ），当节点故障业务自动切换完成后，应用程序需要将数据重新预热，以免对后端数据库产生访问压 力冲击。 注意：由于单副本模式不能提供数据可靠性，节点故障后需要业务进行预热，如果是对数据可靠性要 求较高的敏感性业务，不建议使用单副本版，可选用双副本高可用版。 对 Redis 协议兼容性要求较高的业务 障时，系统会重新拉起一个 redis 进程（没有数据），当节点故障业务自动切换完成后，数据将会丢失，有可能流量被冲击到后 端数据库，需要做好应用程序的预热保护机制。 注意：由于单副本集群不能提供数据可靠性，节点故障后需要业务进行预热，如果是对数据可靠 性要求较高的敏感性业务，不建议使用。 QPS 压力较大 标准版 Redis 无法支撑较大的 QPS，需要采用多节点的部署方式来冲破

Tag清理策略 Tag不可变策略 P2P预热策略 缓存策略 机器人账户 Webhooks 项目配置 项目1 项目标签管理 项目扫描器设置 项目级日志 系统设置（鉴权模式等） 内容复制 垃圾回收(GC) 配额管理 扫描管理 用户管理 系统标签管理 P2P预热管理 Harbor 系统 系统级日志 搭建Harbor仓库服务 • 目前仅支持上游Dockerhub*和其它Harbor， 更多上游仓库的支持正在进行中（与复制共享 同样的仓库适配器） 注: 可有效解决Dockerhub 限速的问题 制品的高效分发-P2P预热 • 将所选镜像提前分发到(加热)P2P网络以便客户端拉取内容时从P2P网 络直接获得 • 基于策略实现自动化 • Repository过滤器 • Tag过滤器 • 标签（label）过滤器 • 漏洞状态条件

ShardingSphere Overview Shadow DB 应用场景 Shadow DB 架构设计 全链路压测：流量规划，比如双 11，618 等 灰度发布：指定测试用户的体验版本发布 服务预热：预热数据隔离 对比测试：基于版本的对比测试 Shadow DB Scenes 4.1.1 Shadow DB API rules: - !SHADOW column: shadowMappings:

x是一个用户提供的包含多个字符的字符 串。在循环遍历prefix中的开始字符时，我们不断地将隐状态传递到下一个时间步，但是不生成任何输出。这 被称为预热（warm‐up）期，因为在此期间模型会自我更新（例如，更新隐状态），但不会进行预测。预热期 结束后，隐状态的值通常比刚开始的初始值更适合预测，从而预测字符并输出它们。 def predict_ch8(prefix, num_preds, net get_input = lambda: torch.tensor([outputs[-1]], device=device).reshape((1, 1)) for y in prefix[1:]: # 预热期 _, state = net(get_input(), state) outputs.append(vocab[y]) for _ in range(num_preds): # 预测num_preds步 型和输出生成。 • 循环神经网络模型在训练以前需要初始化状态，不过随机抽样和顺序划分使用初始化方法不同。 • 当使用顺序划分时，我们需要分离梯度以减少计算量。 • 在进行任何预测之前，模型通过预热期进行自我更新（例如，获得比初始值更好的隐状态）。 • 梯度裁剪可以防止梯度爆炸，但不能应对梯度消失。 练习 1. 尝试说明独热编码等价于为每个对象选择不同的嵌入表示。 2. 通过调整超参数

、图片压缩、选择更高效的序列化 算法（比如Protocol Buffers）等。 我们在网络优化方面主要做了以下几件事情： 1. CDN优化：海外CDN加速、CDN缓存预热。 2. DNS Prefetch：DNS预热，刷新移动设备系统/VM的DNS缓存。 3. 长连接：“代理长连接”Shark，专线链路优化，并且有效解决了DNS的瓶颈问题。 境外业务性能优化实践 - 美团技术团队 4 如果用户在境外访问时CDN未命中，静态资源从 境外回源到国内源站获取，成本非常高。为了提升缓存命中率，我们的做法是在香港搭了一个CDN中间 源，在前端资源发布时会调用CDN的push接口把资源预热到中间源，保证当境外边缘节点缓存未命中时 无需再回源到国内IDC，只需从中间源获取。 DNS Prefetch DNS Prefetch 由于DNS的种种问题，腾讯推出了HttpDNS服务，使 美团云的图片服务提供了实时剪裁功能，后端在下发图片URL时不需要指定尺寸，由客户端根据屏幕 尺寸做自适应计算，这样可保证每台设备上的图片都“刚好合适”。 CDN加速：前面CDN优化章节已介绍，通过接入境外CDN服务商及CDN预热的方式做CDN加速。 图片压缩：境外业务内部已在全面使用WebP，经测试WebP格式能够优化图片大小25%-50%，清晰 度基本没有影响。 懒加载：图片资源通常比较大，选用懒加载可有效缩短页面可交互时间。

数据库服务器 国产化服务器7/19 二、双十一 Kubernetes 实践 Part 2：8/19 资源分时调度 Part 2：双十一 Kubernetes 实践 快速腾挪的问题 1.实例上下线需要预热 2. 腾挪耗时不可控 3. 大规模腾挪的稳定性技术风险 9/19 资源分时链路切换 Part 2：资源分时调度 Kubernetes Node 分时调度 Agent Pod 资源

常规方案操作步骤 分时调度操作步骤23 分时调度-MOSN价值 MOSN 作用：保活态节点流量转发，降低保活态节点内存占用 保活意义： * 应用长连接维持 * DB 连接维持 * 缓存维持 * 无需预热可快速恢复 MOSN APP MOSN APP Client Pod 运行态 Pod 保活态 100% 100% 100% 1% 99%24 双十一成果

• 异步、并⾏行行、⽆无锁化 • 剪枝 • 空间换时间 • 缩短对象驻留留内存时间，减少gc次数，优化单机吞吐 • 数据交换采⽤用protobuf + gzip处理理 • jit、预热 回顾 • ⽔水平分层，纵向分渠道，良好的扩展性 • 实时计算 + 阶梯式缓存，成本与报价新鲜度的权衡 • 闭环系统 • 索引库数据同步 • 本地缓存的设计，更更新策略略 •

大数据ETL 模型训练 Alluxio核心功能三：统一的文件系统抽象 Alluxio 服务器 Alluxio在云端AI训练场景的性能好处 • 支持大规模的数据缓存 • 本地内存加速 • 支持数据预热 • LRU缓存管理 Object storage (Fuse) Worker (local) Worker (remote) Master Training POD Tier0: 1-2GB/S