Curve 分布式存储设计
Curve 分布式存储设计 程义 — Curve Maintainer XAgenda 第二 第三 第四 第一 Curve的由来 Curve的设计目标 Curve块存储 和 Curve文件存储 Curve社区Curve的由来 1. 代码复杂/代码量大 2. 运维难度高 3. 无法满足高的性能需求Curve的设计目标 1. Curve云原生软件定义存储 2. Curve块存储 高性能,易运维,云原生Curve块存储 1. 高性能分布式共享数据库场景 2. Curve块存储提供底层分布式共享存储 3. Polardb for PostgreSQL提供上层高性能数 据库服务 4. 性能测试 1. benchmarkSQL 每分钟事务数提升39% 2. pgbench 延迟降低21% TPS提升26% 研究现状Curve块存储 1. 分布式块存储服务 2. KVM块存储服务 快速跨云弹性发布的业务 3. 低成本大容量需求的业务 4. 中间件冷热数据自动分离 5. S3和POSIX统一访问需求 主要挑战和支持场景Curve Roadmap 1. 架构 1. 文件存储支持分布式缓存、完善冷热数据分层存储能力 2. 完善混合云、公有云上部署架构 3. 完善高性能3副本存储引擎,支持混合盘 4. 文件存储支持数据存储到HDFS、rados等引擎 2. 性能 1. 完善RDMA/SPDK方案,发布稳定版本0 码力 | 20 页 | 4.13 MB | 5 月前3新一代云原生分布式存储
新一代云原生分布式存储—Curve 上 李小翠 网易数帆存储团队分布式存储介绍 01 存储的发展 | 分布式存储的分类 | 分布式存储的要素 02 03 04 Ceph 架构简介 | 场景介绍 | 使用中的问题 Curve 架构简介 | 数据对比 | 应用情况 FAQ 答疑存储的发展 互联网时代,数据大爆炸 大型主机 成本高 单点问题 扩容困难 各存储设备通过网络互联 各存储设备通过网络互联 大规模 弹性扩容 底层构建在分布式存储之上 云的概念 成本:共用基础设施 弹性:随意扩缩容 速度:更快的构建发布业务 底层构建在分布式存储之上 云原生的概念: 易用性:跨平台,超融合,弹性 小型主机 容量有限分布式存储的分类 按照各种应用场景所需的存储接口分类 对象 存储 文件 存储 块存储 接口为简单的 Get、PUT、DEL 和其他扩展 对指定地址空间进行随机读写 传统意义的块存储:磁盘分布式存储的要素 如何构建分布式文件系统? 以分布式块存储为例。 •提供大容量的块设备 •可以在指定地址空间内随机读写 write(offset, len) •服务质量要求:数据不能丢、服务随时可用、弹性扩缩容 要什么 •成百上千台存储节点 •磁盘故障、机器故障、网络故障概率性发生 有什么 分布式存储系统需要满足接口需求,并且有持续监控、错误检测、容错与自动恢复的能力0 码力 | 29 页 | 2.46 MB | 5 月前3Linux命令大全搜索工具 v1.8
获取Linux内核模块的详细信息 getenforce 显示当前SELinux的应用模式,是强制、执行还是停用 getsebool 查询SElinux策略内各项规则的布尔值 git 是目前世界上最先进的分布式版本控制系统 gpasswd Linux下工作组文件的管理工具 gpm 提供文字模式下的滑鼠事件处理 grep 强大的文本搜索工具 groupadd 用于创建一个新的工作组 groupdel 显示已载入系统的模块 lsof 显示Linux系统当前已打开的所有文件列表 lsof -p pid lspci 显示当前主机的所有PCI总线信息 lsusb 显示本机的USB设备列表信息 ltrace 用来跟踪进程调用库函数的情况 lvcreate 用于创建LVM的逻辑卷 lvdisplay 显示逻辑卷属性 lvextend 扩展逻辑卷空间 lvreduce 收缩逻辑卷空间 lvremove 删除指定LVM逻辑卷 将文本文件转换成适合打印的格式 printf 格式化并输出结果 protoize GNU-C代码转换为ANSI-C代码 ps 报告当前系统的进程状态 pssh 批量管理执行 pstack 显示每个进程的栈跟踪 pstree 以树状图的方式展现进程之间的派生关系 pushd 将目录添加到目录堆栈顶部 pv 显示当前在命令行执行的命令的进度信息,管道查看器 pvchange 修改物理卷属性 pvck0 码力 | 1347 页 | 8.79 MB | 1 年前3openEuler 21.09 技术白皮书
开放透明的开源软件供应链管理 开源操作系统的构建过程,也是供应链聚合优化的过程。拥有可靠开源软件供应链,是大规模商用操作系统的基础。 openEuler 从用户场景出发,回溯梳理相应的软件依赖关系,理清所有软件包的上游社区地址,源码和上游对应验证。完成 构建验证、分发、实现生命周期管理。开源软件的构建、运行依赖关系,上游社区,三者之前形成闭环且完整透明的软件 供应链管理。 嵌入式 服务器 openEuler 21.09 技术白皮书 05 系统框架 openEuler 是覆盖全场景的创新平台,在引领内核创新,夯实云化基座的基础上,面向计算架构互联总线、存储介质 发展新趋势,创新分布式、实时加速引擎和基础服务,结合边缘、嵌入式领域竞争力探索,打造全场景协同的面向数字基础 设施的开源操作系统。 引领内核创新 云原生调度增强:针对云场景在线和离线业务混合部署场景,创新 CPU 调度算法保障在线业务对 化安全配置 secPaver 等更多开发工具。 数据中心 云原生 边缘 HPC 嵌入式/工控 … CPU:X86、ARM、RISC-V DPU NPU 介质 总线 服务器套件 云原生套件 分布式套件 虚拟化/容器 边云协同套件 嵌入式套件 机密计算服务 欧拉 DevKit … 实时加速框架 机密计算框架 … Linux Kernel 实时内核 安全内核 … 场 景 使 能 层0 码力 | 35 页 | 3.72 MB | 1 年前3基于 APM 的智能运维体系在京东物流的落地和实践-付正全
网络拓扑日益复杂,资源云化,虚拟资 源频繁弹性伸缩。不可靠的CMDB 过去1:n → 现在1:10? 越来越复杂的应用拓扑 消息服务器 发消息 应用D 应用E 收消息 收消息 收消息 数据库 分布式 缓存 JDBC JDBC 读缓存 分布式 文件系统 写缓存 存取 应用A 开放平台 API 请求 无线客户端请求 前端网页 请求 应用B 应用C 服务调用 服务调用 应用F 应用G 服务调用 服务调用 ◼整合多端数据,解决数据孤岛问题 ◼性能分析、告警分析更加准确 ◼更全面评估应用健康状况 大规模实时监控平台V2.0 整合各种应用维度的指标分析,提供更全面的应用数据分析和故障诊断 ◼系统指标 ◼调用链指标 ◼日志分析 ◼数据库指标 ◼JVM指标 ◼应用拓扑自动探测 应用健康报告 大规模实时监控平台V2.0 日志处理架构 大规模实时监控平台V3.0 产品规划 大规模实时监控平台V3 根因分析 基于双向过滤的告警通知 恢复 轻度 中度 严重 过 滤 通知处理引擎 过 滤 高级通知策略 方法告警 日志告警 资产 资产 资产 邮件 短信 咚咚 微信 调用链告警 业务告警 业务告警 每天 每月 每周 自定义 时间规则 ◼为保证告警信息能够及时准确的传达给系 统管理员,监控模块需要实现灵活的告警通 知策略 ◼双重过滤的通知方式:资源和通知联系人0 码力 | 41 页 | 3.52 MB | 1 年前3openEuler 23.09 技术白皮书
开源操作系统的构建过程,也是供应链聚合优化的过程。拥有可靠开源软件供应链,是大规模商用操作系统的基础。 openEuler 从用户场景出发,回溯梳理相应的软件依赖关系,理清所有软件包的上游社区地址,源码和上游对应验证。完 成构建验证、分发、实现生命周期管理。开源软件的构建、运行依赖关系、上游社区,三者之前形成闭环且完整透明的软 件供应链管理。 openEuler 开放透明的开源软件供应链管理 服务器 云计算 发展新趋势,创新分布式、实时加速引擎和基础服务,结合边缘、嵌入式领域竞争力探索,打造全场景协同的面向数字基 础设施的开源操作系统。 openEuler 23.09 发布面向服务器、云原生、边缘和嵌入式场景的全场景操作系统版本,统一基于 Linux Kernel 6.4 构 建,对外接口遵循 POSIX 标准,具备天然协同基础。同时 openEuler 23.09 版本集成分布式软总线、KubeEdge+ 其他上游社区 坚持 Upstream First openEuler 开源社区 二次发行 直接使用 构建规范 社区开发 平台 版本发布 配套工具 发布 SLA 运维平台 客户反馈 缺陷跟踪平台 芯片生态 构建平台 代码、版本管理、工具管理平台 发布规范 平台架构 06 openEuler 23.09 技术白皮书 openEuler 社区当前已与多个设备厂商建立丰富的南向生态,Intel、AMD0 码力 | 52 页 | 5.25 MB | 1 年前3openEuler 22.03-LTS 技术白皮书
开放透明的开源软件供应链管理 开源操作系统的构建过程,也是供应链聚合优化的过程。拥有可靠开源软件供应链,是大规模商用操作系统的基础。 openEuler 从用户场景出发,回溯梳理相应的软件依赖关系,理清所有软件包的上游社区地址,源码和上游对应验证。完 成构建验证、分发、实现生命周期管理。开源软件的构建、运行依赖关系,上游社区,三者之前形成闭环且完整透明的软 件供应链管理。 嵌入式 服务器 展新趋势,创新分布式、实时加速引擎和基础服务,结合边缘、嵌入式领域竞争力探索,打造全场景协同的面向数字基础设 施的开源操作系统。 openEuler 22.03 LTS 发布面向服务器、云原生、边缘和嵌入式场景的全场景操作系统版本,统一基于 Linux Kernel 5.10 构建,对外接口遵循 POSIX 标准,具备天然协同基础。同时 openEuler 22.03 LTS 版本集成分布式软总线、KubeEdge 其他上游社区 坚持 Upstream First openEuler 开源社区 二次发行 直接使用 构建 规范 社区开发 平台 版本发布 配套工具 发布 SLA 运维平台 客户 反馈 缺陷跟踪平台 芯片生态 构建平台 代码、版本管理、工具管理平台 发布 规范 硬件厂家 硬件型号 架构 CPU 曙光 H620-G30A x86_64 Hygon C86 7280 32-core0 码力 | 17 页 | 6.52 MB | 1 年前3Debian 参考手册(版本 2.109)
列出被一个进程打开的文件 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 143 9.4.6 跟踪程序活动 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 226 12.5.6 动态调用跟踪工具 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 227 12 编码将“foo” 压缩为“foo.bz2”(压缩效果比 gzip 更好) bunzip2 foo.bz2 将“foo.bz2”解压为“foo” xz foo 使用 Lempel-Ziv-Markov 链算法将“foo”压缩为“foo.xz”(压 缩效果比 bzip2 更好) unxz foo.xz 将“foo.xz”解压为“foo” tar -xvf foo.tar 从“foo.tar”档案中提取文件0 码力 | 261 页 | 1.39 MB | 1 年前3openEuler 22.09 技术白皮书
openEuler 开放透明的开源软件供应链管理 开源操作系统的构建过程,也是供应链聚合优化的过程。拥有可靠开源软件供应链,是大规模商用操作系统的基础。 openEuler 从用户场景出发,回溯梳理相应的软件依赖关系,理清所有软件包的上游社区地址,源码和上游对应验证。完成构 建验证、分发、实现生命周期管理。开源软件的构建、运行依赖关系、上游社区,三者之前形成闭环且完整透明的软件供应链 管理。 嵌入式 服务器 新趋势,创新分布式、实时加速引擎和基础服务,结合边缘、嵌入式领域竞争力探索,打造全场景协同的面向数字基础设施的开 源操作系统。 openEuler 22.09 发布面向服务器、云原生、边缘和嵌入式场景的全场景操作系统版本,统一基于 Linux Kernel 5.10 构建, 对外接口遵循 POSIX 标准,具备天然协同基础。同时 openEuler 22.09 版本集成分布式软总线、KubeEdge+ 其他上游社区 坚持 Upstream First openEuler 开源社区 二次发行 直接使用 构建 规范 社区开发 平台 版本发布 配套工具 发布 SLA 运维平台 客户 反馈 缺陷跟踪平台 芯片生态 构建平台 代码、版本管理、工具管理平台 发布 规范 硬件类型 x86 ARM 网卡 华为、Mellanox、Intel、Broadcom、Marvell、网讯 华为、M0 码力 | 13 页 | 1.39 MB | 1 年前3openEuler 22.03 LTS SP2 技术白皮书
开源操作系统的构建过程,也是供应链聚合优化的过程。拥有可靠开源软件供应链,是大规模商用操作系统的基础。 openEuler 从用户场景出发,回溯梳理相应的软件依赖关系,理清所有软件包的上游社区地址、源码和上游对应验证。完 成构建验证、分发、实现生命周期管理。开源软件的构建、运行依赖关系、上游社区,三者之前形成闭环且完整透明的软 件供应链管理。 openEuler 开放透明的开源软件供应链管理 服务器 云计算 openEuler 22.03 LTS SP2 技术白皮书 平台架构 openEuler 是覆盖全场景的创新平台,在引领内核创新,夯实云化基座的基础上,面向计算架构互联总线、存储介质 发展新趋势,创新分布式、实时加速引擎和基础服务,结合边缘、嵌入式领域竞争力探索,打造全场景协同的面向数字基 础设施的开源操作系统。 openEuler 22.03 LTS SP2 发布面向服务器、云原生、边缘和嵌入式场景的全场景操作系统版本,统一基于 发布面向服务器、云原生、边缘和嵌入式场景的全场景操作系统版本,统一基于 Linux Kernel 5.10 构建,对外接口遵循 POSIX 标准,具备天然协同基础。同时 openEuler 22.03 LTS SP2 版本集成分布式软总线、 KubeEdge+ 边云协同框架等能力,进一步提升数字基础设施协同能力,构建万物互联的基础。 面向未来,社区将持续创新、社区共建、繁荣生态,夯实数字基座。 夯实云化基座 • 容器操作系统0 码力 | 48 页 | 5.62 MB | 1 年前3
共 86 条
- 1
- 2
- 3
- 4
- 5
- 6
- 9