基于 KUBERNETES 的 容器器 + AI 平台
构建集群与管理理资源 - 73s 视频演示 多集群和镜像仓库 多租户和旧系统的集成 运⾏行行和构建应⽤用 Rudder - 应⽤用编排技术框架 Cyclone - 持续集成与交付引擎 运⾏行行 AI 应⽤用(机器器学习) - 58s 视频演示 Kubeflow 的应⽤用 Kubeflow 之上 构建集群与管理理资源 多集群和镜像仓库 • 企业想要的 • 隔离性和安全性 如何实现 • K8s - 单『控制集群』, 多『⽤用户集群』 • 镜像仓库 - 单『默认仓 库』,多仓库集成 管理理集群和节点 • 技术概览 • cloud provider • custom resource • ansible 管理理镜像仓库 • Cargo (内部项⽬目)- ⽣生产级镜像仓库解决⽅方案,基于 • ⼀一键⾼高可⽤用部署和维护 • 为多租户和复杂权限集成⽽而增强 为多租户和复杂权限集成⽽而增强 『token service』 • 管理理基于规则的镜像仓库 • 其他企业需要的优化功能 企业典型的多租户模型 租户 Tenant User User group Namespace Deployment Registry project CI/CD workspace Pod … resources CPU quota MEM quota0 码力 | 19 页 | 3.55 MB | 1 年前3Ubuntu 桌面培训 2010
Ubuntu 上安装游戏 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 227 V.I.I 从软件仓库中安装一个游戏 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 227 V.II 在 Ubuntu 中玩游戏 . . . . . . . . . . . . . . . . . . 296 VI.IX 软件仓库 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 296 VI.IX.I 软件仓库分类 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 283 VI.37 从仓库安装所选的软件包 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 284 VI0 码力 | 540 页 | 26.26 MB | 1 年前32022 Apache Ozone 的最近进展和实践分享
更易于运维的控制⾯ • 只需要⼀个运维团队⽽不是多个 运维价值 OZONE STORAGE AI/ML HIVE/IMPALA/ SPARK KAFKA / Flink 计算 数据科学 数据仓库 S3 应⽤ S3 API OTHER WORKLOADS ⽬录 • Apache Hadoop HDFS⾯临的问题 • Apache Ozone介绍 • Apache Ozone适⽤场景 ● 充分利⽤集群资源 ● 均衡集群IO访问 实现 ● 均衡器实现为SCM的⼦功能 ● Container是数据迁移的最⼩单位, 只迁移CLOSE状态的Container ● 客户端发送命令给SCM,SCM负 责执⾏和控制流程 Ozone Manager DN1 Storage Container Manager Client RocksDB RocksDB C3 C4 C5 C6 EC Container Group1 EC Container Group2 客户端 写⼊⽂件 256MB 256MB 256MB 256MB 256MB 256MB 256MB 256MB 256MB 0 data1 data2 data3 parity1 parity2 数据写⼊ • EC Container Group:给定Container的⼀组满⾜EC策略的副本实例0 码力 | 35 页 | 2.57 MB | 1 年前3Kubernetes Operator 实践 - MySQL容器化
容器中 • mha-node 为边车容器 • 镜像中设置 ssh 免密认证 Operator 在集群成员都正常运行 后,启动 manager 进程 mysql-pod-1 app-container mysql init-container mha-node data-dumper mysql-pod-2 init-container data-dumper data ConfigMap ConfigMap mysql-conf mysql-operator-pod app-container mysql-operator - mha-mgr-3306 - mha-mgr-3420 - … … CRD mysqlcluster MHA 故障迁移 • 从库故障 • 主库故障 集群切主 pod 都正常运行? 调度 pod k8s mha operator 重新调度0 码力 | 42 页 | 4.77 MB | 1 年前3使用 Docker 建立 MySQL 集群
epel-release 然后再 yum install docker-io 第二步 运行 Mariadb 容器 首先要将数据镜像拉下来 docker pull mariadb:latest 注意,如果不加:latest 标签,docker 会把所有的镜像版本都拉下来。 然后我们就可以启动镜像了,参数方面需要注意的有一下几点: 1,-name <给容器取个好记的名称> 2,-e MYSQL_ROOT_PASSWORD 权限的用户及其对应密码 6,设定 TERM 环境变量的值可以解决容器不能进入 mysql 控制台的问题。 对于不是自己建立的镜像,建立出来的容器未必能一次达到要求,建议是将 run 命令写成脚本,创建后使用 docker inspect <容器名> 仔细查看容器信息,关注镜像公开的端口和文件目录。如果发现达不到要求,使 用 docker rm -f <容器名> 删除容器后修改 run 脚本再次运行,直到满意为止。 -e MYSQL_DATABASE=medical_waste \ -e TERM=linux \ -d mariadb 第三步 配置一主一从集群 3.1 接下来启动另一个容器作为从数据库,因为镜像不支持在容器内进入 mysql 控制 台,所以依然需要把端口暴露出来以供局域网访问,但主数据库容易可以链接进 来作为一个可访问的主机 master_db。 docker run --name <从数据库名>0 码力 | 3 页 | 103.32 KB | 1 年前3GPU Resource Management On JDOS
常规的容器服务 ,使用 gpu 的 zone , 自行设定相应的镜像即 可,有完善的周边服务 训练服务 • 提供基于 kubeflow 的分布式训练方案 – 界面化操作,用户提供代码地址和执行命令即可 – 系统内建支持安装 pip 依赖 – 自制存储插件支持分布式文件系统存储用户数据 – 支持官方镜像,不需要 JDOS 提前协助制作镜像 – 提供 tensorboard 作为训练监控实时查看训练状态 资源,提高 GPU 利用率 – Job 调度 (部门 quota 限制 + 优先级) • 创建训练 – 用户选择集群提供代码地址和执行命令即可 – 选择所用框架(镜像):支持官方,亦可自制 (提供 dockerfile 生成镜像服务) – 选择存储来源:对接了内部的存储 – 填写代码地址,执行的命令等 – 可以选择是否监控训练,提供 tensorboard 任务列表 可以指定 git Serving 服务,只需用户指定模型,即可提供 grpc 和 rest 服务,同时使用 GPU 复用 +HPA 提高 GPU 利用率 创建 Serving 与训练集成 • 用户只需要简单选择机房和 镜像填写模型名即可完成 Serving 服务创建 自有模型 • 用户只需要填写模型地址即 可 GPU 监控 • 容器监控服务,自适 应 GPU 容器,可根据 容器 IP 查询记录 , 便 于用户查看服务状态0 码力 | 11 页 | 13.40 MB | 1 年前3RocketMQ v3.2.4 开发指南
项目开源主页:https://github.com/alibaba/RocketMQ 6 (4). 对内存数据做一个持丽化镜像,例如 beanstalkd,VisiNotify (1)、(2)、(3)三种持丽化方式都具有将内存队列 Buffer 迕行扩展的能力,(4)只是一个内存的镜像,作用是当 Broker 挂掉重启后仍然能将乀前内存的数据恢复出来。 JMS 不 CORBA Notification0 码力 | 52 页 | 1.61 MB | 1 年前3MySQL 8.0.17 调优指南(openEuler 20.09)
(Relational Database Management System,关系数据库管理系 统)应用软件之一。 MySQL是一种关系数据库管理系统,关系数据库将数据保存在不同的表中,而不是将 所有数据放在一个大仓库内,这样就增加了速度并提高了灵活性。 MySQL所使用的SQL语言是用于访问数据库的最常用标准化语言。MySQL软件采用了 双授权政策,分为社区版和商业版,由于其体积小、速度快、总体拥有成本低,尤其0 码力 | 11 页 | 223.31 KB | 1 年前3清华大学 DeepSeek 从入门到精通
任务 + 步骤约束 + 输出格 式 自主优化步骤,兼顾效率 与正确性 严格按指令执行,无自主优化 提示语示例 决策需求 验证性需求 "为降低物流成本,现有两种方案: ①自建区域仓库(初期投入高,长期成本低) ②与第三方合作(按需付费,灵活性高) 请根据ROI计算模型,对比5年内的总成本并推荐最优 解。" �实战技巧: "以下是某论文结论:'神经网络模型A优于传统方法B'。0 码力 | 103 页 | 5.40 MB | 8 月前3Manage Edge Nodes with KubeEdge and Case Study
Router to connect • Cloud VM subnet • Cloud Container subnet • Edge Node virtual subnet • Edge Container subnet Cloud Cluster EdgeNode VM VM VM ... Container Network, e.g. Flannel 10.244.0.0/16 KubeBus Edge Network: 192.168.6.2 Container ... KubeBus Virtual Router Edge Network IP: 192.168.6.4 EIP: 35.160.180.205 VM IP: 192.168.23.131 192.168.23.130 192.168.23.129 Container Network 10.243.0.0/16 EdgeNode EdgeNode KubeBus Edge Network: 192.168.6.3 Container Network 10.242.0.0/16 ... Edge Metadata Service • Goal • Offline Edge Metadata Store • Cloud/Edge metadata bi-direction sync • Component • Edge0 码力 | 11 页 | 1.42 MB | 1 年前3
共 14 条
- 1
- 2