载，包括⽆状态、有状态以及数据处理⼯作负载。 如果应⽤程序可在容器中运⾏，那么它应该能够很好地在 Kubernetes上运⾏。 不提供中间件（例如消息总线）、数据处理框架（例如Spark）、数据库（例如MySQL），也不提供分布式存储系 统（例如Ceph）作为内置服务。 这些应⽤可在Kubernetes上运⾏。 没有点击部署的服务市场。 01-什么是Kubernetes 6 不部署 序以及集群本身。 Container Resource Monitoring（容器资源监控） Container Resource Monitoring 将容器的通⽤时序指标记录到⼀个中⼼化的数据库中，并提供⼀个UI以便于浏览该数 据。 Cluster-level Logging（集群级别的⽇志） Cluster-level logging 机制负责将容器的⽇志存储到具有搜索/浏览界⾯的中央⽇志存储中去。 ⽤户或⼯具/系统来源信息，例如来⾃其他⽣态系统组件的相关对象的URL。 轻量级升级⼯具的元数据：例如配置或检查点。 负责⼈的电话或寻呼机号码，或指定能找到该信息的条⽬，例如团队⽹站。 如果不使⽤注释，则可将这种类型的信息存储在外部数据库或⽬录中，但这将会使⽣产共享客户端库/⼯具（⽤于部 署、管理、内省）变得更加困难。 原⽂ https://kubernetes.io/docs/concepts/overview/worki

小型设备上运行大语言模型，特别是在边缘设备和资源受限的环境中。我们还提到有望提高性能的 ReAct 提示 工程，以及利用大语言模型驱动的自主代理开发远超简单的问答交互的动态应用。我们也提到一些向量数据库 （包括 Pinecone）由于大语言模型而重新流行起来。大语言模型的底层能力，包括更专业化和自行托管的能力， 将继续呈爆发性增长。 远程交付解决方案日臻成熟 尽管远程软件开发团队多年来利用 被证明是我们团队构建的大语言模型应用中使用最广泛的一种。最近，OpenAI 在其 API 中引入了函数调用以使 ReAct 和类似的提示风格更容易实现，而无需依赖像 LangChain 这样的外部工具。我们仍然处于定义这一学科 的早期阶段，但到目前为止，ReAct 及其后继方法已指引出大语言模型最令人兴奋的一些应用领域。 10. 检索增强生成 试验 检索增强生成（RAG） 是一种结合 是一种结合预训练参数和非参数记忆的文本生成技术。它使你能够通过你的领域内特有 的包含上下文的知识，来强化预训练模型中的现有知识。使用 RAG，你会先从非参数记忆中去检索相关文档集 （一般是通过在向量数据库中的相似性搜索），再使用 LLM 中的参数记忆生成与检索出的文档一致的输出。我们 发现 RAG 对各种需要大量知识的 NLP 任务十分有用，包括问答，总结和故事生成。 技术 © Thoughtworks

帮助您洞察集群、节点、应用和服务的详细指标，并通 过动态仪表盘和拓扑大图可视化掌握应用健康状态。 DCE 5.0 原生支持 DevOps 开发运维模式，可以实现应用交付的全流程标准化 和自动化，并集成各类精选数据库和中间件，使运维治理更加高效。各个产品 模块独立解耦，支持灵活升级，对业务没有影响，并且能够与众多云原生生态 产品对接，提供完整的解决方案体系。 它经过了近千家行业客户的生产场景检 验，构建了坚实、 涉及的模块：全局管理、容器管理、云原生网络、云原生存储、信创异构 中间件服务 专为有状态应用设计的云原生本地存储能力，满足中间件高 I/O 的存储需求，提升运 维管理效率。精选各类数据库、分布式消息和日志检索等中间件，提供多租户、部 署、观测、备份、运维操作等全生命周期的中 间件管理能力，实现数据服务的自助化 申请、弹性扩展、高并发处理和稳定高可用。 涉及的模块：全局管理、容器 对象存储：非常热门的轻量对象存储方案 ➢ MySQL 数据库：简单易用、性能更高的开源关系型数据库 ➢ RabbitMQ 消息队列：常用于交易数据的传输管道 ➢ Redis 缓存服务：高性能的开源内存数据库 ➢ PostgreSQL 数据库：功能更丰富、扩展性更强的开源关系型数据库 ➢ MongoDB 数据库：面向文档的 NoSQL 数据库管理系统 镜像仓库 镜像仓库是一个支

上的目标service Port或node port，目标node上的ipvs规则是 直接将此node port/servce port转发到此node上的pod里） ExternalName 将服务映射到集群外部的某个资源，要求v1.7及以上版本 例： kind: Service spec: type: NodePort ports: - port: 443 0.yaml #创建ingress-controller服 务 #是以Deployment控制器去管理ingress控制器的pod，并通过LoadBalancer类型的 service向集群外部提供服务 # kubectl get svc -n ingress-nginx #查看svc # kubectl get pod -n ingress-nginx -owide #默认并未指定固定的nodePort，实际部署时可指定固定nodePort以及添加 nodeSelector选择指定node结点去运行此容器，然后在那指定的node上要有eip （公网ip），就可以提供外部访问 ②创建h�p的ingress ingress资源仅通过Service资源匹配后端pod，ingress控制器直接转发流量到后端 的pod上，不经过service # vi myweb-ingress

源监控，等多种功能。 KUN 运维管理理 监控 ⽇日志 权限 分析 集群管理理 版本管理理 配置管理理 链路路跟踪 负载均衡 ⾃自动容灾 持续集成 持续部署 灰度发布 服务注册/发现 关系数据库 KV存储 对象存储 块存储 DNS 消息队列列 API- Gateway 镜像仓库 统⼀一代码管理理 统⼀一编程框架 统⼀一通讯协议 统⼀一部署环境 计算平台/KUN 公共服务 • IPv6(Pod, Node, Service) • 6to4 Tunnel • Bridge 特性 • 核⼼心基础⽹网络⽆无需修改 • underlay • Pod与集群外部互通 其他⽅方案 • Calico/Flannel: 基于 BGP、IPIP、VXLAN 或⽤用户态程序, 每个节点需要部署 Agent程 序, 数据需要进⾏行行单独的存储（etcd），整 Pod veth ⽹网 桥 6to4 tunnel Think in Cloud . 北北京 IPv6 on KUN Service全⽹网可访问 ClusterIP 在 K8s 集群 外部可以直接访问 分配⼀一个 IPv4地址，在Kuberntes集群下的所有接⼊入交换机上宣 告。该IPv4地址对应的6to4 IPv6地址作为该Kubernetes集群 Service IP的地址段

Serverless（服务器无感知）、低/无代码为代表的技术能够 屏蔽复杂的底层基础设施，让用户以最低学习成本、最小使用代价 最大化释放云的生产力，实现快速创新。AWS 贯彻全面 Serverless 化战略，提供计算、存储、数据库等全领域的 Serverless 服务。微软 发力低/无代码领域，其发布的 Power Platform 已经与 Office 365、 Dynamics 365 以及 Azure 三大生态充分打通，形成完整的技术生态。 对飞腾、鲲鹏、 龙芯、海光等芯片兼容，还包含不同指令集架构的 CPU，以及除 CPU 以外的专有芯片的兼容，如 GPU、DPU 等。软件应用方面，一云多 芯能够适配各种操作系统、虚拟机、容器数据库、中间件等，同时 还能够支撑虚拟化和云原生应用形态。性能调优方面，一云多芯可 以对不同芯片进行调优适配，提升平台整体性能。通过虚拟化产品 性能调优、内核调优和部署架构优化，将性能指标差异控制在有效 Backstage、Grafana、KubeVela 等云原生能力，对接算力、Kubernetes 等差异化基础设施，屏蔽其复杂性，使开发者可以专注于业务需求。 技术架构方面，实施平台工程的关键技术包括对业务应用、中间件 服务、外部服务等统一管理、统一建模；对平台能力进行标准化建 模、使其跟随需求和技术的变化和发展灵活扩展升级；对 PaaS 服务、 算力资源、Kubernetes 资源等基础设施进行统一抽象封装；面对多 样化平台能力需求，平台

地址，只能在集群内部被访问。 NodePort 在每台 Node 的固定端⼝上暴露服务，选择 NodePort 的服务类型，集群会⾃动创建⼀个 ClusterIp 类型 的服务，负责处理Node接收到的外部流量。集群外部的 Client 可以通过:的⽅式访问该服务。 创建服务 1.在容器集群菜单下，单击左侧导航栏中的服务与路由 > 服务，进⼊服务列表⻚⾯。 2.选择所需的集群和命名空间，单击⻚⾯右上⻆的创建服务。 服务会⾃动创建。通过请求 : ，可以从集群的外部访问⼀个 NodePort 服务。 关联：选择服务要绑定的后端对象o。若不进⾏关联部署，则不会创建相关的 Endpoints 对象，您 可⾃⼰进⾏绑定。 外部流量策略：可选值为Local或Cluster。 说明 服务类型为NodePort时，才能设置外部流量策略。 端⼝映射：添加服务端⼝和容器端⼝，容器端⼝需要与后端的 视化的各类仪表盘进⾏显示 点击查看Grafana 跳转⾄Grafana登录⾸⻚ （3）查看详细监控 58 登录进⾸⻚后，即可查看相关仪表盘（折磨默认配置prometheus数据库作为数据源，⽆需⽤户⾃⼰配 置数据源） 59 点击Nodes查看仪表盘，这⾥默认数据源已关联⾄prometheus，⽤户⽆需操作，可查看当前集群对应 实例 左侧导航为Grafana功能栏，功能丰富，可⾃定义仪表盘等操作。

商业增强：控制面HA、跨AZ高可用、滚动升级、裸金属容器 云容器引擎 CCE 微服务引擎 CSE 开源原生 企业级 中间件 分布式 缓存 DCS 分布式 消息 DMS 分布式 数据库 DDM 应用编排引擎 AOS App/PaaS/IaaS 资源一键式创建 应用运维 AOM 应用性能管理 APM 应用拓扑 调用链 SLA指标 日志关联分析 异常预警 故障回溯 基于容器的生物信息分析平台 • 结合FPGA加速计算可进一 步压缩成本 基因测序（测序仪） 数据上传 源数据 存储 基因拼接/对比/注释 数据 分类 存储 核心数据 取回本地 自动化部署 数据库 SFS/OBS 计算 BMS/ECS/FPGA 应用编码服务 AOS 容器服务 CCE/CCI • 应用与资源编排模板化 • 容器化测序算子部署 基因测序业务流 基于容器的应用流 •业务快速迭代，高峰期一周3~5个版本更新，运维压力大 •其他厂商的容器服务成熟度低，达不到商用要求 华为方案价值： •企业级容器服务经过2+年商用实践，SLA有保障 •提供一站式网络、存储、数据库、监控告警和健康检查解 决方案，降低系统集成风险，持续保障业务稳定运行 •支持原生 kubernetes API，原有容器化业务无缝迁移上云 蓝鲸传媒是证券时报旗下，国内首家针对科技媒体人打造的

中type=LoadBalancer支持 （NLB支持方式-> annotations: service.beta.kubernetes.io/aws-load-balancer-type: "nlb"） 内部及外部Load Balancer 支持（internal LB支持方式 -> annotation: service.beta.kubernetes.io/aws-load-balancer-internal: 客户端数据加密 及 数据完整性验证 服务端加密 文件系统和数据 网络流量保护 加密/完整性/身份管理 AWS 端点 基础服务 AWS全球基础架构 AWS IAM 计算 存储 数据库 网络 区域 可用区 边缘节点 由AWS用户管理 由AWS管理 © 2019, Amazon Web Services, Inc. or its Affiliates. All rights rights reserved. Amazon Confidential Amazon EKS 的责任共担模型 用户 IAM 应用 POD AWS 端点 AWS IAM 基础服务 计算 存储 数据库 网络 AWS 全球基础架构 区域 可用区 边缘站点 由AWS用户管理 由AWS管理 KUBELET K8s RBAC APP HOST AWS IAM 容器 升级 加固 监控