微服务容灾治理
3CPU负载反馈因⼦ 当CPU负载超过了设置的阈值时,我们期望CPU越⾼,对请求的拒绝⽐例越⾼,否则CPU依然有可 能越来越靠近100%。 反馈因⼦计算公式如下: 反馈因⼦的效果类似于神经⽹络中的ReLU激活函数。其中0.1(兜底的经验值)是⽤来保证不管负载 多⾼,⾄少放过估算出来的系统容量的10%的请求,否则整个服务就完全不可⽤了。CPU负载反馈因 ⼦随着CPU负载的变化如下图: 对⽐有⽆CPU反馈因⼦的情况: • 加了反馈因⼦后能接受更多请求,从不到3000qps上升到了5000qps左右,上图是拒绝的请求 • 成功处理的请求数有略微下降,因为进来的请求变多了,拒绝请求消耗了少量资源 • 加了反馈因⼦P99时延从900ms左右,降低到700ms左右 • 加了反馈因⼦P90从250ms降到了50ms 由此可⻅,CPU负载反馈因⼦的作⽤还是很明显的。 和 minRT(最⼩处理时间),不同于BBR的不能同时探测,我们是可以同时探测的,所以我们不需 要有复杂的状态机,只需要通过滑动窗⼝来记录过去⼀段周期内的请求状况即可。 • CPU负载反馈因⼦。类似于神经⽹络中的激活函数,基于CPU负载对系统容量做调节。 • 过载保护冷却时间。⽤于避免过载保护在CPU临界值周边来回启停,有利于⼤流量下的请求抑制 效果。 • 跟HPA0 码力 | 13 页 | 1.68 MB | 1 年前32022年美团技术年货 合辑
础研发平台数据科学与平台部和视觉智 能部。 算法 < 37 7 次 KDD Cup&Kaggle 冠军的经验分享: 从多领域优化到 AutoML 框架 作者:胡可 1. 背景与简介 反馈快速、竞争激烈的算法比赛是算法从业者提升技术水平的重要方式。从若干行业 核心问题中抽象出的算法比赛题目具有很强的实际意义,而比赛的实时积分榜促使参加 者不断改进,以试图超越当前的最佳实践,而且获胜方案对于工业界与学术界也有很强 解决方案。该方案需要基于图的给定特征、邻域和结构信息,高效地学习每个结点的 高质量表示。比赛数据从真实业务中收集,包含社交网络、论文网络、知识图谱等多 种领域共 15 个,其中 5 个数据集可供下载,5 个反馈数据集评估方案在公共排行榜 的得分,剩余 5 个数据集在最后一次提交中评估最终排名。 算法 < 49 图 9 AutoGraph 图数据集概览 每个数据集给予了图结点 id 和结点特征,图边和边权信息,以及该数据集的时间预 单场景短期 Session 建模到多场景用户长期行为兴趣建模,在多个方向上都做出了详尽的探索。序列建模 能够在用户历史行为中,充分发掘用户的兴趣偏好,但是由于用户行为序列本身是 “有偏采样”的反馈:不同用户所处的地理位置、商家供给情况、使用频次等方面存 在着较大差异;且高低频用户的点击行为分布差异明显,呈现出高频用户行为丰富聚 集、低频用户行为稀疏的特点。 对于高频用户,可能会导致兴趣0 码力 | 1356 页 | 45.90 MB | 1 年前3Django、Vue 和Element UI 前后端原理论述
找谁造数、造什么样的数,时间往往都消耗在沟通上。 基于以上痛点和难点,并结合对测试数据实际准备过程中相关问题的探索和研究形 成了长链路业务测试数据快速构造方法论,主要包括场景梳理、功能编排、数据构造、 结果反馈以及维护保鲜等几部分,总体流程如下图所示: 39 《51 测试天地》七十四 www.51testing.com 1、场景梳理 场景梳理主要是指在熟悉长链路业务流程、接口和实现逻辑的基础上,按照待造数 51testing.com 简单来讲,功能编排的核心主要是通过 JSONpath 语法完成参数动态替换,如下图所 示: 3、数据构造及结果反馈 数据构造主要包括明确输入、输出格式等信息,并按照完成组合好的场景完成数据 构造,而结果反馈是将构造完成的数据按照格式反馈给用户。 41 《51 测试天地》七十四 www.51testing.com 4、维护保鲜机制 维护保鲜机制是为了解决在首次建 维护保鲜机制是为了解决在首次建立长链路业务数据构造流程后,中间由于某些原 因导致长链路场景发生了变化(例如功能和接口有改变)而数据构造失效不可用,在通 过维护保鲜后能够及时响应变化,以确保数据构造能够随时可用。在检查反馈数据结果 是否符合预期后,如不符合则进入维护保鲜环节及时进行处置,待处置成功后继续循环 构造流程。处置措施一般包括以下三方面: 1.若判断是场景发生变化,需重新评估; 2.若判断是场景中功能发生变化,需定位到具体功能,重新梳理更新场景;0 码力 | 61 页 | 6.84 MB | 1 年前3NSQ - 陈冶
computing stream computing Msg 使⽤需求 • 数据缓冲,提⾼可⽤性 ,缓冲服务故障 • 数据⼴播,分发给多个服务 • 负载均衡,提⾼消费者的扩展性 • 消费反馈,确保消息不丢失 使⽤案例 ⼴告点击数统计 Web Service MySQL cluster User Click User Click User Click Stateless ,缓冲服务故障 • 数据⼴播,分发给多个服务 • 负载均衡,提⾼消费者的扩展性 • 消费反馈,确保消息不丢失 • MQ:分布式部署,排除⾃⾝单点故障 使⽤需求 • 数据缓冲,提⾼可⽤性 ,缓冲服务故障 • 数据⼴播,分发给多个服务 • 负载均衡,提⾼消费者的扩展性 • 消费反馈,确保消息不丢失 • MQ:分布式部署,排除⾃⾝单点故障 • MQ:具备横向扩展性,排除性能瓶颈 Consumer Consumer chan *Msg 多个 Consumer 同时通过同⼀个 chan 读取 Memory Channel Disk Queue Channel 消费反馈 InFight Client Channel NSQ Msg1 Msg1 Msg1 Consuming Fin Msg1 Requeue Msg1 Msg1 Timeout Msg10 码力 | 37 页 | 2.49 MB | 1 年前3敏捷开发/张燎原:从持续交付到业务创新
开发任务 通过交付关联的功能,构建完整的业务场景, 解决⽤用户和业务的问题,从⽽而达成业务⽬目标。 需求层次 产品规划层⾯面 功能需求向业务场景对⻬齐,快 速交付业务场景,并形成业务 ⽬目标的反馈闭环 交付团队层⾯面 开发任务向功能需求对⻬齐,持 续⾼高质量量的交付需求 开发任务 开发任务 外部依赖 功能需求 功能需求 功能需求 功能需求 主题(阶段⽬目 标) 业务场景 场景1 独⽴立可运营单元 功能是可部署、 可验证的单元 产品规划看板 #4. 验证优化 —— 建⽴立业务数据化反馈机制并及时调整 建⽴立数据反馈模型 也就这些了了…… 系统化思考: 有效的目标分解 目标驱动的 业务规划 流水线交付:持续 快速、高质量交付 结构化组织和澄清 需求 持续反馈,验证和 优化业务目标 问题分析 方案设计 持续交付 产品解决方案制定 ⽉月规划、周排期,⽇日站会0 码力 | 40 页 | 3.34 MB | 1 年前3202309 MeterSphere ⼀站式开源持续测试平台
持续测试是持续交付发展的必然需求 持续交付可以降低发布⻛险,提⾼可靠性,使 软件能够根据⽤户反馈、市场变化和企业战略 变更不断进⾏调整。 持续交付能⼒是企业核⼼竞争⼒ 持续测试能⼒保障业务⾜够可靠 持续测试是执⾏⾃动化测试的过程,作为软件 交付流⽔线的重要⼀环,持续测试帮助企业尽 快获得软件发布后业务⻛险的反馈。 保 证 交 付 ⾜ 够 快 保 证 业 务 ⾜ 够 稳 催⽣ 促进 为什么测试环节会成为持续交付中的瓶颈? 系统测试 回归测试 接⼝测试 功能测试 UI 测试 ⼿⼯执⾏ 定时执⾏ 流⽔线调⽤ 阶段性报告 统⼀报告 测试报告 定时任务/流⽔线 更新⽤例状态 版本迭代 分层 设计 持续反馈 持续改进 数据采集 数据采集 度量 功能评审率 接⼝覆盖率 ⾃动化执⾏效率 缺陷统计数 缺陷管理 缺陷统计 缺陷分布 数据采集 性能测试 ⽤例 评审 缺陷推送与同步 ⼈⼯模式的测试计划执⾏ 测试计划制定 测试计划 ⼈⼯执⾏ 制定测试的责任⼈、范围、 ⽅法、资源和进度等 接 ⼝ 测 试 功 能 测 试 性 能 测 试 安 全 测 试 其 他 测 试 测试项 ⼤量的⼈⼯确认与结果反馈机制 UI 测 试 A P P 测 试 脑图 列表 在线 转换 导⼊ 导出 本地 Execl 编写⽤例 本地脑图 编写⽤例 导出 Execl 或者脑图 测试管理 MeterSphere0 码力 | 45 页 | 4.65 MB | 1 年前3面向亿行 C/C++ 代码的静态分析系统设计及实践-肖枭
使用了定理证明器求解可 行路径(精确,耗时) • 能跨函数分析 • 能处理指针 使用有深度的代码分析器 做到快速和准确 用尽量少机器完成一天几千次分析 每次分析10分钟要能结束 控制误报并建立反馈和改进机制 挑战:超大规模代码仓库 项目平均40分钟单机编译时间 项目平均编译代码量超百万行 编译的价值 C/C++代码逻辑受编 译参数深度控制 源代码索引和统计 提升开源静态分析工 具分析质量 50 100 150 200 250 300 不编译 编译 报告数 编译流程融合静态分析 分布式编译与分析 大量使用缓存 提升静态分析的理论速度 如何做到10分钟反馈分析结果 系统地改进分析时间 编译流程 分析流程 依赖关系分析 分布式 编译 分布式 分析 分布式链接 跨模块分析 报告整合 缓存 缓存 缓存 缓存 硬核玩家:从理论上改进静态分析能力 硬核玩家:从理论上改进静态分析能力 PLDI 2018: 去掉路径 遍历分析中的冗余 ICSE 2019:路径遍历内 存泄漏分析的多项式算法 需求2:误报率要低 方法1: 数据驱动的改进循环 降低 误报率 标注反馈 优化 代码扫描 新增分析器 淘汰分析器 感知误报率 数据驱动的开发管理 方法2: 高低搭配 高危,误报率偏高的高价值检查器 搭配其他误报率低的检查器 避免重要问题被忽略的同时降低0 码力 | 39 页 | 6.88 MB | 1 年前32020美团技术年货 算法篇
在重排序建模上,目前引入 Transformer 取得了一些效果,同时随着强化学 习的普及,在美团这种用户与系统强交互的场景下,用户的行为反馈蕴含着很 大的研究价值,未来利用用户的实时反馈信息进行调序是个值得探索的方向。 例如,根据用户上一刻的浏览反馈,对用户下一刻的展示结果进行调序。 除了上面提到的三点,考虑到美团搜索上承载着多个业务,比如美食、到综、酒店、 旅游等等,各个业务之间既有 实验在产品优化中的应用方法是:在产品正式迭代发版之前,为同一个 目标制定两个(或以上)方案,将用户流量对应分成几组,在保证每组用户特征相同 的前提下,让用户分别看到不同的方案设计,根据几组用户的真实数据反馈,科学的 算法 < 89 帮助产品进行决策。 互联网领域常见的 AB 实验,大多是面向 C 端用户进行流量选择,比如基于注册用户 的 UID 或者用户的设备标识(移动用户 IMEI 号 /PC 发 的会被遗忘,产生了系统中的流行度偏差 [3],并且大多数模型和系统的迭代依赖于页 面浏览(Pageview)数据,而曝光数据是实际候选中经过模型选择的一个子集,不断 地依赖模型选择的数据与反馈再进行训练,将形成选择性偏差 [3]。上述流行度偏差与 选择性偏差不断积累,就会导致系统中的“马太效应”越来越严重。因此,人工智能 公平性问题对于推荐系统的不断优化至关重要,并且这将对推荐系统的发展以及生态0 码力 | 317 页 | 16.57 MB | 1 年前3Go Web编程
web工作方式的几个概念 以下均是服务器端的几个概念 Request:用户请求的信息,用来解析用户的请求信息,包括post、get、cookie、url等信息 Response:服务器需要反馈给客户端的信息 Conn:用户的每次请求链接 Handler:处理请求和生成返回信息的处理逻辑 分析http包运行机制 分析http包运行机制 如下图所示,是Go实现Web服务的工作模式的流程图 路由规则,当请求uri为"/",路由就会转到函数sayhelloName,DefaultServeMux会调用ServeHTTP方法,这个方法内 部其实就是调用sayhelloName本身,最后通过写入response的信息反馈到客户端。 详细的整个流程如下图所示: 95 图3.10 一个http连接处理流程 至此我们的三个问题已经全部得到了解答,你现在对于Go如何让Web跑起来的是否已经基本了解呢? 重要了,因此后面的章节中专门写了一个小节来讲解了不同方面的数据过滤,顺带讲一下Go对字符串的正则处理。 通过这一章能够让你了解客户端和服务器端是如何进行数据上的交互,客户端将数据传递给服务器系统,服务器接受 数据又把处理结果反馈给客户端。 links links 目录 上一节: 处理文件上传 下一章: 访问数据库 114 5 访问数据库 5 访问数据库 对许多Web应用程序而言,数据库都是其核心所在。数据0 码力 | 295 页 | 5.91 MB | 1 年前3Django 官方教程翻译项目
档内容的生成和导出工 具。 文档内容由网友们编写和整理,书栈(BookStack.CN) 难以确认文档内容知识点是否错漏。如 果您在阅读文档获取知识的时候,发现文档内容有不恰当的地方,请向我们反馈,让我们共同携手, 将知识准确、高效且有效地传递给每一个人。 同时,如果您在日常生活、工作和学习中遇到有价值有营养的知识文档,欢迎分享到 书栈 (BookStack.CN) ,为知识的传承献上您的一份力量! 面——包括了最新的修正和新添加的内容,以及对于只面向使用 Django 最新版本的用户开放的新特 性讨论。(参考下文“版本之间的差异”) 我们鼓励您通过反馈系统 提交更新,修正和建议以促进文档质量的改善。Django的开发人员会积极 地关注反馈系统,并根据您的反馈来改善文档。 请注意,无论如何,提交的反馈应该和文档密切相关,而不是涉及技术支持的问题。如果您需要额外 的技术支持,请试试 django user 邮件列表或者 #django0 码力 | 103 页 | 1.86 MB | 1 年前3
共 151 条
- 1
- 2
- 3
- 4
- 5
- 6
- 16