Go 并发编程 2017.8.5 黄庆兵 - 网易 bingohuang.com 并发 简单来说，并发是一种构造程序的方式 Concurrency is not Parallelism Slide (http://talks.golang.org/2012/waza.slide) 1. 并发很强大 2. 并发帮助实现并行，使并行(扩展等)变得容易 3. 并发不是并行，并发重点是 ，两者不同，但相关。 04:22 / 31:21 可视化 并发(Concurrency) & 并行(Parallelism) 一图胜千言！ 并行(PARALLELISM) 这是并行 (/2017/go-concurrency-visualize/parallelism.html) 并发(CONCURRENCY) 这是并发 (/2017/go-concurrency-visualize/pingpong36 /pingpong36.html) 为什么要关注并发？当今是多核的时代，并发的世界 多核的时代 并发编程并不容易，但 Go 对并发有很好的支持 Go 语言中的并发 goroutine - 并发执行 channel - 同步和消息传输 select - 多路并发控制 Goroutine 类似于 UNIX 中的 & 很像线程，但更轻量 一个 goroutine 就是一个独立运行的函数

从高并发到极端并发：百度 Feed 与春晚红包的高可用实践-吴永巍

Weibo: @johntech-o Date: 2015.04.25 go语⾔言并发编程实践 以360消息推送系统为例 如何应对的？ go语⾔言在基础服务开发领域的优势？ 我遭遇了哪些挑战？ ⺫⽬目录 具有go特⾊色的运维 在⾼高并发，通信交互复杂，重业务逻辑的分布式系统中， Go语⾔言优势体现在：开发体验好 、⼀一定量级下服务稳定 、⼀一定量级下服务稳定 、性能满⾜足 需要 ⼀一定量级下服务稳定： 50+内部产品，万款开发平台app 实时⻓长连接数亿量级，⽇日独数⼗十亿量级 1分钟内亿量级⼲⼴广播,⽇日下发峰值百亿量级 400台物理机，9个独⽴立集群，国内外近10个IDC 运维管理的go语⾔言编写的常驻service服务实例接近3000个。 业务场景多样： ⽀支持聊天场景业务，稳定⽀支持多款聊天业务app 线上单机最⾼高160w⻓长连接 （24核 E5-2630 @ 2.30GHz 64G内存 ） qps在2~5w（取决于协议版本，业务逻辑，接⼊入端⺴⽹网络状况） 测试环境，可以通过300w⻓长连接压测（⺴⽹网络,连接稳定,⽆无带宽限制,实际可以更⾼高 ,决定于⼲⼴广播时候业务内存开销的cpu消耗带来的⼼心跳或者业务延时能否接受） 以360消息推送系统为例 ⾼高并发、通信交互复杂

第三届中国 Rust 开发者大会 Rust 异步并发框架在移动端的应用 陈明煜 chenmingyu4@huawei.com 华为 公共开发部 嵌入式软件能力中心 本科就读加州大学圣地亚哥分校，毕业时长两年半， Rustacean 在 华为 目前正在使用 Rust 开发并行调度框架等模块。 Rust 异步并发框架在移动端的应用 陈明煜 chenmingyu4@huawei.com Ylong Runtime 并发框架 目录 Table of Contents #2 社区并发框架介绍以及与移动端的不适配性 Introduction to third party Runtime crates and their incompatibility with mobile environment Rust 异步机制 Asynchronous Rust 异步并发框架是许多大型应用、系统具备的底层能力。 任务调度颗粒度更小，充分利用线程资源  更可控的线程数  单个任务资源占用：几十 KB -> 几百 Byte  任务切换时间 : 10 微秒 -> 100 纳秒 Rust 语言并没有提供异步并发框架， 只提供异步所需的基本特性：  Future  async / await  Waker asyn c Future Waker poll Syntax sugar wake

Golang 在接入层长连接服务中的实践 黄欣 基础平台－架构部 目录 • 背景 • 架构 • 心得 目录 • 架构 • 心得 背景—why 长连接？ • 业务场景 – 大量实时计算 • 司机乘客撮合 • 实时计价 – 高频度的数据交互 • 坐标数据 • 计价数据 – App和服务端双向可达 • 上行（抢单） • 下行（派单） 背景—why golang？ • 开发效率 常驻内存，内存中有个大连接对象map（资源问题） • 请求都是基于连接的(如果模块间存在资源的互相引用，当资源变更的情况 下，容易发生panic)（竟态问题） • 对象编程 – 封装：conn资源（包括goruntine）作为结构体封装起来，保证所有资源 销毁干净 – 解耦：保证其他模块不直接使用对象中资源 – 同步：竞态需要锁 特点：有状态，存在大量的公共资源并发访问 心得—coding—实现 statusLoop() 心得—profiling • Timer优化 • Channel使用优化 心得—timer优化 • 为什么需要优化？ – 万级别的连接 – 每个连接上大量的定时任务（心跳检测，注册检测，认证检测） 实际情况：当10w左右连接，什么数据不收发，只有定时器检测心跳超时，cpu 能耗掉一个core • 怎么优化？ – 特点： • 秒级别定时任务 • 范围最多60s – 方案：

它捕捉了被构建系统的有关决策和理解 用来理解 设计 浏览 配置 维 护以及控制系统的信息 ��� 可以与所有的开发方法 生命阶段 应用领域和媒介一同使 用 它意图统一过去建模技术的经验 将当前软件最佳实践合并至标准的方法 ��� 包括 语义概念 标记符号和指南 具有静态 动态 环境上的和组织性的部分 它可以被具有 代码产生和报表生成的交互式可视建模工具所支持 ��� 规范没有定义标准过程 但可用 于迭代的开发过程 ����� ��������� 和其它方 法的标记尽可能的被使用 从而尽可能的为人们所熟悉 这同时意味着对良好设计实践如 封装 问题划分 目标捕获的支持 它特意针对了许多当前软件开发的问题 如大规模 分布 并发 模式和团队开发等等 � ��� 不是完整的开发方法 它不包括逐步的开发流程 我们相信对于软件开发而言 好 的开发过程是非常关键的 认识到 ��� 和使用 ��� 的过程的不同是很重要的 现代迭代 多个类可以使用概括共享通用的结构 孩子类将新添的结构和行为增加 至通过继承得到的结构和行为 对象还可以拥有与其它对象的运行时连接 上述对象 对 象关系建模成类之间的关联 元素之间的一些关系用依赖来分组 包括抽象层次的转移 模板参数的绑定 许可的授予和元素对其它元素的使用 其它关系包括用例和流的合并 静态视图显示为类图 静态视图可以用于产生大多数程序中的数据结构声明 ��� 类图中 有许多种元素 如接口 数据类型

么办公环境都能进行运营配置的管理。 作者简介 作者简介 国宝，美团点评移动运营平台负责人，Java后端架构师，APPKIT项目发起人，负责APPKIT项目的架构设计。专注于 高性能、高稳定、大并发系统的设计与应用。 小龙，目前为APPKIT项目负责人，主要负责APPKIT项目开发、技术对接和实施、开放平台等。专注于前后端全栈技 术开发，喜欢挑战新的技术和业务问题。 CAT 3.0 开源发布，支持多语言客户端及多项性能提升 LruCache在美团DSP系统中的应用演进 LruCache在美团DSP系统中的应用演进 作者: 王粲 崔涛 霜霜 背景 背景 DSP系统是互联网广告需求方平台，用于承接媒体流量，投放广告。业务特点是并发度高，平均响应低 （百毫秒）。 为了能够有效提高DSP系统的性能，美团平台引入了一种带有清退机制的缓存结构LruCache(Least Recently Used Cache)，在目前的DSP系统中，使用LruCache 在美团DSP系统中广泛应用键值存储数据库，例如使用Redis存储广告信息，服务可以通过广告ID获取广 告信息。每次请求都从远端的键值存储数据库中获取广告信息，请求耗时非常长。随着业务发展，QPS呈 现巨大的增长趋势，在这种高并发的应用场景下，将广告信息从远端键值存储数据库中迁移到本地以减少 LruCache在美团DSP系统中的应用演进 - 美团技术团队 查询耗时是常见解决方案。另外服务本身的内存占用要稳定在一个安全的区间内。面对持续增长的广告信

QAT）两个方面进行分析，探索出了一 条切实可行的量化方案。 YOLOv6 采用了多分支的重参数化结构 [2]（如图 1A 所示），通过在网络结构层面加 入人工先验可以在训练阶段让模型更好收敛。在推理阶段，多分支可以等价合并为单 路，从而提升运行速度。但现有的训练后量化方法，不能很好应对多分支结构带来的 剧烈变动的数值范围，导致量化后产生严重的精度损失 [3]。另外，如何针对多分支结 构设计量化感知训练（QAT） quantize_scale_node 节点无法融合，进而导致了额外的开 销。如何解决这个问题？我们使用了一个简单的方法，就是强制使所有分支节点的 量化 scale 相同（根据经验，在同一数量级上的 scale 可以安全合并），即直接修改 QAT 网络中的 Quantizer 节点的参数。 我们整理了 YOLOv6s_repopt 中所有需要进行 scale 融合的节点（如表 7 所示）， 由于 TensorRT PTQ 的 556，而且 mAP 依然保持优化前的 42.1%。 表 8 图优化后 QPS 对比 3.2 线上服务优化 我们在 NVIDIA T4 服务器上进行了端到端的吞吐测试，利用“多实例”并发处理的 技术，YOLOv6s_repopt INT8 QPS 达到了 552，相较 FP16 提升了～ 40%。我 们对服务器的各项指标进行了监测，发现此时 T4 GPU 的利用率只有 95%，还有压

arguments 配置文件 Fabfile 文件的结构和使用 指定 fabfile 引用 Fabric 定义任务并导入 callable 任务 与远程程序集成 合并 stdout 和 stderr 伪终端 两者结合 作为库使用 连接服务器 断开连接 最后注意 输出管理 输出等级 隐藏和／或显示输出级别 并行执行 它是如何运转的 如何使用 bubble 大小 行级输出 vs 比特级输出 SSH 提供彩色输出的函数 上下文管理器 装饰器 文档助手 网络 业务（Operation） 任务 实用工具 扩展 API Fabric 的 扩展包 包括常用而有用的工具（通常是从用户的 fabfile 中合并进来 的），可用于用户 I/O、修改远程文件等任务中。核心 API 倾向于保持小巧、 不随意变更，扩展包则会随着更多的用户案例被解决并添加进来，而不断成长 进化（同时尽量保持向后兼容）。 终端输出工具 return_code 属性）的对象。 abort 函数用于手动停止任务的执行。 即使增加了上述复杂度，整个处理过程仍然很容易理解，而且它已经远比之前 灵活。 参见 上下文管理器, 环境变量完整列表 建立连接 让我们回到 fabfile 的主旨：定义一个 deploy 任务，让它在一台或多台远程服 务器上运行，并保证代码是最新的： def deploy(): code_dir = '/srv/django/myproject'