1.推荐篇 2.平台篇 3.总结篇 1 目录 • 推荐场景 • 推荐 • 在线机器学习 • 深度学习 • 平台背景 • 平台架构 • 平台效果 • 微博技术里程碑 • 微博业务生态 推荐篇 APPLICATION 推荐场景、在线机器学习和深度学习 11 1 推荐场景 • 信息流 热门流 视频流 关系流 • 推荐流 图片推荐流 正文推荐流 视频推荐流 1 推荐场景 规模 深度 1 平台背景 算法/模型 计算 数据/特征 存储 基础/IDE 业务 调度 集群 2 平台架构 计算 机器学习平台 Feed排序 推荐流 文本分类/检测 Hadoop/Spark 集群 数据仓库集群 高性能GPU集群 Hdfs/Odps TensorFlow /Caffe 图像/视频分类 阿里云计算集群 实时计算集群 业务 Storm/Flink 业务开发 模型开发 特征工程 建设 平台 接入平台（业务B） 接入 平台 业务开发 模型开发 特征工程 3 平台效果 总结篇 SUMMARY 微博技术里程碑和业务生态 13 2008年 Hadoop 2009年 微博Feed 2011年 开放平台 2013年 大数据 2015年 机器学习 2016年 机器学习平台 2017年 大规模机器学习 深度学习平台 2018年

在线服务(EAS) 生态市场 开发者工具 • CLI • PAIFlow • OpenAPI AI能力 体验中心 开源 PAI平台（Platform of Artificial Intelligence） Deep Learning Container 数据量大而全 先进的模型结构 业务场景复杂 计算力强、性价比高 提供 支撑 支撑 支撑 促进 促进 开源生态 系统 硬件 硬件 模型 生态系统 外循环 内循环 贡献 对接 PAI平台的优势 1. 机器学习PAI: https://help.aliyun.com/product/30347.html 2. 阿里灵杰:https://www.zhihu.com/org/a-li-ling-jie 3. EasyRec: https://github.com/alibaba/EasyRec 4. 推荐解决方案:

设备亲和性影响较小 设备亲和性影响较大 TensorFlow on Yarn技术细节揭秘 Yarn支持GPU调度ResourceManager端实现：� 扩展org.apache.hadoop.yarn.api.records.Resource抽象类及其实现，增加：� � public abstract int getGpuCores();� � public abstract void

-part-i-cff0e3841750 静态图 综合评价 PyTorch TensorFlow 1 TensorFlow 2 性能 生态 工业界 学术界 上手难度 易用性 兼容性 发展前景 0 小结 VS PyTorch生态 TorchVision PyTorch能做什么？ • GPU加速 • 自动求导 • 常用网络层 1. GPU加速 2. 自动求导

TensorFlow - Infra of AI TensorFlow 2 设计原则 TensorFlow 2 简化概念 海纳百川 构建生态 TensorFlow 2 简化概念 1.0 2.0 TensorFlow 2 海纳百川 2.0 TensorFlow 2 构建生态 2.0 TensorFlow 生产级AI方案 TensorFlow 2 核心模块 TensorFlow 2 核心模块概览

. 6 2.4 Keras 支持多个后端引擎，并且不会将你锁定到一个生态系统中 . . . . . . . . . . 6 2.5 Keras 拥有强大的多 GPU 和分布式训练支持 . . . . . . . . . . . . . . . . . . . . . . 6 2.6 Keras 的发展得到深度学习生态系统中的关键公司的支持 . . . . . . . . . . . . . Flask app）中。 • 在 JVM，通过 SkyMind 提供的 DL4J 模型导入。 • 在 Raspberry Pi 树莓派上。 2.4 Keras 支持多个后端引擎，并且不会将你锁定到一个生态系统中 你的 Keras 模型可以基于不同的深度学习后端开发。重要的是，任何仅利用内置层构建的 Keras 模型，都可以在所有这些后端中移植：用一种后端训练模型，再将它载入另一种后端中（比 如为了发布）。支持的后端有： GPU 集群上训练。 • Keras 可以在 Spark（通过 CERN 的 Dist-Keras）和 Elephas 上运行。 为什么选择 KERAS？ 7 2.6 Keras 的发展得到深度学习生态系统中的关键公司的支持 Keras 的开发主要由谷歌支持，Keras API 以 tf.keras 的形式包装在 TensorFlow 中。此外， 微软维护着 Keras 的 CNTK 后端。亚马逊

同单量不同骑士数量 下配送体验，预估在 天气变化、运营活动 订单激增等情况下合 理骑士人数 商圈健康度诊断 综合分析商圈内用户、 商户及骑士，提供线 下运营方案指导 寻宝系统 4 总结—物流系统生态是保证用户良好物流服务体验的基石 22 时光机 | 回顾过去 实时监控 | 监控现在 仿真系统 | 预测未来 寻宝系统 | 指导业务 调度系统 提纲 23 外卖订单的智能 调度系统

发工具。在 pytorch 发布之后两年的 2018 年 facebook 又把 caffe2 项目整合到 pytorch 框架中，这样 pytorch 就进一步 整合原来 caffe 开发者生态社区，因为其开发效率高、特别容 易构建各种复杂的深度学习模型网络，因此很快得到大量人工 智能开发者的认可与追捧，也成为工业界最受欢迎的深度学习 框架之一。 Pytorch 发展至今，其版本跟功能几经迭代，针对不同的场景

式，更适合算法设计和开发；静态图模式运行效率高，更适合算法部署。然而并不全是如 此，在很多任务上，PyTorch 的速度都优于 TensorFlow，而且 PyTorch 在工业部署上也有成 熟的 ONNX 生态，丝毫不逊色于 TensorFlow。 1.5.3 功能演示 深度学习的核心是算法的设计思想，深度学习框架只是我们实现算法的工具。对工具 的理解有助于加深对算法的掌握程度。下面将演示 尾本章。在进入实战之 前，先来正式介绍对于常用的经典数据集，如何利用 PyTorch 生态链提供的工具便捷地加 载数据集。对于自定义的数据集的加载，将会在后续章节介绍。 PyTorch 发布至今，受到越来越多的开发者的青睐，甚至在很多国际会议论文中的使 用率已经远超 TensorFlow。使用的人越多，生态系统相应地越加完善，目前涌现出如 torchvision、torchtext、torchaudio、PyTorch 创建模型即可直接从文件中恢复出网络 network 对象。 8.3.3 SavedModel 方式 TensorFlow 之所以能够被业界青睐，除了优秀的神经网络层 API 支持之外，还得益于 它强大的生态系统，包括移动端和网页端等的支持。当需要将模型部署到其他平台时，采 用 TensorFlow 提出的 SavedModel 方式更具有平台无关性。 通过 tf.saved_model.save

为了能用深度学习来解决现实世界的问题，我们经常从预处理原始数据开始，而不是从那些准备好的张量格 式数据开始。在Python中常用的数据分析工具中，我们通常使用pandas软件包。像庞大的Python生态系统中 的许多其他扩展包一样，pandas可以与张量兼容。本节我们将简要介绍使用pandas预处理原始数据，并将原 始数据转换为张量格式的步骤。后面的章节将介绍更多的数据预处理技术。 36 https://discuss -rw-r--r-- 1 ci ci 651K Aug 18 06:58 my_mlp 小结 • 命令式编程使得新模型的设计变得容易，因为可以依据控制流编写代码，并拥有相对成熟的Python软 件生态。 • 符号式编程要求我们先定义并且编译程序，然后再执行程序，其好处是提高了计算性能。 练习 1. 回顾前几章中感兴趣的模型，能提高它们的计算性能吗？ Discussions143 12.2