TensorFlow on Yarn：深度学习遇上大数据

《TensorFlow on Yarn：深度学习遇上大数据》总结 一、TensorFlow使用现状及痛点 1. 集群资源管理问题： - GPU资源管理和调度缺失，集群负载不均衡 - 资源组划分困难 2. 作业管理问题： - 缺乏统一管理和状态跟踪 - 进程遗留需手动处理 3. 数据和日志管理问题： - 训练数据和模型需手动分发与保存 - 日志查看不便 二、TensorFlow on Yarn设计 1. 功能特点： - 同时支持单机和分布式TensorFlow - 自动化GPU资源管理和调度 - 自动构建ClusterSpec，减少人工配置 - 基于HDFS的统一存储体系 - 自动回收资源，减少人工干预 2. 优势： - 保持训练效果和性能 - 解决资源管理和作业调度痛点 三、TensorFlow on Yarn技术细节 1. 实现流程： - 遵循Yarn Application标准流程 2. 关键技术难点： - 自动构建ClusterSpec信息 - 训练数据的划分与分发 - Tensorboard服务的自动启动 - GPU设备号映射解决方案 四、深度学习平台演进及SparkFlow 1. 背景： - 深度学习与大数据结合的机遇 - 360大数据团队专业支持（Yarn、Spark、MR、HDFS等） 2. 未来方向： - 深度学习与大数据平台深度融合 - 敬请期待SparkFlow解决方案 本总结完整梳理了TensorFlow on Yarn的核心内容，重点突出了其在资源管理、作业调度和技术实现上的创新，同时展望了未来的平台发展方向。