基于Python的深度学习框 架设计与实现 主讲人： 刘凡平 介绍大纲 一、背景 二、原理：深度学习框架的一般性结构 三、设计 四、应用案例 五、思考 一、背景 深度学习框架是包含深度学习模型设计、训练和验证的一套标准接口、特性库和工具包，集成深度学习 的算法封装、数据调用以及计算资源的使用，同时面向开发者提供了开发界面和高效的执行平台，是算法工 程师的必备工具之一。 美国 决方案或一般性方法。 提供模型生命周期中 科配置的各类功能组件。 实现框架最基础、最 核心的功能，帮助开发者 屏蔽底层硬件技术细节。 三、设计：最小化的深度学习框架 从模型的设计者角度思考，一个模型设计的最小使用内容。 三、设计：最小MVP深度学习框架的层次逻辑 � � � � Datasets DataLoader ABCDataset ABCDataLoader � � 训练10个epoch后的效果对比图： 预测后分类区域图 测试数据分布 五、思考 n 为什么要设计一个深度学习框架？ 切勿以造轮子的初衷去设计深度学习框架，一切均需围绕业务进行。脱离业务的技术体系价值不大。 n 是否存在完美的深度学习框架？ 一切以落地场景为根基，满足业务使用即可，不要过度设计，过度设计将会导致框架越来越复杂、 臃肿。 n 实现的深度学习框架与目前主流开源的结果计算结果不一致怎么办？

目前Xilinx 工具支持python 的主要应用领域 Python 工程师关心的问题 3 Python 工程师开发嵌入式产品的时候哪些地方可能会遇到性能瓶颈？ Ø 传统的计算平台：基于通用处理器的架构，Intel x86 Ø 新的嵌入式计算平台：MCU，DSP，FPGA，GPU、ASSP等 Ø 嵌入式计算： Ø 嵌入式系统是以应用为中心，以计算机技术为基础，软硬件可裁剪，适用于应用系统对功能、可靠 ，既解决了定制电路 的不足，又克服了原有可编程器件门电路数有限的缺点。 Ø 设计语言：硬件描述语言（HDL）是一种用来设计数字逻辑系统和描述数字电路的语言，常用 的主要有VHDL、Verilog HDL Ø 信号处理：数据可以并行处理 Ø 主要实现功能： Ø 组合逻辑 -》计数器 -》算法实现 -》SOC 设计 Ø 新一代FPGA器件：高速接口、ARM SOC、多个 IP 硬核、大容量存储器等 软件仿真：这种方法主要是使用计算机软件来模拟运行， 用户不需要搭建硬件电路就可以对程序进行验证，特别 适合于偏重算法的程序。软件仿真的缺点是无法完全仿 真与硬件相关的部分，因此最终还要通过硬件仿真来完 成最终的设计。 Ø 大部分算法工程师经常做的事情 Ø 大量的仿真软件：Matlab，Simulink Ø 数学建模：核心技术 Ø 硬件仿真：使用附加的硬件来替代用户系统的单片机并 完成单片机全部或大部分的功能。使用了附加硬件后用

目前Xilinx 工具支持python 的主要应用领域 Python 工程师关心的问题 3 Python 工程师开发嵌入式产品的时候哪些地方可能会遇到性能瓶颈？ Ø 传统的计算平台：基于通用处理器的架构，Intel x86 Ø 新的嵌入式计算平台：MCU，DSP，FPGA，GPU、ASSP等 Ø 嵌入式计算： Ø 嵌入式系统是以应用为中心，以计算机技术为基础，软硬件可裁剪，适用于应用系统对功能、可靠 ，既解决了定制电路 的不足，又克服了原有可编程器件门电路数有限的缺点。 Ø 设计语言：硬件描述语言（HDL）是一种用来设计数字逻辑系统和描述数字电路的语言，常用 的主要有VHDL、Verilog HDL Ø 信号处理：数据可以并行处理 Ø 主要实现功能： Ø 组合逻辑 -》计数器 -》算法实现 -》SOC 设计 Ø 新一代FPGA器件：高速接口、ARM SOC、多个 IP 硬核、大容量存储器等 软件仿真：这种方法主要是使用计算机软件来模拟运行， 用户不需要搭建硬件电路就可以对程序进行验证，特别 适合于偏重算法的程序。软件仿真的缺点是无法完全仿 真与硬件相关的部分，因此最终还要通过硬件仿真来完 成最终的设计。 Ø 大部分算法工程师经常做的事情 Ø 大量的仿真软件：Matlab，Simulink Ø 数学建模：核心技术 Ø 硬件仿真：使用附加的硬件来替代用户系统的单片机并 完成单片机全部或大部分的功能。使用了附加硬件后用

目前Xilinx 工具支持python 的主要应用领域 Python 工程师关心的问题 3 Python 工程师开发嵌入式产品的时候哪些地方可能会遇到性能瓶颈？ ➢ 传统的计算平台：基于通用处理器的架构，Intel x86 ➢ 新的嵌入式计算平台：MCU，DSP，FPGA，GPU、ASSP等 ➢ 嵌入式计算： ➢ 嵌入式系统是以应用为中心，以计算机技术为基础，软硬件可裁剪，适用于应用系统对功能、可靠 ，既解决了定制电路 的不足，又克服了原有可编程器件门电路数有限的缺点。 ➢ 设计语言：硬件描述语言（HDL）是一种用来设计数字逻辑系统和描述数字电路的语言，常用 的主要有VHDL、Verilog HDL ➢ 信号处理：数据可以并行处理 ➢ 主要实现功能： ➢ 组合逻辑 -》计数器 -》算法实现 -》SOC 设计 ➢ 新一代FPGA器件：高速接口、ARM SOC、多个 IP 硬核、大容量存储器等 软件仿真：这种方法主要是使用计算机软件来模拟运行， 用户不需要搭建硬件电路就可以对程序进行验证，特别 适合于偏重算法的程序。软件仿真的缺点是无法完全仿 真与硬件相关的部分，因此最终还要通过硬件仿真来完 成最终的设计。 ➢ 大部分算法工程师经常做的事情 ➢ 大量的仿真软件：Matlab，Simulink ➢ 数学建模：核心技术 ➢ 硬件仿真：使用附加的硬件来替代用户系统的单片机并 完成单片机全部或大部分的功能。使用了附加硬件后用

5/531 Python 教程 这是小白的 Python 新手教程，具有如下特点： 中文，免费，零起点，完整示例，基于最新的 Python 3 版本。 Python 是一种计算机程序设计语言。你可能已经听说过很多种流行的编 程语言，比如非常难学的 C 语言，非常流行的 Java 语言，适合初学者 的 Basic 语言，适合网页编程的 JavaScript 语言等等。 那 Python 基础教程【完整版】 http://www.yeayee.com/ 6/531 那是不是越低级的程序越难学，越高级的程序越简单？表面上来说，是 的，但是，在非常高的抽象计算中，高级的 Python 程序设计也是非常 难学的，所以，高级程序语言不等于简单。 但是，对于初学者和完成普通任务，Python 语言是非常简单易用的。连 Google 都在大规模使用 Python，你就不用担心学了会没用。 3D 游戏，最好用 C 或 C++。 如果你是小白用户，满足以下条件：  会使用电脑，但从来没写过程序；  还记得初中数学学的方程式和一点点代数知识；  想从编程小白变成专业的软件架构师；  每天能抽出半个小时学习。 不要再犹豫了，这个教程就是为你准备的！ 准备好了吗？ Python3 基础教程【完整版】 http://www.yeayee.com/ 7/531

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 713 16.7.3 配置字典架构 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 713 16.7.4 配置文件格式 ——Tcl/Tk 的 Python 接口 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1413 25.1.1 架构 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1414 个内置模块 (以 C 编写)，Python 程序员必须依靠它们来实现系统级功能，例如文件 I/O，此外还有大量以 Python 编写的模块，提供了日常编程中许多问题的标准解决方案。其中有些模块经过专门设计，通过将特定 平台功能抽象化为平台中立的 API 来鼓励和加强 Python 程序的可移植性。 Windows 版本的 Python 安装程序通常包含整个标准库，往往还包含许多额外组件。对于类 Unix

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 664 16.7.3 配置字典架构 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 664 16.7.4 配置文件格式 . tkinter ——Tcl/Tk 的 Python 接口 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1321 25.1.1 架构 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1322 xiv 多个内置模块 (以 C 编写)，Python 程序员必须依靠它们来实现系统级功能，例如文件 I/O，此外还有大 量以 Python 编写的模块，提供了日常编程中许多问题的标准解决方案。其中有些模块经过专门设计，通 过将特定平台功能抽象化为平台中立的 API 来鼓励和加强 Python 程序的可移植性。 Windows 版本的 Python 安装程序通常包含整个标准库，往往还包含许多额外组件。对于类 Unix

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 764 16.7.3 配置字典架构 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 764 16.7.4 配置文件格式 ——Tcl/Tk 的 Python 接口 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1513 25.1.1 架构 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1514 个内置模块 (以 C 编写)，Python 程序员必须依靠它们来实现系统级功能，例如文件 I/O，此外还有大量以 Python 编写的模块，提供了日常编程中许多问题的标准解决方案。其中有些模块经过专门设计，通过将特定 平台功能抽象化为平台中立的 API 来鼓励和加强 Python 程序的可移植性。 Windows 版本的 Python 安装程序通常包含整个标准库，往往还包含许多额外组件。对于类 Unix

Last but not least 以上就是PyWebIO的全部功能了，你可以继续阅读接下来的文档，或者立即开 始PyWebIO应用的编写了。 最后再提供一条建议，当你在使用PyWebIO遇到设计上的问题时，可以问一下 自己：如果在是在终端程序中我会怎么做？ 如果你已经有答案了，那么在 PyWebIO中一样可以使用这样的方式完成。如果问题依然存在或者觉得解决方 案不够好， 你可以考虑使用 put_buttons() 如何输出一个诸如搜索栏的输入框 为什么 put_buttons() 的回调不起作用 为什么 put_file() 无法下载文件 如何让输入框在提交后不消失，并可以持续性地输入 PyWebIO 的设计就是输入表单在成功提交后就销毁，因为 PyWebIO 的输入是 阻塞式的，一旦提交表单，输入函数就返回了，此时表单还留在界面上是没有 意义的。如果想实现持续性的输入，可以将接收输入以及后续操作放到一个 SessionClosedException 异常 fix: Session 对象构造函数无法识别 functools.partial 处理的任务函数 服务器-客户端通信协议 PyWebIO采用服务器-客户端架构，服务端运行任务代码，通过网络与客户端 （也就是用户浏览器）交互。本章介绍PyWebIO服务端与客户端通信的协议。 服务器与客户端有两种通信方式：WebSocket 和 Http 通信。 使用 Tornado或aiohttp

Last but not least 以上就是PyWebIO的全部功能了，你可以继续阅读接下来的文档，或者立即开 始PyWebIO应用的编写了。 最后再提供一条建议，当你在使用PyWebIO遇到设计上的问题时，可以问一下 自己：如果在是在终端程序中我会怎么做？ 如果你已经有答案了，那么在 PyWebIO中一样可以使用这样的方式完成。如果问题依然存在或者觉得解决方 案不够好， 你可以考虑使用 put_buttons() 如何输出一个诸如搜索栏的输入框 为什么 put_buttons() 的回调不起作用 为什么 put_file() 无法下载文件 如何让输入框在提交后不消失，并可以持续性地输入 PyWebIO 的设计就是输入表单在成功提交后就销毁，因为 PyWebIO 的输入是 阻塞式的，一旦提交表单，输入函数就返回了，此时表单还留在界面上是没有 意义的。如果想实现持续性的输入，可以将接收输入以及后续操作放到一个 SessionClosedException 异常 fix: Session 对象构造函数无法识别 functools.partial 处理的任务函数 服务器-客户端通信协议 PyWebIO采用服务器-客户端架构，服务端运行任务代码，通过网络与客户端 （也就是用户浏览器）交互。本章介绍PyWebIO服务端与客户端通信的协议。 服务器与客户端有两种通信方式：WebSocket 和 Http 通信。 使用 Tornado或aiohttp