使用Python训练和部署低精度模型 （TensorFlow版） 张校捷 2019/9/21 目录 CONTENTS 低精度的概念和意义 TensorFlow的FP16模型 TensorRT的FP16/Int8模型 总结 1 低精度的概念和意义 实数的16-bit半精度浮点数和8-bit定点数表示 使用低精度的意义 深度学习模型中实数的表示 FP32: E8M23 FP16: ResNet-50-v1.5 3.3X speedup SSD-RN50-FPN-640 2.5X speedup FP16浮点数（E5M10）的表示范围 FP16模型的训练方法 Int8模型的推断过程 2 TensorFlow的FP16模型 实数的16-bit半精度浮点数和8-bit定点数表示 使用低精度的意义 TensorCores适用条件 1. 卷积：K（输入通道），C（输出通道） 2 2=1 TF_ENABLE_CUDNN_TENSOR_OP_MATH_FP32=1 TF_ENABLE_CUDNN_RNN_TENSOR_OP_MATH_FP32=1 TensorFlow手动转换模型 import tensorflow as tf import numpy as numpy input = tf.placeholder(dtype=tf.float32, shape=[None

Python的NLP实战分享 如何实现合同风险预测模型？ GVA TECH Co., Ltd 藤井美娜 自我介绍 2% |# | self-introduction • Machine Learning Engineer / Data Scientist • GVA TECH的人工智能法律服务AI-CON的多语言系统 开发负责人 inazo18 藤井美娜 目录 CONTENTS CONTENTS 1. Python NLP 入门 2. 多语言NLP攻略 3.“合同风险预测模型”实战经验分享 4. 总结 5% |### | today’s topic 1 Python NLP 入门 简单介绍自然语言处理的流程和使用corpus的EDA方法。 8% |##### | section1 NLP基础 11% |######### | section1 收集语料 前处理 section1 收集语料 前处理 分词 向量化 机器学习模型 各种OUTPUT 语义解析 NLP基础 22% |################## | section1 收集语料 前处理 分词 向量化 机器学习模型 各种OUTPUT 语义解析 有时候会把语义分析的结果做成 feature，放进机器学习模型里。 EDA NLP基础 25% |###################

Python的NLP实战分享 如何实现合同风险预测模型？ GVA TECH Co., Ltd 藤井美娜 自我介绍 2% |# | self-introduction • Machine Learning Engineer / Data Scientist • GVA TECH的人工智能法律服务AI-CON的多语言系统 开发负责人 inazo18 藤井美娜 目录 CONTENTS CONTENTS 1. Python NLP 入门 2. 多语言NLP攻略 3.“合同风险预测模型”实战经验分享 4. 总结 5% |### | today’s topic 1 Python NLP 入门 简单介绍自然语言处理的流程和使用corpus的EDA方法。 8% |##### | section1 NLP基础 11% |####### | section1 收集语料 前处理 分词 收集语料 前处理 分词 向量化 （Vectorization） 机器学习模型 各种OUTPUT 语义解析 NLP基础 19% |################ | section1 收集语料 前处理 分词 向量化 机器学习模型 语义解析 有时候会把语义分析的结果feature， 放进机器学习模型里。 各种OUTPUT EDA NLP基础 23% |###################

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1177 20.6 xml.dom --- 文档对象模型 API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1185 20.6.1 模块内容 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1218 20.13.4 内容模型描述 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1219 20.13.5 Expat . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1416 25.1.4 线程模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1419 25.1

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1098 20.6 xml.dom --- 文档对象模型 API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1105 20.6.1 模块内容 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1137 20.13.4 内容模型描述 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1137 20.13.5 Expat Tkinter 拾遗 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1324 25.1.4 线程模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1326 25.1.5 快速参考

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1261 20.6 xml.dom --- 文档对象模型 API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1269 20.6.1 模块内容 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1304 20.13.4 内容模型描述 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1305 20.13.5 Expat . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1516 25.1.4 线程模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1519 25.1

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1200 20.6 xml.dom --- 文档对象模型 API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1207 20.6.1 模块内容 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1239 20.13.4 内容模型描述 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1239 20.13.5 Expat Tkinter 拾遗 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1438 25.1.4 线程模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1441 25.1.5 快速参考

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1200 20.6 xml.dom --- 文档对象模型 API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1207 20.6.1 模块内容 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1239 20.13.4 内容模型描述 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1239 20.13.5 Expat Tkinter 拾遗 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1438 25.1.4 线程模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1441 25.1.5 快速参考

ElementTree --- ElementTree XML API . . . . . . . . . . . . . . . . . . . . . 1046 20.6 xml.dom --- 文档对象模型 API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1063 20.7 xml.dom.minidom 时要用到哪个 future 语句。如果两者都未提供（或 都为零）则会使用调用compile() 的代码中有效的 future 语句来编译代码。如果给出了 flags 参数 但没有 dont_inherit (或是为零) 则 flags 参数所指定的以及那些无论如何都有效的 future 语句会被使 用。如果 dont_inherit 为一个非零整数，则只使用 flags 参数 -- 在调用外围有效的 future 的复数，或将字符串或数字转换为复数。如果第一个形参是字符串，则它被 解释为一个复数，并且函数调用时必须没有第二个形参。第二个形参不能是字符串。每个实参都可 以是任意的数值类型（包括复数）。如果省略了 imag，则默认值为零，构造函数会像int 和float 一样进行数值转换。如果两个实参都省略，则返回 0j。 对于一个普通 Python 对象 x，complex(x) 会委托给 x.__complex__()。如果 __complex__()

ElementTree --- ElementTree XML API . . . . . . . . . . . . . . . . . . . . . 1046 20.6 xml.dom --- 文档对象模型 API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1063 20.7 xml.dom.minidom 时要用到哪个 future 语句。如果两者都未提供（或 都为零）则会使用调用compile() 的代码中有效的 future 语句来编译代码。如果给出了 flags 参数 但没有 dont_inherit (或是为零) 则 flags 参数所指定的以及那些无论如何都有效的 future 语句会被使 用。如果 dont_inherit 为一个非零整数，则只使用 flags 参数 -- 在调用外围有效的 future 的复数，或将字符串或数字转换为复数。如果第一个形参是字符串，则它被 解释为一个复数，并且函数调用时必须没有第二个形参。第二个形参不能是字符串。每个实参都可 以是任意的数值类型（包括复数）。如果省略了 imag，则默认值为零，构造函数会像int 和float 一样进行数值转换。如果两个实参都省略，则返回 0j。 对于一个普通 Python 对象 x，complex(x) 会委托给 x.__complex__()。如果 __complex__()