第五部分 实战 TensorFlow 手写体数字识别 扫描二维码 试看/购买《TensorFlow 快速入门与实战》视频课程 • 手写体数字 MNIST 数据集介绍 • MNIST Softmax 网络介绍 • 实战 MNIST Softmax 网络 • MNIST CNN 网络介绍 • 实战 MNIST CNN 网络 第五部分 目录 手写体数字 MNIST 数据集介绍 MNIST MNIST 是一套手写体数字的图像数据集，包含 60,000 个训练样例和 10,000 个测试样例， 由纽约大学的 Yann LeCun 等人维护。 获取 MNIST 数据集 MNIST 手写体数字介绍 MNIST 图像数据集使用形如［28，28］的二阶数组来表示每个手写体数字，数组中 的每个元素对应一个像素点，即每张图像大小固定为 28x28 像素。 MNIST 手写体数字介绍 MNIST 表示 黑色（前景），使用取值为［0，255］的uint8数据类型表示图像。为了加速训练，我 们需要做数据规范化，将灰度值缩放为［0，1］的float32数据类型。 255 0 MNIST 手写体数字介绍 下载和读取 MNIST 数据集 一个曾广泛使用（如 chapter-2/basic-model.ipynb），如今被废弃的（deprecated）方法： 下载和读取 MNIST 数据集

2.3 线性模型实战 2.4 线性回归 2.5 参考文献 第 3 章 分类问题 3.1 手写数字图片数据集 3.2 模型构建 3.3 误差计算 3.4 真的解决了吗 3.5 非线性模型 3.6 表达能力 3.7 优化方法 3.8 手写数字图片识别体验 3.9 小结 3.10 参考文献 第 4 章 PyTorch 基础 4.1 向传播算法等算法模型。1986 年，David Rumelhart 和 Geoffrey Hinton 等人将 BP 算法应用 在多层感知机上；1989 年 Yann LeCun 等人将 BP 算法应用在手写数字图片识别上，取得 了巨大成功，这套系统成功商用在邮政编码识别、银行支票识别等系统上；1997 年，现在 应用最为广泛的循环神经网络变种之一 LSTM 被 Jürgen Schmidhuber 提出；同年双向循环 图 1.8 浅层神经网络发展时间线 1.2.2 深度学习 2006 年，Geoffrey Hinton 等人发现通过逐层预训练的方式可以较好地训练多层神经网 络，并在 MNIST 手写数字图片数据集上取得了优于 SVM 的错误率，开启了第三次人工智 能的复兴。在论文中，Geoffrey Hinton 首次提出了 Deep Learning 的概念，这也是(深层)神 经网络被叫作深度学习的由来。2011

Webank身份证识别，主播实名认证： 方便用户快速 的输入证件信息。 SACC2017 OCR识别 – 通用场景和手写 Ø 手写体手机/电话识别准确率可达99%以上。突破业界复杂手写体 识别的难题。 Ø 通用场景准确率和召回率均在88%以上。 Ø 应用场景：快递单据，广告识别等。 l 手写体OCR以及通用OCR识别 l 落地应用： Ø 微云相册识别，广点通广告识别，顺丰快递单据识别，微云文本

代码  调用目标 C 函数  cgo_import_static 申明导入 C 函数  方便后续链接器寻址 常规编译  三种源码，分别编译，最终链接为一个可执行文件  asm 可以手写，C 不可以  go build -v -x -work cgo 调度机制 第三部分 GMP 调度模型 来源：https://learnku.com/articles/41728  OS extraM 好搞 • 释放 extraM 不好搞 • pthread_key_create(&pthread_g, pthread_key_destructor) • crosscall2 是手写 Plan9 的汇编函数 • 兼容性处理：十来个 CPU，好几个 OS • 搞懂混合编译：Go，ASM ，C dropm 的判断条件 1. 有些操作系统，比如 Windows，不支持 pthread

std::vector ：标准库帮你实现好了 • 其实标准库的 vector 是一个特化的版本 ，他会自动像刚刚说的把值看做 1bit ，然后八个 合并成一个 int8_t 。 • 不过效率比我们手写的低很多…… 不推荐使用 std::vector • 不建议使用 vector 的原因：他返回的不是真正的引用，而是一个重载了 operator= 和 operator • 据说深度学习（很多都是 membound ）很喜欢 用 half ，因为可以省一半内存，从而加快一倍。 • 反正小彭老师的 CPU 是不支持 AVX512fp16…… • 因此需要我们手写一些位运算，在 float 和 half 之间转换，然后用 int16_t 来存储。double: float: float16: 转换起来简单一点的： bfloat16 （大指数版） •

那么刚才那个例子改成 array 是不是就可 以自动优化成功了？你可以自己试试看， 想一想，为什么会是这个结果，然后在作 业的 PR 描述中和老师分享你的思考 那改用 array 试试？ 那改用手写的 reduce ？ 那改小到 10 ？成功了！ 结论：代码过于复杂，涉及的语句数量 过多时，编译器会放弃优化！ 简单的代码，比什么优化手段都强。 constexpr ：强迫编译器在编译期求值 个元素用 SIMD 指令填入，每次处理 4 个 剩下 3 个元素用传统的标量方式填入，每次处理 1 个 思想：对边界特殊处理，而对大部分数据能够矢量化 编译器做优化时会自动处理边界特 判。如果你是自己手写 SIMD 指令 的话就要考虑一下这个。 n 总是 4 的倍数？避免边界特判 如果你能保证 n 总是 4 的倍数，也可以这样写： 编译器会发现 n % 4 = 0 ，从而不会生成边界特判的分支

Json/ProtoBuf • 查询 • LogQL • Log Queries • Metric Queries • OpenTSDB • 统计/计算 协议层 • Parser • 手写 • 为什么？ • LogQL=>Token=>AST=>SQL • 测试 • Fuzz testing 处理层 • Processor • 初始化 • 静态/动态 • 执行 • 读/写

时的稳定性，这与那些缺乏这些检查的语言中脆弱的祖传代码形成了鲜明对比，开发者往往不 敢去修改这些代码。通过追求零成本抽象（zero-cost abstractions）—— 将高级语言特性编 译成底层代码，并且与手写的代码运行速度同样快。Rust 努力确保代码又安全又快速。 这里提到的只是几个较大的受益群体，Rust 语言也希望能支持更多其他用户。总的来说， Rust 最重要的目标是消除数十年来程序员习以为常的取舍，让安全和高效、速度和易读易用 Option_f64::Some(5.0); } 泛型 Option 被编译器替换为了具体的定义。因为 Rust 会将每种情况下的泛型代码编译为 具体类型，使用泛型没有运行时开销。当代码运行时，它的执行效率就跟好像手写每个具体定 义的重复代码一样。这个单态化过程正是 Rust 泛型在运行时极其高效的原因。 198/562Rust 程序设计语言 简体中文版 Trait：定义共同行为 trait 定义了某个特定 对于一个更全面的性能测试，你应该使用不同大小的文本作为 contents，不同的单词以及长 度各异的单词作为 query，以及各种其他变化进行检查。关键在于：迭代器，作为一个高级的 抽象，被编译成了与手写的底层代码大体一致性能的代码。迭代器是 Rust 的零成本抽象 （zero-cost abstractions）之一，它意味着抽象并不会引入额外的运行时开销，它与本贾尼·斯 特劳斯特卢普（C++ 的

最佳实践 1. 前端（或后端）：在 Apifox 上定好接口文档初稿。 2. 前后端：一起评审、完善接口文档，定好接口用例。 3. 前端：使用系统根据接口文档自动生成的 Mock 数据进入开发，无需手写 mock 规则。 4. 后端：使用接口用例 调试开发中接口，只要所有接口用例调试通过，接口就开发完成了。如开发过中接口有变化，调 试的时候就自动更新了文档，零成本的保障了接口维护的及时性。 5