gensim：训练word2vec • jieba：切词，统计生成PMI/TM词典 • difflib：调用SequenceMatcher生成edit-distance • fasttext：对词向量进行fine-tune，计算fasttext label • numpy：计算w2v cosine/fasttext cosine • wmd：计算wmd特征 • esim：计算lstm-esim特征 learn：调用LR训练模型 各个击破－评估 • 评估数据 Ø 领域均衡：6个领域，每个领域50个知识点 Ø 评估数据对标训练数据：每个知识点12个相似问用于训练，3个相似问用于评估 • 评估指标 Ø 准确率/召回率/F1值 婴儿咳嗽怎么食疗 新生儿黄疸吃什么药 没有快递取货码怎么办 宝宝流鼻水咳嗽可以喝什么么 新生儿黄疸可以服用的药物 取货吗被我不小心删了怎么办 宝宝咳嗽吃什么食疗好阿 什么药能治疗黄疸 宝宝有点咳嗽怎么食疗 退黄疸用什么药 怎么能知道取货码 各个击破－迭代 • badcase分析 • 设计有效特征 Ø IDF加权 • 强化特征语义表示能力 Ø 词袋模型语义表示能力弱 Ø 预训练词向量能提升模型的语义表示能力 Ø 深度学习网络让句子产生交互，能进一步提升语义表 示能力 Ø 领域内数据fine-tune是有效的 • 拥抱业界新兴模型 Ø bert+MTL 方法 领域1 领域2

5700万) • GEMM 通过优化内存局部性和向量指令，比朴素实现快 10 倍以上 GEMM • 优化 GEMM • 内存布局：矩阵分块；重排 • 向量化指令：AVX、NEON V0 V1 ✕ ✕ ✕ ✕ V2 GEMM 例子 • 优化 GEMM • 内存布局：矩阵分块；重排 • 向量化指令：AVX、NEON 原始算法 展开4x1 向量化 GEMM 例子 • 优化 GEMM GEMM • 内存布局：矩阵分块；重排 • 向量化指令：AVX、NEON 原始算法 展开4x1 向量化 GEMM • 优化 GEMM • 内存布局：矩阵分块；重排 • 向量化指令：AVX、NEON • 硬件加速 • Nvidia Volta 架构引入 tensor core • Intel AMX, Advanced Matrix Extension • ARM SME, Scalable 硬件指令支持 ARMv8.6 bf16 扩展 • bf16 扩展 • ARMv8.6 • 矩阵乘法指令 BFMMLA • 类型转换指令 BFCVT • BFMMLA • 128 bit 向量寄存器 • 单指令完成 (2x4) * (4x2) • 16 mul + 16 add 深度学习推理加速 • BF16 gemm 实现 • ARM Compute Library • OpenBLAS

》等。 NLP基础 18% |############### | section1 收集语料 前处理 分词 向量化 机器学习模型 各种OUTPUT 语义解析 NLP基础 22% |################## | section1 收集语料 前处理 分词 向量化 机器学习模型 各种OUTPUT 语义解析 有时候会把语义分析的结果做成 feature，放进机器学习模型里。 |################### | section1 收集语料 前处理 分词 向量化 机器学习模型 语义解析 各种OUTPUT ※一般来说，把数据处理成countable的 形式之后做EDA。 NLP基础 28% |######################## | section1 收集语料 前处理 分词 向量化 机器学习模型 语义解析 各种OUTPUT 为什么要做EDA呢？ ######################################## | section3 ROUGE RIBES word2vec TF-IDF 机器翻译的手法 神经网络 向量化的典型手法 $ from RIBES import RIBESevaluator $ ribes = RIBESevaluator() $ score = ribes.eval([target]

NLP基础 14% |########### | section1 收集语料 前处理 分词 向量化 （Vectorization） 机器学习模型 各种OUTPUT 语义解析 NLP基础 19% |################ | section1 收集语料 前处理 分词 向量化 机器学习模型 语义解析 有时候会把语义分析的结果feature， 放进机器学习模型里。 各种OUTPUT |################### | section1 收集语料 前处理 分词 向量化 机器学习模型 语义解析 各种OUTPUT ※一般来说，把数据处理成countabul的形式之后 做EDA。 EDA NLP基础 28% |######################## | section1 收集语料 前处理 分词 向量化 机器学习模型 语义解析 ※一般来说，把数据处理成countabul的形式之后 ######################################## | section3 ROUGE RIBES word2vec TF-IDF 机器翻译的手法 神经网络 向量化的典型手法 $ from RIBES import RIBESevaluator $ ribes = RIBESevaluator() $ score = ribes.eval([target]

是 -3*pi/4 。 math.cos(x) 返回 x 弧度的余弦值。 math.hypot(x, y) 返回欧几里德范数，sqrt(x*x + y*y) 。这是从原点到点 (x, y) 的向量长度。 math.sin(x) 返回 x 弧度的正弦值。 math.tan(x) 返回 x 弧度的正切值。 9.2.4 角度转换 math.degrees(x) 将角度 x 从弧度转换为度数。 .。在 Python 中可 以组合map() 和count() 实现：map(f, count())。 这些内置工具同时也能很好地与operator 模块中的高效函数配合使用。例如，我们可以将两个向量的 点积映射到乘法运算符：sum(map(operator.mul, vector1, vector2)) 。 无穷迭代器： 迭代器 实参 结果 示例 count() start, [step] 流（例如 gzip 压缩的 HTTP 流或 LZMA 压缩的文件）的 XML 库。对于攻击者来说，它可以将传输 的数据量减少三个量级或更多。 PyPI 上 defusedxml 的文档包含有关所有已知攻击向量的更多信息以及示例和参考。 21.4. XML 处理模块 999 The Python Library Reference, 发布 3.7.13 21.4.2 defusedxml 和 defusedexpat

是 -3*pi/4 。 math.cos(x) 返回 x 弧度的余弦值。 math.hypot(x, y) 返回欧几里德范数，sqrt(x*x + y*y) 。这是从原点到点 (x, y) 的向量长度。 math.sin(x) 返回 x 弧度的正弦值。 math.tan(x) 返回 x 弧度的正切值。 9.2.4 角度转换 math.degrees(x) 将角度 x 从弧度转换为度数。 .。在 Python 中可以组 合map() 和count() 实现：map(f, count())。 这些内置工具同时也能很好地与operator 模块中的高效函数配合使用。例如，我们可以将两个向量的点积 映射到乘法运算符：sum(map(operator.mul, vector1, vector2)) 。 无穷迭代器： 迭代器 实参 结果 示例 count() start, [step] （例如 gzip 压缩的 HTTP 流或 LZMA 压缩的文件）的 XML 库。对于攻击者来说，它可以将传输的数据 量减少三个量级或更多。 PyPI 上 defusedxml 的文档包含有关所有已知攻击向量的更多信息以及示例和参考。 21.4.2 defusedxml 和 defusedexpat 软件包 defusedxml 是一个纯 Python 软件包，它修改了所有标准库 XML 解析器的子类，可以防止任何潜在的恶意操

二分查找。例如前文查字典的例子，我们可以将字典中的所有字按照拼音顺序存储在数组中，然后使用与日常 查纸质字典相同的“翻开中间，排除一半”的方式，来实现一个查电子字典的算法。 深度学习。神经网络中大量使用了向量、矩阵、张量之间的线性代数运算，这些数据都是以数组的形式构建 的。数组是神经网络编程中最常使用的数据结构。 4.2. 链表 � 引言 内存空间是所有程序的公共资源，排除已占用的内存，空闲内存往往是散落在内存各处的。我

二分查找。例如前文查字典的例子，我们可以将字典中的所有字按照拼音顺序存储在数组中，然后使用与日常 查纸质字典相同的“翻开中间，排除一半”的方式，来实现一个查电子字典的算法。 深度学习。神经网络中大量使用了向量、矩阵、张量之间的线性代数运算，这些数据都是以数组的形式构建 的。数组是神经网络编程中最常使用的数据结构。 4.2. 链表 � 引言 内存空间是所有程序的公共资源，排除已占用的内存，空闲内存往往是散落在内存各处的。我

20 3.8 新版功能. math.hypot(*coordinates) 返回欧几里得范数，sqrt(sum(x**2 for x in coordinates))。这是从原点到坐标给定点 的向量长度。 对于一个二维点 (x, y)，这等价于使用毕达哥拉斯定义 sqrt(x*x + y*y) 计算一个直角三角 形的斜边。 在 3.8 版更改: 添加了对 n 维点的支持。之前的版本只支持二维点。 .。在 Python 中可 以组合map() 和count() 实现：map(f, count())。 这些内置工具同时也能很好地与operator 模块中的高效函数配合使用。例如，我们可以将两个向量的 点积映射到乘法运算符：sum(map(operator.mul, vector1, vector2)) 。 无穷迭代器： 迭代器 实参 结果 示例 count() start, [step] 所引入的防护措施的情况下，这 会导致可被用来在解析 XML 的应用程序中制造拒绝服务攻击的指数级运行时间。此问题被称为 CVE-2023-52425。 PyPI 上 defusedxml 的文档包含有关所有已知攻击向量的更多信息以及示例和参考。 20.4. XML 处理模块 1045 The Python Library Reference, 发布 3.8.20 20.4.2 defusedxml 包 defusedxml

20 3.8 新版功能. math.hypot(*coordinates) 返回欧几里得范数，sqrt(sum(x**2 for x in coordinates))。这是从原点到坐标给定点 的向量长度。 对于一个二维点 (x, y)，这等价于使用毕达哥拉斯定义 sqrt(x*x + y*y) 计算一个直角三角 形的斜边。 在 3.8 版更改: 添加了对 n 维点的支持。之前的版本只支持二维点。 .。在 Python 中可 以组合map() 和count() 实现：map(f, count())。 这些内置工具同时也能很好地与operator 模块中的高效函数配合使用。例如，我们可以将两个向量的 点积映射到乘法运算符：sum(map(operator.mul, vector1, vector2)) 。 无穷迭代器： 迭代器 实参 结果 示例 count() start, [step] 所引入的防护措施的情况下，这 会导致可被用来在解析 XML 的应用程序中制造拒绝服务攻击的指数级运行时间。此问题被称为 CVE-2023-52425。 PyPI 上 defusedxml 的文档包含有关所有已知攻击向量的更多信息以及示例和参考。 20.4. XML 处理模块 1045 The Python Library Reference, 发布 3.8.20 20.4.2 defusedxml 包 defusedxml