TiDB v5.2 中文手册
锁情况以及排查死锁问题等。 在 5.2 中,Lock View 新增以下特性: – 对于 Lock View 所属的各张表中的 SQL Digest 列,v5.2 额外增加了一列显示对应的归一化的 SQL 语句 文本,无需手动查询 SQL Digest 对应的语句。 – 增加了 TIDB_DECODE_SQL_DIGESTS 函数用于在集群中查询一组 SQL Digest 所对应的 SQL 语句的归一 化形式 大量线上场景中得到证实。 使用 root 用户登录目标机器,将部署目标机器数据盘格式化成 ext4 文件系统,挂载时添加 nodelalloc 和 noatime 挂载参数。nodelalloc 是必选参数,否则 TiUP 安装时检测无法通过;noatime 是可选建议参数。 注意: 如果你的数据盘已经格式化成 ext4 并挂载了磁盘,可先执行 umount /dev/nvme0n1p1 命令卸 使用 lsblk 命令查看分区的设备号:对于 nvme 磁盘,生成的分区设备号一般为 nvme0n1p1; 对于普通磁盘(例如 /dev/sdb),生成的的分区设备号一般为 sdb1。 3. 格式化文件系统。 mkfs.ext4 /dev/nvme0n1p1 4. 查看数据盘分区 UUID。 本例中 nvme0n1p1 的 UUID 为 c51eb23b-195c-4061-92a9-3fad812cc12f。0 码力 | 2259 页 | 48.16 MB | 1 年前3TiDB v5.1 中文手册
大量线上场景中得到证实。 使用 root 用户登录目标机器,将部署目标机器数据盘格式化成 ext4 文件系统,挂载时添加 nodelalloc 和 noatime 挂载参数。nodelalloc 是必选参数,否则 TiUP 安装时检测无法通过;noatime 是可选建议参数。 注意: 如果你的数据盘已经格式化成 ext4 并挂载了磁盘,可先执行 umount /dev/nvme0n1p1 命令卸 使用 lsblk 命令查看分区的设备号:对于 nvme 磁盘,生成的分区设备号一般为 nvme0n1p1; 对于普通磁盘(例如 /dev/sdb),生成的的分区设备号一般为 sdb1。 3. 格式化文件系统。 74 mkfs.ext4 /dev/nvme0n1p1 4. 查看数据盘分区 UUID。 本例中 nvme0n1p1 的 UUID 为 c51eb23b-195c-4061-92a9-3fad812cc12f。 下面用两个示例问题演示如何利用 statement summary 来排查。 8.5.7.1 SQL 延迟比较大,是不是服务端的问题? 例如客户端显示 employee 表的点查比较慢,那么可以按 SQL 文本来模糊查询: 296 SELECT avg_latency, exec_count, query_sample_text FROM information_schema.statements_summary0 码力 | 2189 页 | 47.96 MB | 1 年前3TiDB v5.3 中文手册
大量线上场景中得到证实。 使用 root 用户登录目标机器,将部署目标机器数据盘格式化成 ext4 文件系统,挂载时添加 nodelalloc 和 noatime 挂载参数。nodelalloc 是必选参数,否则 TiUP 安装时检测无法通过;noatime 是可选建议参数。 注意: 如果你的数据盘已经格式化成 ext4 并挂载了磁盘,可先执行 umount /dev/nvme0n1p1 命令卸 注意: 使用 lsblk 命令查看分区的设备号:对于 nvme 磁盘,生成的分区设备号一般为 nvme0n1p1; 对于普通磁盘(例如 /dev/sdb),生成的分区设备号一般为 sdb1。 3. 格式化文件系统。 mkfs.ext4 /dev/nvme0n1p1 4. 查看数据盘分区 UUID。 本例中 nvme0n1p1 的 UUID 为 c51eb23b-195c-4061-92a9-3fad812cc12f。 指定的备份路径上挂载一个共享存储,例如 NFS。这样能方便收集和管理备份文件。 • 在使用共享存储时,推荐使用高吞吐的存储硬件,因为存储的吞吐会限制备份或恢复的速度。 • BR 默认会分别在备份、恢复完成后,进行一轮数据校验,将文本数据同集群数据比较,来保证正确性。 在迁移场景下,为了减少迁移耗时,推荐备份时关闭校验 (--checksum=false),只在恢复时开启校验。 使用方式 目前支持以下几种方式来运行 BR 工具,分别是通过0 码力 | 2374 页 | 49.52 MB | 1 年前3TiDB v5.4 中文手册
大量线上场景中得到证实。 使用 root 用户登录目标机器,将部署目标机器数据盘格式化成 ext4 文件系统,挂载时添加 nodelalloc 和 noatime 挂载参数。nodelalloc 是必选参数,否则 TiUP 安装时检测无法通过;noatime 是可选建议参数。 注意: 如果你的数据盘已经格式化成 ext4 并挂载了磁盘,可先执行 umount /dev/nvme0n1p1 命令卸 注意: 使用 lsblk 命令查看分区的设备号:对于 nvme 磁盘,生成的分区设备号一般为 nvme0n1p1; 对于普通磁盘(例如 /dev/sdb),生成的分区设备号一般为 sdb1。 3. 格式化文件系统。 mkfs.ext4 /dev/nvme0n1p1 4. 查看数据盘分区 UUID。 本例中 nvme0n1p1 的 UUID 为 c51eb23b-195c-4061-92a9-3fad812cc12f。 下面用两个示例问题演示如何利用 statement summary 来排查。 8.6.7.1 SQL 延迟比较大,是不是服务端的问题? 例如客户端显示 employee 表的点查比较慢,那么可以按 SQL 文本来模糊查询: SELECT avg_latency, exec_count, query_sample_text FROM information_schema.statements_summary0 码力 | 2852 页 | 52.59 MB | 1 年前3TiDB v8.4 中文手册
Statements) 代替普通的文本执行,并复用预处理语句来直接执行,从而避免 TiDB 重复解析和生 成 SQL 执行计划的开销。 目前多数上层框架都会调用 Prepare API 进行 SQL 执行,如果直接使用 JDBC API 进行开发,注意选择使用 Prepare API。 另外需要注意 MySQL Connector/J 实现中默认只会做客户端的语句预处理,会将 ? 在客户端替换后以文本形式 发送到服务端,所以除了要使用 cachePrepStmts 虽然 useServerPrepStmts = true 能让服务端执行预处理语句,但默认情况下客户端每次执行完后会 close 预处理语句,并不会复用,这样预处理的效率甚至不如文本执行。所以建议开启 useServerPrepStmts �→ = true 后同时配置 cachePrepStmts = true,这会让客户端缓存预处理语句。 在 TiDB 监控中可以通过 Query 嵌入模型是将数据转换为向量嵌入的算法。 选择一种合适的嵌入模型对于确保语义搜索结果的准确性和相关性至关重要。对于非结构化的文本数据,你 可以在 Massive Text Embedding Benchmark (MTEB) Leaderboard 上找到性能最佳的文本嵌入模型。 如需了解如何为特定数据类型生成向量嵌入,请参阅相关嵌入模型的教程或示例。 4.8.1.2 工作原理 在你将原始数据转换为向量并存储在0 码力 | 5072 页 | 104.05 MB | 9 月前3TiDB v8.5 中文手册
Statements) 代替普通的文本执行,并复用预处理语句来直接执行,从而避免 TiDB 重复解析和生 成 SQL 执行计划的开销。 目前多数上层框架都会调用 Prepare API 进行 SQL 执行,如果直接使用 JDBC API 进行开发,注意选择使用 Prepare API。 另外需要注意 MySQL Connector/J 实现中默认只会做客户端的语句预处理,会将 ? 在客户端替换后以文本形式 发送到服务端,所以除了要使用 cachePrepStmts 虽然 useServerPrepStmts = true 能让服务端执行预处理语句,但默认情况下客户端每次执行完后会 close 预处理语句,并不会复用,这样预处理的效率甚至不如文本执行。所以建议开启 useServerPrepStmts �→ = true 后同时配置 cachePrepStmts = true,这会让客户端缓存预处理语句。 在 TiDB 监控中可以通过 Query 嵌入模型是将数据转换为向量嵌入的算法。 选择一种合适的嵌入模型对于确保语义搜索结果的准确性和相关性至关重要。对于非结构化的文本数据,你 可以在 Massive Text Embedding Benchmark (MTEB) Leaderboard 上找到性能最佳的文本嵌入模型。 如需了解如何为特定数据类型生成向量嵌入,请参阅相关嵌入模型的教程或示例。 4.8.1.2 工作原理 在你将原始数据转换为向量并存储在0 码力 | 5095 页 | 104.54 MB | 9 月前3TiDB v8.1 中文手册
设置查询的最长执行时间。当查询的执行时间超过设置值时,自 动降低查询的优先级或者取消查询。你还可以设置在一段时间内通过文本或者执行计划立即匹配已经 识别出的查询,从而避免问题查询的并发度太高时,在识别阶段就造成大量资源消耗的情况。 TiDB 同时支持手动标记查询的功能。利用命令QUERY WATCH,你可以根据 SQL 的文本、SQL Digest 或执行 计划标记查询,命中的查询可以被降级或取消,达到添加 SQL 黑名单的目的。 TiDB 日志脱敏增强是通过对日志文件中的 SQL 文本信息进行标记,支持在查看日志时删除敏感数据。你 可以控制是否对日志信息进行标记,以实现在不同场景下安全使用 TiDB 日志,提升了使用日志脱敏能 力的安全性和灵活性。要使用此功能,可以将系统变量 tidb_redact_log 的值设置为 MARKER,此时 TiDB 运行日志中的 SQL 文本会被标记。还可以通过 TiDB server 的 collect-log Statements) 代替普通的文本执行,并复用预处理语句来直接执行,从而避免 TiDB 重复解析和生 成 SQL 执行计划的开销。 目前多数上层框架都会调用 Prepare API 进行 SQL 执行,如果直接使用 JDBC API 进行开发,注意选择使用 Prepare API。 另外需要注意 MySQL Connector/J 实现中默认只会做客户端的语句预处理,会将 ? 在客户端替换后以文本形式 发送到服务端,所以除了要使用0 码力 | 4807 页 | 101.31 MB | 1 年前3TiDB v6.1 中文手册
Statements) 代替普通的文本执行,并复用预处理语句来直接执行,从而避免 TiDB 重复解析和生 成 SQL 执行计划的开销。 目前多数上层框架都会调用 Prepare API 进行 SQL 执行,如果直接使用 JDBC API 进行开发,注意选择使用 Prepare API。 另外需要注意 MySQL Connector/J 实现中默认只会做客户端的语句预处理,会将 ? 在客户端替换后以文本形式 发送到服务端,所以除了要使用 cachePrepStmts 虽然 useServerPrepStmts = true 能让服务端执行预处理语句,但默认情况下客户端每次执行完后会 close 预处理语句,并不会复用,这样预处理的效率甚至不如文本执行。所以建议开启 useServerPrepStmts �→ = true 后同时配置 cachePrepStmts = true,这会让客户端缓存预处理语句。 在 TiDB 监控中可以通过 Query 2.2 序列(Sequence) 序列是一种数据库对象,应用程序通过调用某个序列可以产生递增的序列值,应用程序可以灵活的使用这个 序列值为一张表或多张表赋值,也可以使用序列值进行更复杂的加工,来实现文本和数字的组合,来赋予代 理键以一定的跟踪和分类的意义。从 TiDB v4.0 版本开始提供序列功能,详情请参考CREATE SEQUENCE。 4.9.5.2.3 类 Snowflake 方案 Snowflake0 码力 | 3572 页 | 84.36 MB | 1 年前3阿里云 AnalyticDB for PostgreSQL - 打造更简单易用的Cloud SQL Data Warehouse
同步MaxCompute/Hadoop数据,ADBPG做在线分析 大数据平台->DataX/OSS/Blink/-> ADBPG 4:数据湖分析场景 数据按冷热分析,支持在线查询OSS分布式云存 储上的格式化数据 AnalyticDB for PostgreSQL 智能分析服务 DataV QuickBI 云上大数据计算平台 大数据平台 数据分析应用 制式化报表 个性化报表 仪表盘 AnalyticDB for PostgreSQL Client 特征提取服 务 5.检索分析 1.注册特征提取服务 3.写入url 4.生成特征 2.写入非 结构化数 OSS 音频 图片 文本 向量 ①GPU的计算性能加速 ②支持Greenplum 6.0版本 其他演进规划: 更快性能 敬请期待!0 码力 | 22 页 | 2.98 MB | 1 年前3TiDB v8.0 中文手册
TiDB 日志脱敏增强是通过对日志文件中的 SQL 文本信息进行标记,支持在查看时安全展示敏感数据。你 可以控制是否对日志信息进行脱敏,以实现在不同场景下安全使用 TiDB 日志,提升了使用日志脱敏能 力的安全性和灵活性。要使用此功能,可以将系统变量 tidb_redact_log 的值设置为 MARKER,此时 TiDB 的运行日志中的 SQL 文本会被标记,查看时将基于标记进行数据的安全展示,从而保护日志信息。 Statements) 代替普通的文本执行,并复用预处理语句来直接执行,从而避免 TiDB 重复解析和生 成 SQL 执行计划的开销。 目前多数上层框架都会调用 Prepare API 进行 SQL 执行,如果直接使用 JDBC API 进行开发,注意选择使用 Prepare API。 另外需要注意 MySQL Connector/J 实现中默认只会做客户端的语句预处理,会将 ? 在客户端替换后以文本形式 发送到服务端,所以除了要使用 cachePrepStmts 虽然 useServerPrepStmts = true 能让服务端执行预处理语句,但默认情况下客户端每次执行完后会 close 预处理语句,并不会复用,这样预处理的效率甚至不如文本执行。所以建议开启 useServerPrepStmts �→ = true 后同时配置 cachePrepStmts = true,这会让客户端缓存预处理语句。 在 TiDB 监控中可以通过 Query0 码力 | 4805 页 | 101.28 MB | 1 年前3
共 57 条
- 1
- 2
- 3
- 4
- 5
- 6