Hadoop 迁移到阿里云MaxCompute 技术方案
MaxCopute 产品面向 Hadoop 用户提供配套的搬迁工具 MaxCompute Migration Assist(简称 MMA),利用该工具帮助用户进行迁移事前评估、利用工具加速迁移进程并降低迁 移风险。 4.1.1 工具覆盖的场景: 工作负载 Hadoop 开源生态 MaxCompute 产品组件/MaxCompute 生态工具 批处理 Hive SQL MaxCompute 环境进行业务对比验证,确定迁移的正确性。 迁移开展时,您可以选择部分试点业务迁移或全量业务进行迁移。对于规模较大的用户,建 议您选择部分试点业务先行进行迁移验证,待迁移验证通过后,再扩展更大的业务范围以降低迁 移风险、提高迁移质量。 5.3 阶段 3:并行测试,割接 迁移完成后,建议基于增量数据与当前系统进行并行测试,待并行一段时间后,对并行测试 结果进行对比验证,符合业务预期即可将业务全部切换至 MaxCompute 3.3.1 使用 MMA Agent 获得评估报告: 报告中将搬站风险分为两档,高风险(HIGH RISK)与中等风险(MODERATE RISK)。高风险 意味着必须人工介入,例如出现了表名冲突, ODPS 完全不支持的类型等问题。中等风险意 味着迁移过程中可以自动处理,但是需要告知用户的潜在风险,例如 Hive 数据类型到 ODPS 数据类型会带来的精度损失等问题。以下是一个报告的例子:0 码力 | 59 页 | 4.33 MB | 1 年前3大数据集成与Hadoop - IBM
IBM软件 2014 年 9 月 大数据集成与 Hadoop 可最大限度降低Hadoop计划风险并提高ROI的最佳实践 2 大数据集成与 Hadoop 简介 Apache Hadoop技术通过支持新的流程和架构,不断改进 大数据措施的经济性和活力,这样不仅有助于削减成本、增加 收益,而且还能树立竞争优势。Hadoop是一个开源软件项目, 支持在多个商业服务器群集间分散处理和存储大型数据集, 利用Hadoop功能保留数据 (如更新和编写索引) • 实现低成本历史归档数据 缺点 • 可能需要复杂的编程工作 • MapReduce通常比并行数 据库或可扩展ETL工具速度 更慢 • 风险:Hadoop目前仍然是 一项新兴技术 IBM软件 7 以下是优化大数据集成工作负载时需要遵循的三大重要指导 原则: 1. 将大数据集成处理推向数据,而不是将数据推向处理:指定 一次集成工作流,即可在上述三个环境中的任意一个环境中运 行该工作流。 本文列出的5个大数据集成最佳实践体现了筹备项目并实现成功 的最佳方法。遵循这些原则有助于企业尽量降低Hadoop项目 的风险和成本,同时最大限度提高ROI。 更多信息 如需有关大数据集成最佳实践和IBM集成解决方案的更多信 息,请联系您的IBM代表或IBM业务合作伙伴,或者访问: ibm.com/software/data/integration0 码力 | 16 页 | 1.23 MB | 1 年前3Hadoop 概述
在任何环境中,硬件故障都是不可避免的。有了 HDFS,你的 数据可以跨越数千台服务器,而每台服务器上均包含一部分基础数 据。这就是容错功能发挥作用的地方。现实情况是,这么多服务器 总会遇到一台或者多台无法正常工作的风险。HDFS 具备检测故障 和快速执行自动恢复的功能。 HDFS 的设计针对批处理做了优化,它提供高吞吐量的数据访 问,而非低延迟的数据访问。运行在 HDFS 上的应用程序有着大型 数据集。在 另一个例子,Hadoop Applier 提供了 MySQL 和 Hadoop 分布式 文件系统之间的实时连接,可以用于大数据分析——例如情绪分析、 营销活动分析、客户流失建模、欺诈检测、风险建模以及其他多种 分析。许多得到广泛使用的系统,例如 Apache Hive,也将 HDFS 用于数据存储(见图 1-7)。 获取实时数据 实时插入 填充 Hive 表 行数据0 码力 | 17 页 | 583.90 KB | 1 年前3
共 3 条
- 1