的任何平台上运行该作业 • 访问、移动和加载数据-在企业内的各种来源和目标之间 均可实现这些工作 • 支持各种数据集成范式，包括批量处理、联盟、更改数 据捕获、为数据集成任务启用SOA、与事务完整性实时 集成和/或企业用户自助数据集成 另外，还可以建立世界级的数据治理工作，包括数据管理、数 据沿袭和跨工具影响分析。 最佳实践3：可在需要运行海量可扩展数据集成的任何位置提 供该功能 基于Web的集成式安装程序，用于执行所有功能 • 高可用性配置，用于满足全天候需求 • 灵活的部署选项，用于部署新实例或展开经过优化的专 家硬件系统上的现有实例 • 集中实现身份验证、授权和会话管理 • 审核安全相关事件的日志记录，推动满足《萨班斯奥克 斯利法案》合规性要求 • 实验室认证，针对各种Hadoop发行版 IBM软件 15 大数据集成最佳实践为成功奠定了坚实的基础 企业正在纷纷转向大数据措施，期望帮助自己削减成本、提高收

Container MapTask SecondaryNa meNode 1.6 大数据技术生态体系 大数据技术生态体系 数据库（结构化数据） 文件日志（半结构化数据） 视频、ppt等（非结构化数据） Sqoop数据传递 Flume日志收集 Kafka消息队列 HDFS文件存储 HBase非关系型数据库 YARN资源管理 MapReduce离线计算 Spark Core内存计算 Hive 等）中的数据导进 到 Hadoop 的 HDFS 中，也可以将 HDFS 的数据导进到关系型数据库中。 2）Flume：Flume 是一个高可用的，高可靠的，分布式的海量日志采集、聚合和传输的系统， Flume 支持在日志系统中定制各类数据发送方，用于收集数据； 3）Kafka：Kafka 是一种高吞吐量的分布式发布订阅消息系统； 尚硅谷大数据技术之 靠协调系统，提供的功能包括：配置维护、 名字服务、分布式同步、组服务等。 1.7 推荐系统框架图 推荐系统项目框架 数据库（结构化数据） 文件日志（半结构化数据） 视频、ppt等（非结构化数据） Sqoop数据传递 Flume日志收集 Kafka消息队列 HDFS文件存储 HBase非关系型数据库 YARN资源管理 MapReduce离线计算 Spark Core内存计算 Hive

主节点 客户端 HDFS 分布式数据存储 YARN 分布式数据处理 从属 NAMENODE 活动 NAMENODE 备用 NAMENODE 调度器 共享编辑日志 或者 JOURNAL NODE 从节点 容器 容器 容器 资源管理器 数据节点 数据节点 数据节点 节点管理器 节点管理器 节点管理器 图 1-1 MapReduce 换为具有可操作性的信息来驱动商业价值。 例如，现代的数据架构正在越来越多地用于建造大型数据湖。 通过将数据管理服务集成为更大的数据湖，企业可以利用各种各样 的渠道来存储和处理大量数据，这些渠道包括社交媒体、点击流数 据、服务器日志、客户交易与交互、视频以及来自现场设备的传感 器数据。 Hortonworks 或者 Cloudera 数据平台，以及 Informatica，使得 企业能够优化 ETL(抽取、转换、加载)工作流程，以便在 在需要时使用 SQL 加载到数据库中 自动负载均衡，从而最大限度地提高 性能 外部表 使用外部表机制 并行访问或加载 到数据库中 ORACLE 客户端 图 1-8 日志文件 更多… 文本 压缩文件 序列文件 并行负载，针对 Hadoop 做优化 自动负载均衡 在 Hadoop 上转换成 Oracle 格式 ——节省数据库的 CPU 加载特定的 Hive

建企业数据仓库/数据湖、机器学习、实时分析、BI 报表等大数据应用。我们常见的大数据架构 的逻辑组件关系如下图所示： 这些逻辑组件包括：  数据源：数据源包括关系型数据库、日志文件、实时消息等。  数据存储：面向海量数据存储的分布式文件存储服务，支持 结构化数据和非结构数据数据存 储，我们也常称之为数据湖。如 HDFS、对象存储服务等。  批处理：由于大 机器学习 Spark Mlib/ML Tensorflow PAI 机器学习平台 MaxCompute Spark 实时消息采集 Kafka Datahub 日志服务(LogHub 组件) 消息队列 Kafka 流处理 Spark Streaming Flink Storm 实时计算(原流计算) EMR(开源流计算组件） 分析型数据存储 Spark GraphX MaxCompute Spark GraphX MaxCompute Graph 流式采集 Kafka Datahub，流式数据投递至 MaxCompute 日志服务，流式数据投递至 MaxCompute 流计算 Flink/Storm/Spark Streaming 不支持，需迁移至阿里云实时计算、EMR 流计算 组件或自建流计算服务

时数据处理能力 针对行业的功能增强，应对丌同行业的大数据挑戓 Hive 0.9.0 交互式数据仓库 Sqoop 1.4.1 关系数据ETL工具 Flume 1.1.0 日志收集工具 Intel Hadoop Manager 2.2 安装、部署、配置、监控、告警和访问控制 Zookeeper 3.4.4 分布式协作服务 Pig 0.9.2 数据流处理语言

（3）向集群上传一个文件 6.2 集群安全模式&磁盘修复 1）安全模式：文件系统只接受读数据请求，而不接受删除、修改等变更请求 2）进入安全模式场景 ➢ NameNode 在加载镜像文件和编辑日志期间处于安全模式； ➢ NameNode 再接收 DataNode 注册时，处于安全模式 3）退出安全模式条件 尚硅谷大数据技术之 Hadoop（生产调优手册）