尚硅谷大数据技术之Hadoop(入门)
桌面标准版,不需要执行如下操作 ➢ net-tool:工具包集合,包含 ifconfig 等命令 [root@hadoop100 ~]# yum install -y net-tools ➢ vim:编辑器 [root@hadoop100 ~]# yum install -y vim 2)关闭防火墙,关闭防火墙开机自启 [root@hadoop100 ~]# systemctl stop IPADDR=192.168.10.102 PREFIX=24 GATEWAY=192.168.10.2 DNS1=192.168.10.2 (2)查看 Linux 虚拟机的虚拟网络编辑器,编辑->虚拟网络编辑器->VMnet8 尚硅谷大数据技术之 Hadoop(入门) ————————————————————————————— ———— 更多 Java –大数据 –前端 –python 人工智能资料下载,可百度访问:尚硅谷官网 (4)保证 Linux 系统 ifcfg-ens33 文件中 IP 地址、虚拟网络编辑器地址和 Windows 系 统 VM8 网络 IP 地址相同。 3)修改克隆机主机名,以下以 hadoop102 举例说明 (1)修改主机名称 [root@hadoop100 ~]#0 码力 | 35 页 | 1.70 MB | 1 年前3Hadoop 迁移到阿里云MaxCompute 技术方案
json,同时用户可以编辑这个 json 来自 定义表、字段的生成规则,可编辑的部分如下: Alibaba Cloud MaxCompute 解决方案 33 【注意】:配置文件中默认 hiveCompatible 的设置是 false,如果需要把 hive 上的 udf 的 jar 直接上传到 odps 上,需要打开 hive 兼容。 4. 编辑好 metadata 之后,便可以开始生成 这张表,然而,我们提供了更强大的能力,比如 说修改 hive 表到 mc 的表明与列名映射,设置 mc 中表的 life cycle,增加 comment,等等。 用户可以编辑 meta-carrier 生成的 metadata 来做到上述的事情,可编辑的部分如 下: global.json: { "datasourceType" : "HIVE", // 目前仅支持 HIVE "odpsVersion"0 码力 | 59 页 | 4.33 MB | 1 年前3尚硅谷大数据技术之Hadoop(生产调优手册)
sh,而是找一台比较空闲的机器。 4.4 黑名单退役服务器 黑名单:表示在黑名单的主机 IP 地址不可以,用来存储数据。 企业中:配置黑名单,用来退役服务器。 黑名单配置步骤如下: 1)编辑/opt/module/hadoop-3.1.3/etc/hadoop 目录下的 blacklist 文件 [atguigu@hadoop102 hadoop] vim blacklist 添加如下主机名称(要退役的节点) (3)向集群上传一个文件 6.2 集群安全模式&磁盘修复 1)安全模式:文件系统只接受读数据请求,而不接受删除、修改等变更请求 2)进入安全模式场景 ➢ NameNode 在加载镜像文件和编辑日志期间处于安全模式; ➢ NameNode 再接收 DataNode 注册时,处于安全模式 3)退出安全模式条件 尚硅谷大数据技术之 Hadoop(生产调优手册) [atguigu@hadoop102 hadoop-3.1.3]$ bin/hdfs dfsadmin -safemode enter (3)创建并执行下面的脚本 在/opt/module/hadoop-3.1.3 路径上,编辑一个脚本 safemode.sh [atguigu@hadoop102 hadoop-3.1.3]$ vim safemode.sh #!/bin/bash hdfs dfsadmin -safemode0 码力 | 41 页 | 2.32 MB | 1 年前3通过Oracle 并行处理集成 Hadoop 数据
图3 至 图 5 实现的解决方案使用以下代码。所有的代码均在 Oracle Database 11g 和 5 个节点 的 Hadoop 集群上进行过测试。与大多数白皮书一样,请将这些脚本复制到文本编辑器中并 确保格式正确。 处理数据的表函数 该脚本中包含某些设置组件。例如,脚本开始的部分创建了图 3 中第 1 步所展示的仲裁表。 本例中使用的是一直广受欢迎的 OE 模式。0 码力 | 21 页 | 1.03 MB | 1 年前3Hadoop 概述
主节点 客户端 HDFS 分布式数据存储 YARN 分布式数据处理 从属 NAMENODE 活动 NAMENODE 备用 NAMENODE 调度器 共享编辑日志 或者 JOURNAL NODE 从节点 容器 容器 容器 资源管理器 数据节点 数据节点 数据节点 节点管理器 节点管理器 节点管理器 图 1-1 MapReduce0 码力 | 17 页 | 583.90 KB | 1 年前3
共 5 条
- 1