失效链接处理 |
hadoop集群搭建 PDF 下载
本站整理下载:
提取码:n6yj
相关截图:
主要内容:
1、每台机器上建立文件夹mkdir -p /usr/hadoop/
tar -zxvf /opt/software/hadoop-2.7.3.tar.gz -C /usr/hadoop/
2、配置环境变量:
vim /etc/profile
export HADOOP_HOME=/usr/hadoop/hadoop-2.7.3
export CLASSPATH=$CLASSPATH:$HADOOP_HOME/lib
export PATH=$PATH:$HADOOP_HOME/bin
生效:source /etc/profile
3、在hadoop-2.7.3文件夹里面先创建4个文件夹:
mkdir hdfs mkdir hdfs/data mkdir hdfs/name mkdir hdfs/tmp
进入目录:cd /uer/hadoop/hadoop-2.7.3/etc/hadoop
1.首先配置core-site.xml文件
<property>
<name>hadoop.tmp.dir</name>
<value>file:/home/hadoop/hadoop-2.7.3/hdfs/tmp</value>
<description>A base for other temporary directories.</description>
</property>
<property>
<name>io.file.buffer.size</name>
<value>131072</value>
</property>
<property>
<name>fs.defaultFS</name>
<value>hdfs://master:9000</value>
</property>
2.配置文件 hadoop-env.sh
追加:export JAVA_HOME=/usr/java/jdk1.8.0_171
3.配置 yarn-env.sh
将其中的JAVA_HOME修改为本机JAVA_HOME路径(先把这一行的#去掉)
再把java地址改一下
4.配置hdfs-site.xml
<property>
<name>dfs.replication</name>
<value>2</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:/usr/hadoop/hadoop-2.7.3/hdfs/name</value>
<final>true</final>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:/usr/hadoop/hadoop-2.7.3/hdfs/data</value>
<final>true</final>
</property>
<property>
<name>dfs.namenode.secondary.http-address</name>
<value>master:9001</value>
</property>
<property>
<name>dfs.webhdfs.enabled</name>
<value>true</value>
</property>
<property>
<name>dfs.permissions</name>
<value>false</value>
</property>
5 .复制mapred-site.xml.template文件,并命名为mapred-site.xml
cp mapred-site.xml.template mapred-site.xml
配置 mapred-site.xml
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
|