最近做实验需要在Linux系统安装Hadoop,由于我之前就想在window上安装,所以借此机会先在window上安装再在Linux安装。
个人比较喜欢安装比较新的东西,所以选择Hadoop3.1.3
注意:winutils有与之对应的Hadoop,如果是3.0以下的可能不行,尽量找相对应的版本吧
Hadoop安装:
jdk的安装不用说了,能够想到安装Hadoop的哪个不是安装jdk的,只要安装的是jdk8的就行
Hadoop的安装和jdk的安装是一致的
1、系统变量中建立HADOOP_HOME变量,然后赋值你的安装路径
2、在path变量中添加Hadoop的bin
修改配置文件:
配置之前先创建一些文件夹
需要配置的文件 在安装路径的etc文件夹下面
2、core-site.xml文件:添加一下代码
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>/E:/Hadoop/hadoop-3.1.3/hadoop-3.1.3/data/namenode</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>/E:/Hadoop/hadoop-3.1.3/hadoop-3.1.3/data/datanode</value>
</property>
</configuration>
4、mapred-site.xml文件:
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>
5、yarn-site,xml文件
<configuration>
<!-- Site specific YARN configuration properties -->
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
<value>org.apache.hadoop.mapred.ShuffleHandler</value>
</property>
<property>
<name>yarn.nodemanager.resource.memory-mb</name>
<value>1024</value>
</property>
<property>
<name>yarn.nodemanager.resource.cpu-vcores</name>
<value>1</value>
</property>
</configuration>
格式化节点:hdfs namenode -format
替换文件:
1、打开winutils文件,把里面的bin文件复制到hadoop的安装路径,替换掉原来的bin文件
然后浏览器访问下面两个网址:
访问成功:
上网折腾了很久,最后参考这篇文章弄出来的