以下是Hadoop安装配置的详细步骤,包含创建用户、设置密码、修改配置文件、格式化HDFS、启动和验证Hadoop运行状态,以及关闭Hadoop。

1. 创建用户hadoop:

sudo useradd hadoop

2. 给用户hadoop设置密码:

sudo passwd hadoop

3. 切换到用户hadoop:

su hadoop

4. 进入Hadoop安装目录:

cd /usr/local/hadoop-2.9.2

5. 修改配置文件:

  • a. cd etc/hadoop
  • **b. 修改hadoop-env.sh文件:**将export JAVA_HOME=${JAVA_HOME}改为export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-amd64
  • **c. 修改core-site.xml文件:**添加以下内容:
<property>
  <name>fs.defaultFS</name>
  <value>hdfs://localhost:9000</value>
</property>
  • **d. 修改hdfs-site.xml文件:**添加以下内容:
<property>
  <name>dfs.replication</name>
  <value>1</value>
</property>
  • **e. 修改mapred-site.xml文件:**将mapreduce.framework.name属性的值改为yarn

6. 格式化HDFS:

./bin/hdfs namenode -format

7. 启动Hadoop:

./sbin/start-all.sh

**8. 验证Hadoop是否正常运行:**在浏览器中访问http://localhost:50070,如果能够看到Hadoop的Web界面,则表示Hadoop已经成功安装和配置。

9. 关闭Hadoop:

./sbin/stop-all.sh

详细的配置文件修改步骤:

  1. 切换到Hadoop安装目录下的etc/hadoop目录:
cd /usr/local/hadoop-2.9.2/etc/hadoop
  1. 修改hadoop-env.sh文件:
sudo nano hadoop-env.sh

找到export JAVA_HOME=${JAVA_HOME}这一行,将其改为export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-amd64,保存并退出。

  1. 修改core-site.xml文件:
sudo nano core-site.xml

找到<configuration>标签下的最后一行,添加以下内容:

<property>
  <name>fs.defaultFS</name>
  <value>hdfs://localhost:9000</value>
</property>

保存并退出。

  1. 修改hdfs-site.xml文件:
sudo nano hdfs-site.xml

找到<configuration>标签下的最后一行,添加以下内容:

<property>
  <name>dfs.replication</name>
  <value>1</value>
</property>

保存并退出。

  1. 修改mapred-site.xml文件:
sudo nano mapred-site.xml

mapreduce.framework.name属性的值改为yarn,保存并退出。

完成以上步骤后,即可成功修改Hadoop配置文件。

Hadoop安装配置详细教程:从创建用户到验证运行

原文地址: https://www.cveoy.top/t/topic/nKaG 著作权归作者所有。请勿转载和采集!

免费AI点我,无需注册和登录