安装Hadoop

注意:Hadoop(尤其是 3.x 及以下版本)不兼容 Java 9+ 的模块系统,如果之前安装了 Java 的更高版本,则需要重新安装更低版本进行配置。

安装JDK

1.下载JDK1.8安装包

wget --no-check-certificate https://repo.huaweicloud.com/java/jdk/8u151-b12/jdk-8u151-linux-x64.tar.gz

2.解压下载的JDK1.8安装包

tar -zxvf jdk-8u151-linux-x64.tar.gz

3.移动并重命名JDK包

mv jdk1.8.0_151/ /usr/java8

4.配置Java环境变量(如果说不想修改原有使用的Java版本,可以跳过)

echo 'export JAVA_HOME=/usr/java8' >> /etc/profile
echo 'export PATH=$PATH:$JAVA_HOME/bin' >> /etc/profile
source /etc/profile

5.查看Java是否成功安装

java -version

安装Hadoop

1.下载Hadoop安装包

wget --no-check-certificate https://repo.huaweicloud.com/apache/hadoop/common/hadoop-3.1.3/hadoop-3.1.3.tar.gz

2.解压Hadoop安装包至/opt/hadoop

tar -zxvf hadoop-3.1.3.tar.gz -C /opt/
mv /opt/hadoop-3.1.3 /opt/hadoop

3.配置Hadoop环境变量

echo 'export HADOOP_HOME=/opt/hadoop/' >> /etc/profile
echo 'export PATH=$PATH:$HADOOP_HOME/bin' >> /etc/profile
echo 'export PATH=$PATH:$HADOOP_HOME/sbin' >> /etc/profile
source /etc/profile

4.修改配置文件yarn-env.sh和hadoop-env.sh

echo "export JAVA_HOME=/usr/java8" >> /opt/hadoop/etc/hadoop/yarn-env.sh
echo "export JAVA_HOME=/usr/java8" >> /opt/hadoop/etc/hadoop/hadoop-env.sh

5.测试Hadoop是否安装成功

hadoop version

配置Hadoop

1.修改Hadoop配置文件 core-site.xml

a. 执行以下命令开始进入编辑页面。

vi /opt/hadoop/etc/hadoop/core-site.xml

b. 输入i进入编辑模式。

c. <configuration></configuration>节点内插入如下内容。

<property>
    <name>hadoop.tmp.dir</name>
    <value>file:/opt/hadoop/tmp</value>
    <description>location to store temporary files</description>
</property>
<property>
    <name>fs.defaultFS</name>
    <value>hdfs://localhost:9000</value>
</property>

d. 按Esc键退出编辑模式,输入:wq保存退出。

2.修改Hadoop配置文件 hdfs-site.xml

a. 执行以下命令开始进入编辑页面。

vi /opt/hadoop/etc/hadoop/hdfs-site.xml

b. 输入i进入编辑模式。

c. <configuration></configuration>节点内插入如下内容。

<property>
    <name>dfs.replication</name>
    <value>1</value>
</property>
<property>
    <name>dfs.namenode.name.dir</name>
    <value>file:/opt/hadoop/tmp/dfs/name</value>
</property>
<property>
    <name>dfs.datanode.data.dir</name>
    <value>file:/opt/hadoop/tmp/dfs/data</value>
</property>

d. 按Esc键退出编辑模式,输入:wq保存退出。

配置SSH免密登录

1.执行以下命令,创建公钥和私钥

ssh-keygen -t rsa

2.执行以下命令,将公钥添加到authorized_keys文件中

cd ~
cd .ssh
cat id_rsa.pub >> authorized_keys

输入如下命令,在环境变量中添加下面的配置

vi /etc/profile

然后向里面加入如下的内容

export HDFS_NAMENODE_USER=root
export HDFS_DATANODE_USER=root
export HDFS_SECONDARYNAMENODE_USER=root
export YARN_RESOURCEMANAGER_USER=root
export YARN_NODEMANAGER_USER=root

输入如下命令使改动生效

source /etc/profile

启动Hadoop

1.执行以下命令,初始化namenode

hadoop namenode -format

2.依次执行以下命令,启动Hadoop

start-dfs.sh
start-yarn.sh

3.启动成功后,执行以下命令,查看已成功启动的进程

jps

4.打开浏览器访问如下地址,显示如下界面则表示Hadoop伪分布式环境搭建完成

Hadoop 版本NameNode Web UI 默认端口ResourceManager Web UI 默认端口
Hadoop 2.x500708088
Hadoop 3.x 及以上98708088

参考资料

Linux(阿里云)安装Hadoop(详细教程+避坑)-阿里云开发者社区

暂无评论

发送评论 编辑评论


				
|´・ω・)ノ
ヾ(≧∇≦*)ゝ
(☆ω☆)
(╯‵□′)╯︵┴─┴
 ̄﹃ ̄
(/ω\)
∠( ᐛ 」∠)_
(๑•̀ㅁ•́ฅ)
→_→
୧(๑•̀⌄•́๑)૭
٩(ˊᗜˋ*)و
(ノ°ο°)ノ
(´இ皿இ`)
⌇●﹏●⌇
(ฅ´ω`ฅ)
(╯°A°)╯︵○○○
φ( ̄∇ ̄o)
ヾ(´・ ・`。)ノ"
( ง ᵒ̌皿ᵒ̌)ง⁼³₌₃
(ó﹏ò。)
Σ(っ °Д °;)っ
( ,,´・ω・)ノ"(´っω・`。)
╮(╯▽╰)╭
o(*////▽////*)q
>﹏<
( ๑´•ω•) "(ㆆᴗㆆ)
😂
😀
😅
😊
🙂
🙃
😌
😍
😘
😜
😝
😏
😒
🙄
😳
😡
😔
😫
😱
😭
💩
👻
🙌
🖕
👍
👫
👬
👭
🌚
🌝
🙈
💊
😶
🙏
🍦
🍉
😣
Source: github.com/k4yt3x/flowerhd
颜文字
Emoji
小恐龙
花!
上一篇
下一篇