在centos上搭建hdfs（hadoop分布式文件系統(tǒng)）需要一系列步驟，包括安裝Java、配置hadoop環(huán)境變量、格式化namenode以及啟動(dòng)hdfs集群。以下是詳細(xì)的步驟指南：
1. 安裝Java
Hadoop需要Java運(yùn)行環(huán)境，首先確保你的centos系統(tǒng)上已經(jīng)安裝了Java。如果沒有安裝，可以使用以下命令安裝OpenJDK：
sudo yum update -y sudo yum install java-1.8.0-openjdk-devel -y
驗(yàn)證Java安裝：
java -version
2. 下載并解壓Hadoop
從apache Hadoop官方網(wǎng)站下載最新版本的Hadoop，并將其解壓到你的CentOS系統(tǒng)上。例如：
wget https://archive.apache.org/dist/hadoop/common/hadoop-3.3.1/hadoop-3.3.1.tar.gz tar -xzvf hadoop-3.3.1.tar.gz -C /usr/local/
3. 配置Hadoop環(huán)境變量
編輯/etc/profile.d/hadoop.sh文件，添加以下內(nèi)容：
export HADOOP_HOME=/usr/local/hadoop-3.3.1 export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
使環(huán)境變量生效：
source /etc/profile.d/hadoop.sh
4. 配置Hadoop
編輯Hadoop配置文件，主要涉及core-site.xml、hdfs-site.xml和yarn-site.xml。
core-site.xml
在$HADOOP_HOME/etc/hadoop/core-site.xml中添加以下內(nèi)容：
<<span>configuration></span> <<span>property></span> <<span>name></span>fs.defaultFS</<span>name></span> <<span>value></span>hdfs://localhost:9000</<span>value></span> </<span>property></span> </<span>configuration></span>
hdfs-site.xml
在$HADOOP_HOME/etc/hadoop/hdfs-site.xml中添加以下內(nèi)容：
<<span>configuration></span> <<span>property></span> <<span>name></span>dfs.replication</<span>name></span> <<span>value></span>1</<span>value></span> </<span>property></span> <<span>property></span> <<span>name></span>dfs.namenode.name.dir</<span>name></span> <<span>value></span>/usr/local/hadoop-3.3.1/data/namenode</<span>value></span> </<span>property></span> <<span>property></span> <<span>name></span>dfs.datanode.data.dir</<span>name></span> <<span>value></span>/usr/local/hadoop-3.3.1/data/datanode</<span>value></span> </<span>property></span> </<span>configuration></span>
yarn-site.xml
在$HADOOP_HOME/etc/hadoop/yarn-site.xml中添加以下內(nèi)容：
<<span>configuration></span> <<span>property></span> <<span>name></span>yarn.resourcemanager.hostname</<span>name></span> <<span>value></span>localhost</<span>value></span> </<span>property></span> <<span>property></span> <<span>name></span>yarn.nodemanager.aux-services</<span>name></span> <<span>value></span>mapreduce_shuffle</<span>value></span> </<span>property></span> </<span>configuration></span>
5. 格式化NameNode
在首次啟動(dòng)HDFS之前，需要格式化NameNode：
hdfs namenode -format
6. 啟動(dòng)HDFS集群
啟動(dòng)HDFS集群：
start-dfs.sh
啟動(dòng)YARN集群：
start-yarn.sh
7. 驗(yàn)證HDFS集群
打開瀏覽器，訪問http://localhost:50070，你應(yīng)該能看到HDFS的Web界面，顯示集群的狀態(tài)。
8. 停止HDFS集群
停止HDFS集群：
stop-dfs.sh
停止YARN集群：
stop-yarn.sh
通過以上步驟，你就可以在CentOS上成功搭建一個(gè)基本的HDFS集群。根據(jù)實(shí)際需求，你可能還需要進(jìn)行更多的配置和優(yōu)化。
.png)
推廣.jpg)