Products
96SEO 2025-07-30 03:04 11
在CentOS上配置Hadoop分布式文件系统涉及优良几个步骤,包括周围准备、安装Hadoop、配置周围变量、修改配置文件以及启动HDFS服务等。
HDFS需要Java运行周围,先说说确保已经安装了Java。
sudo yum install -y java-1.8.0-openjdk
然后配置Java周围变量:
vi /etc/profile
添加以下内容:
export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk
export PATH=$JAVA_HOME/bin:$PATH
保存并退出,然后使配置生效:
source /etc/profile
验证Java安装:
java -version
SSH用于集群节点之间的传信。
sudo yum install openssh-server -y
从Apache Hadoop官网下载最新鲜版本的Hadoop,比方说Hadoop 3.2.1。
wget https:///hadoop/core/hadoop-3.2.0/hadoop.tar.gz -zxvf hadoop-3.2.0.tar.gz -C /opt/hadoop
编辑 /etc/profile
文件,添加Hadoop的路径和周围变量:
export HADOOP_HOME=/opt/hadoop/hadoop-3.2.0
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
export HADOOP_MAPRED_HOME=$HADOOP_HOME
export HADOOP_COMMON_HOME=$HADOOP_HOME
export HADOOP_HDFS_HOME=$HADOOP_HOME
export YARN_HOME=$HADOOP_HOME
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export HADOOP_OPTS="-Dhadoop.log.dir=$HADOOP_HOME/logs"
source /etc/profile
编辑 /etc/hadoop/hadoop-env.sh
文件,设置JAVA_HOME为你安装的JDK路径:
vi /etc/hadoop/hadoop-env.sh
export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk
core-site.xml
fs.defaultFS
hdfs://namenode:9000
hdfs-site.xml
dfs.replication
3
dfs.namenode.name.dir
/path/to/namenode/dir
dfs.datanode.data.dir
/path/to/datanode/dir
dfs.datanode.du.reserved
10GB
mapred-site.xml
mapreduce.framework.name
yarn
yarn-site.xml
yarn.resourcemanager.hostname
namenode
yarn.nodemanager.aux-services
mapreduce_shuffle
生成SSH密钥对:
ssh-keygen -t rsa
将公钥复制到其他节点的 authorized_keys
文件中,实现免密登录:
ssh-copy-id user@node2
ssh-copy-id user@node3
编辑网络接口配置文件,比方说 /etc/sysconfig/network-scripts/ifcfg-eth0
DEVICE=eth0
BOOTPROTO=static
IPADDR=192.168.1.100
NETMASK=255.255.255.0
GATEWAY=192.168.1.1
ONBOOT=yes
保存文件并退出编辑器,然后沉启网络服务:
sudo systemctl restart network
编辑 /etc/sysconfig/network
文件,设置主机名:
HOST不结盟E=node1
编辑 /etc/resolv.conf
文件,添加DNS服务器地址:
nameserver 8.8.8.8
nameserver 8.8.4.4
用 hostnamectl set-hostname
命令使更改生效:
hostnamectl set-hostname node1
在NameNode上施行格式化命令:
hdfs namenode -format
启动HDFS服务:
./sbin/start-dfs.sh
用以下命令检查HDFS状态:
hdfs dfsadmin -report
访问Web界面比方说:
http://namenode:50070
Demand feedback