运维

运维

Products

当前位置:首页 > 运维 >

如何配置CentOS的HDFS环境最合适?

96SEO 2025-07-30 03:04 11


1. 解压hadoop, 并配置周围变量

在CentOS上配置Hadoop分布式文件系统涉及优良几个步骤,包括周围准备、安装Hadoop、配置周围变量、修改配置文件以及启动HDFS服务等。

怎样配置CentOS的HDFS环境

HDFS需要Java运行周围,先说说确保已经安装了Java。

sudo yum install -y java-1.8.0-openjdk

然后配置Java周围变量:

vi /etc/profile

添加以下内容:

export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk
export PATH=$JAVA_HOME/bin:$PATH

保存并退出,然后使配置生效:

source /etc/profile

验证Java安装:

java -version

安装SSH

SSH用于集群节点之间的传信。

sudo yum install openssh-server -y

2. 安装Hadoop

下载并解压Hadoop

从Apache Hadoop官网下载最新鲜版本的Hadoop,比方说Hadoop 3.2.1。

wget https:///hadoop/core/hadoop-3.2.0/hadoop.tar.gz -zxvf hadoop-3.2.0.tar.gz -C /opt/hadoop

配置周围变量

编辑 /etc/profile 文件,添加Hadoop的路径和周围变量:

export HADOOP_HOME=/opt/hadoop/hadoop-3.2.0
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
export HADOOP_MAPRED_HOME=$HADOOP_HOME
export HADOOP_COMMON_HOME=$HADOOP_HOME
export HADOOP_HDFS_HOME=$HADOOP_HOME
export YARN_HOME=$HADOOP_HOME
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export HADOOP_OPTS="-Dhadoop.log.dir=$HADOOP_HOME/logs"
source /etc/profile

3. 配置Hadoop

配置周围变量

编辑 /etc/hadoop/hadoop-env.sh 文件,设置JAVA_HOME为你安装的JDK路径:

vi /etc/hadoop/hadoop-env.sh
export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk

配置Hadoop配置文件

core-site.xml


    
        fs.defaultFS
        hdfs://namenode:9000
    

hdfs-site.xml


    
        dfs.replication
        3
    
    
        dfs.namenode.name.dir
        /path/to/namenode/dir
    
    
        dfs.datanode.data.dir
        /path/to/datanode/dir
    
    
        dfs.datanode.du.reserved
        10GB
    

mapred-site.xml


    
        mapreduce.framework.name
        yarn
    

yarn-site.xml


    
        yarn.resourcemanager.hostname
        namenode
    
    
        yarn.nodemanager.aux-services
        mapreduce_shuffle
    

4. 配置SSH免密登录

生成SSH密钥对:

ssh-keygen -t rsa

将公钥复制到其他节点的 authorized_keys 文件中,实现免密登录:

ssh-copy-id user@node2
ssh-copy-id user@node3

5. 配置网络

配置静态IP

编辑网络接口配置文件,比方说 /etc/sysconfig/network-scripts/ifcfg-eth0

DEVICE=eth0
BOOTPROTO=static
IPADDR=192.168.1.100
NETMASK=255.255.255.0
GATEWAY=192.168.1.1
ONBOOT=yes

保存文件并退出编辑器,然后沉启网络服务:

sudo systemctl restart network

配置主机名和DNS

编辑 /etc/sysconfig/network 文件,设置主机名:

HOST不结盟E=node1

编辑 /etc/resolv.conf 文件,添加DNS服务器地址:

nameserver 8.8.8.8
nameserver 8.8.4.4

hostnamectl set-hostname 命令使更改生效:

hostnamectl set-hostname node1

6. 格式化NameNode

在NameNode上施行格式化命令:

hdfs namenode -format

7. 启动HDFS

启动HDFS服务:

./sbin/start-dfs.sh

8. 验证配置

用以下命令检查HDFS状态:

hdfs dfsadmin -report

访问Web界面比方说:

http://namenode:50070


标签: CentOS

提交需求或反馈

Demand feedback