欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

1、环境搭建-大数据 Hadoop配置和单机Hadoop系统配置

程序员文章站 2022-06-17 19:52:54
#查看服务器ip ip add #设置主机名称 hostnamectl set-hostname master bash #查看 hostname #绑定ip vi /etc/hosts 添加 服务器IP地址 master #查看ssh状态 systemctl status sshd active ......
#查看服务器ip
ip add
#设置主机名称
hostnamectl set-hostname master
bash
#查看
hostname
#绑定ip
vi /etc/hosts

添加

服务器ip地址 master

#查看ssh状态
systemctl status sshd

active (running)

#关闭防火墙
systemctl stop firewalld
#查看防火墙状态
systemctl status firewalld
#永久关闭防火墙
systemctl disable firewalld

创建hadoop用户并设置密码

安装jdk

vi /etc/profile
#环境变量
export java_home=jdk安装根目录全路径
export path=$path:$java_home/bin
#执行使生效
source /etc/profile
#查看是否可用
echo $java_home
# 查看jdk安装
java -version

安装配置hadoop环境

解压
vi /etc/profile
配置环境变量
# hadoop_home 指向 java 安装目录
export hadoop_home=hadoop安装根目录全路径
export path=$path:$hadoop_home/bin:$hadoop_home/sbin
#执行使生效
source /etc/profile
#检查
hadoop
#修改目录所有者和组
chown -r hadoop:hadoop 安装目录全路径

安装单机hadoop系统

进入hadoop根目录

vi etc/hadoop/hadoop-env.sh

查找export java_home修改等号后面为jdk路径

进入hadoop用户

创建imput目录

写一个统计文件,测试 mapreduce 运行

hadoop jar /usr/local/src/hadoop2.7.1/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.1.jar  wordcount  ~/input/data.txt ~/output

查看输出目录

查看输出目录下part-r-00000文件

递归删除输出目录