百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

基于CentOS7 Hadoop-2.7.2伪分布式部署

nanshan 2024-11-12 11:40 9 浏览 0 评论

1、基本环境

  • Linux版本:CentOS 7.0
  • JDK版本:jdk-7u79-linux-x64.tar.gz
  • Hadoop版本:hadoop-2.7.2.tar.gz
  • jdk以及Hadoop安装在/usr目录下

2、安装JDK

注意:若CentOS 7已安装OpenJDK,可以使用以下命令进行卸载。

2.1 查看系统中的jdk

# rpm -qa | grep jdk (查看目前系统中jdk版本)

2.2 卸载

# yum -y remove java-1.8.0-openjdk-headless-1.8.0.65-3.b17.el7.x86_64 java-1.8.0-openjdk-1.8.0.65-3.b17.el7.x86_64 java-1.7.0-openjdk-1.7.0.91-2.6.2.3.el7.x86_64 java-1.7.0-openjdk-headless-1.7.0.91-2.6.2.3.el7.x86_64 

2.3 开始安装

# tar zxvf jdk-7u79-linux-x64.tar.gz
# mv jdk1.7.0_79 /usr/

2.4 配置java环境变量

# vi /etc/profile
在末尾添加以下内容,并保存,退出。
export JAVA_HOME=/usr/jdk1.7.0_79
export JRE_HOME=/usr/jdk1.7.0_79/jre
export CLASSPATH=.:$JAVA_HOME/lib:$JAVA_HOME/lib/tools.jar:$JRE_HOME/lib:$JAVA_HOME/lib/jt.jar:$CLASSPATH
export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATH

2.5 生效环境变量

# source /etc/profile
验证是否OK。
# java -version

3、安装Hadoop

这里是下载已经编译好的包hadoop-2.7.2.tar.gz。

解压、安装
# tar zxvf hadoop-2.7.2.tar.gz
# mv hadoop-2.7.2 /usr/
配置环境变量
# vi /etc/profile
在末尾添加以下内容,并保存退出
# Hadoop Environment Variables
export HADOOP_HOME=/usr/hadoop-2.7.2
export HADOOP_INSTALL=$HADOOP_HOME
export HADOOP_MAPRED_HOME=$HADOOP_HOME
export HADOOP_COMMON_HOME=$HADOOP_HOME
export HADOOP_HDFS_HOME=$HADOOP_HOME
export YARN_HOME=$HADOOP_HOME
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export PATH=$PATH:$HADOOP_HOME/sbin:$HADOOP_HOME/bin
生效环境变量
# source /etc/profile

4、修改IP映射

# vi /etc/hosts

5、配置SSH免密码登录

5.1 检验是否已经安装SSH

# rpm -qa | grep ssh

若返回以下结果则不需要安装

若需要安装则执行以下命令进行安装,已安装的忽略该步骤:

# yum install -y openssh-clients openssh-server

5.2 配置

# cd ~/.ssh/ #若无SSH目录,则需要先执行一次ssh localhost
# ssh-keygen -t rsa #会有提示,直接按回车即可
# cat id_rsa.pub >> authorized_keys #加入授权
# chmod 600 ./authorized_keys #修改文件权限

5.3 此时验证即可无密码登录

# ssh localhost

6、修改Hadoop配置文件

Hadoop配置文件在该目录下:/usr/hadoop-2.7.2/etc/hadoop/

6.1 修改hadoop-env.sh

主要是修改java_home路径

# vi /usr/hadoop-2.7.2/etc/hadoop/hadoop-env.sh

6.2 修改yarn-env.sh

主要是修改java_home路径

# vi /usr/hadoop-2.7.2/etc/hadoop/yarn-env.sh

6.3 修改core-site.xml

# vi /usr/hadoop-2.7.2/etc/hadoop/core-site.xml

6.4 修改hdfs-site.xml

# vi /usr/hadoop-2.7.2/etc/hadoop/hdfs-site.xml

俩个目录需要手动创建

# mkdir -p /usr/hadoop-2.7.2/tmp/dfs/name/
# mkdir -p /usr/hadoop-2.7.2/tmp/dfs/data/

6.5 修改mapred-site.xml

指定mr运行在yarn上

# vi /usr/hadoop-2.7.2/etc/hadoop/mapred-site.xml

需要注意的是,并没有mapred-site.xml文件的,但是有mapred-site.xml.template所以我们只需要将这个mapred-site.xml.template更名为mapred-site.xml即可。

6.6 修改yarn-site.xml

指定yarn(ResourceManager)运行的地址,以及reducer获取数据的方式

# vi /usr/hadoop-2.7.2/etc/hadoop/yarn-site.xml

7、关闭防火墙

# systemctl stop firewalld
# systemctl disable firewalld

8、格式化Hadoop

# hdfs namenode -format

出现以下内容则表示格式化成功。

9、启动dfs以及yarn

# start-all.sh #或者执行以下俩条命令start-dfs.sh start-yarn.sh

10、验证

# jps

11、web管理界面

浏览器访问:http://IP:50070

部署完成。

相关推荐

Let’s Encrypt免费搭建HTTPS网站

HTTPS(全称:HyperTextTransferProtocoloverSecureSocketLayer),是以安全为目标的HTTP通道,简单讲是HTTP的安全版。即HTTP下加入...

使用Nginx配置TCP负载均衡(nginx tcp负载)

假设Kubernetes集群已经配置好,我们将基于CentOS为Nginx创建一个虚拟机。以下是实验种设置的详细信息:Nginx(CenOS8Minimal)-192.168.1.50Kube...

Nginx负载均衡及支持HTTPS与申请免费SSL证书

背景有两台minio文件服务器已做好集群配置,一台是192.168.56.41:9000;另一台是192.168.56.42:9000。应用程序通过Nginx负载均衡调用这两台minio服务,减轻单点...

HTTPS配置实战(https配置文件)

原因现在网站使用HTTPS是规范操作之一,前些日子买了腾讯云服务,同时申请了域名http://www.asap2me.top/,目前该域名只支持HTTP,想升级为HTTPS。关于HTTPS的链接过程大...

只有IP地址没有域名实现HTTPS访问方法

一般来说,要实现HTTPS,得有个注册好的域名才行。但有时候呢,咱只有服务器的IP地址,没注册域名,这种特殊情况下,也能照样实现HTTPS安全访问,按下面这些步骤来就行:第一步,先确认公网...

超详解:HTTPS及配置Django+HTTPS开发环境

众所周知HTTP协议是以TCP协议为基石诞生的一个用于传输Web内容的一个网络协议,在“网络分层模型”中属于“应用层协议”的一种。在这里我们并不研究该协议标准本身,而是从安全角度去探究使用该协议传输数...

Godaddy购买SSL之后Nginx配置流程以及各种错误的解决

完整流程:参考地址:https://sg.godaddy.com/zh/help/nginx-generate-csrs-certificate-signing-requests-3601生成NGI...

Nginx从安装到高可用,一篇搞定(nginx安装与配置详解)

一、Nginx安装1、去官网http://nginx.org/下载对应的nginx包,推荐使用稳定版本2、上传nginx到linux系统3、安装依赖环境(1)安装gcc环境yuminstallgc...

阿里云免费证书申请,配置安装,使用tomcat,支持http/https访问

参数说明商品类型默认已选择云盾证书服务(无需修改)。云盾证书服务类型SSL证书服务的类型。默认已选择云盾SSL证书(无需修改),表示付费版SSL证书。如果您需要免费领取或付费扩容DV单域名证书【免费试...

你试过两步实现Nginx的规范配置吗?极速生成Nginx配置小工具

NGINX是一款轻量级的Web服务器,最强大的功能之一是能够有效地提供HTML和媒体文件等静态内容。NGINX使用异步事件驱动模型,在负载下提供可预测的性能。是当下最受欢迎的高性能的Web...

从零开始搭建HTTPS服务(搭建https网站)

搭建HTTPS服务的最初目的是为了开发微信小程序,因为wx.request只允许发起HTTPS请求,并且还必须和指定的域名进行网络通信。要从零开始搭建一个HTTPS的服务需要下面4...

群晖NAS使用官网域名和自己的域名配置SSL实现HTTPS访问

安全第一步,群晖NAS使用官网域名和自己的域名配置SSL实现HTTPS访问【新手导向】NAS本质还是一个可以随时随地访问的个人数据存储中心,我们在外网访问的时候,特别是在公网IP下,其实会面临着很多安...

让网站快速升级HTTPS协议提高安全性

为什么用HTTPS网络安全越来越受到重视,很多互联网服务网站,都已经升级改造为https协议。https协议下数据包是ssl/tcl加密的,而http包是明文传输。如果请求一旦被拦截,数据就会泄露产生...

用Https方式访问Harbor-1.9版本(https访问流程)

我上周在头条号写过一篇原创文章《Docker-Harbor&Docker-kitematic史上最详细双系统配置手册》,这篇算是它的姊妹篇吧。这篇文章也将用到我在头条写的另一篇原创文章的...

如何启用 HTTPS 并配置免费的 SSL 证书

在Linux服务器上启用HTTPS并配置免费的SSL证书(以Let'sEncrypt为例)可以通过以下步骤完成:---###**一、准备工作**1.**确保域名已解析**...

取消回复欢迎 发表评论: