热门标签 | HotTags
当前位置:  开发笔记 > 前端 > 正文

Linux中Centos7搭建Hadoop服务步骤

本篇文章给大家详细讲述了Linux中Centos7搭建Hadoop服务步骤,对此有需要的读者朋友们可以参考下。

下载Hadoop 官网:http://hadoop.apache.org/releases.html

先配置jdk环境(教程:https://www.jb51.net/article/108936.htm)

下载以后 解压到到/usr/local

tar -zxvf hadoop-2.8.0.tar.gz -C /usr/local

为了方便操作 把hadoop-2.8.0 改为hadoop

mv /usr/local/hadoop-2.8.0 /usr/local/hadoop 

查看主机名

hostname //第一个参数为主机名

检查是否可以免密码

ssh localhost //这里的localhost为主机名

注意:一般初次安装都需要密码

ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys

再次验证

ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys

注意:如没有Enter password 就说明免密码了

配置环境变量

vim /etc/profile 

末尾添加

export HADOOP_HOME=/usr/local/hadoop 
export PATH=$JAVA_HOME/bin:$PATH:$HOME/bin:$HADOOP_HOME/bin 

使环境变量立即生效

source /etc/profile 

创建Hadoop的临时文件存放地

mkdir /usr/local/hadoop/tmp

编辑Hadoop的配置文件

cd /usr/local/hadoop/etc/hadoop/
vim hadoop-env.sh

末尾添加

export JAVA_HOME=/usr/local/java/jdk1.8.0_131/ 
export HADOOP_CONF_DIR=/usr/local/hadoop/etc/hadoop

注意:路径要对

使环境变量立即生效

source hadoop-env.sh

配置另一个文件

vim core-site.xml 

中添加以下内容

 
    fs.defaultFS 
    hdfs://localhost:9000 
   
 
hadoop.tmp.dir 
file:/usr/local/hadoop/tmp 
     

配置下一个文件 hdfs-site.xml

vim hdfs-site.xml

中添加以下内容

 
    dfs.replication 
    1 
   
  
    dfs.namenode.name.dir 
    file:/usr/local/hadoop/tmp/dfs/name 
     
     
     dfs.datanode.data.dir 
     file:/usr/local/hadoop/tmp/dfs/data 
     

配置下一个文件mapred-site.xml 因为这个文件默认不存在 我们把mapred-site.xml.template作为模板来配置

cp mapred-site.xml.template mapred-site.xml 

vim mapred-site.xml

中添加以下内容

 
    mapreduce.framework.name 
    yarn 
  

配置下下个文件yarn-site.xml

vim yarn-site.xml

中添加以下内容

 
    yarn.nodemanager.aux-services 
    mapreduce_shuffle 
  

配置最后一个文件yarn-env.sh

vim yarn-env.sh

注意:在第23行左右 export JAVA_HOME (删除# 去掉注释),并更改正确jdk的路径

格式化namenode

cd /usr/local/hadoop
bin/hdfs namenode-format

注意:成功的话,会看到 “successfully formatted” 和 “Exitting withstatus 0” 的提示,若为 “Exitting with status 1” 则是出错了

通过脚本启动hdfs

sbin/start-dfs.sh

打开浏览器访问http://localhost:50070,验证是否hdfs配置成功

再来启动yarn

sbin/start-yarn.sh

打开浏览器访问http://localhost:8088,验证yarn是否配置成功

注意:由于浏览器存在缓存问题 打开地址可能会失败关闭浏览器 重新打开一两次就好,如果还是失败 检查配置文件是否有误

查看已启动的hadoop进程

jps

注意:如果没有 NameNode 或 DataNode ,那就是配置不成功


推荐阅读
  •     这里使用自己编译的hadoop-2.7.0版本部署在windows上,记得几年前,部署hadoop需要借助于cygwin,还需要开启ssh服务,最近发现,原来不需要借助cy ... [详细]
  • HDFS2.x新特性
    一、集群间数据拷贝scp实现两个远程主机之间的文件复制scp-rhello.txtroothadoop103:useratguiguhello.txt推pushscp-rr ... [详细]
  • 本文介绍了在sqoop1.4.*版本中,如何实现自定义分隔符的方法及步骤。通过修改sqoop生成的java文件,并重新编译,可以满足实际开发中对分隔符的需求。具体步骤包括修改java文件中的一行代码,重新编译所需的hadoop包等。详细步骤和编译方法在本文中都有详细说明。 ... [详细]
  • Hadoop2.6.0 + 云centos +伪分布式只谈部署
    3.0.3玩不好,现将2.6.0tar.gz上传到usr,chmod-Rhadoop:hadophadoop-2.6.0,rm掉3.0.32.在etcp ... [详细]
  • Hadoop源码解析1Hadoop工程包架构解析
    1 Hadoop中各工程包依赖简述   Google的核心竞争技术是它的计算平台。Google的大牛们用了下面5篇文章,介绍了它们的计算设施。   GoogleCluster:ht ... [详细]
  • 对于开源的东东,尤其是刚出来不久,我认为最好的学习方式就是能够看源代码和doc,測试它的样例为了方便查看源代码,关联导入源代 ... [详细]
  • MR程序的几种提交运行模式本地模型运行1在windows的eclipse里面直接运行main方法,就会将job提交给本地执行器localjobrunner执行-- ... [详细]
  • Kylin 单节点安装
    软件环境Hadoop:2.7,3.1(sincev2.5)Hive:0.13-1.2.1HBase:1.1,2.0(sincev2.5)Spark(optional)2.3.0K ... [详细]
  •        在搭建Hadoop环境之前,请先阅读如下博文,把搭建Hadoop环境之前的准备工作做好,博文如下:       1、CentOS6.7下安装JDK,地址:http:b ... [详细]
  • iOS超签签名服务器搭建及其优劣势
    本文介绍了搭建iOS超签签名服务器的原因和优势,包括不掉签、用户可以直接安装不需要信任、体验好等。同时也提到了超签的劣势,即一个证书只能安装100个,成本较高。文章还详细介绍了超签的实现原理,包括用户请求服务器安装mobileconfig文件、服务器调用苹果接口添加udid等步骤。最后,还提到了生成mobileconfig文件和导出AppleWorldwideDeveloperRelationsCertificationAuthority证书的方法。 ... [详细]
  • 本文详细介绍了在Centos7上部署安装zabbix5.0的步骤和注意事项,包括准备工作、获取所需的yum源、关闭防火墙和SELINUX等。提供了一步一步的操作指南,帮助读者顺利完成安装过程。 ... [详细]
  • GSIOpenSSH PAM_USER 安全绕过漏洞
    漏洞名称:GSI-OpenSSHPAM_USER安全绕过漏洞CNNVD编号:CNNVD-201304-097发布时间:2013-04-09 ... [详细]
  • 本文由编程笔记#小编为大家整理,主要介绍了markdown[软件代理设置]相关的知识,希望对你有一定的参考价值。 ... [详细]
  • MapReduce工作流程最详细解释
    MapReduce是我们再进行离线大数据处理的时候经常要使用的计算模型,MapReduce的计算过程被封装的很好,我们只用使用Map和Reduce函数,所以对其整体的计算过程不是太 ... [详细]
  • Java开发实战讲解!字节跳动三场技术面+HR面
    二、回顾整理阿里面试题基本就这样了,还有一些零星的问题想不起来了,答案也整理出来了。自我介绍JVM如何加载一个类的过程,双亲委派模型中有 ... [详细]
author-avatar
八戒走你
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有