热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

centos7安装hadoop2.6.1,详细教程

1.我搭建的是三台centos7的环境首先准备三个centos7(文中出现的所有的链接都是我自己的)centos7下载地址(也可以上官网自行下载):https:pan.baidu.com

1.我搭建的是三台centos7的环境 首先准备三个centos7(文中出现的所有的链接都是我自己的)

  centos7下载地址(也可以上官网自行下载):https://pan.baidu.com/s/1Y_EVLDuLwpKv2hU3HSiPDA 提取码:05mi

2.安装完成后需要修改ip,都改为静态的ip

  vi /etc/sysconfig/network-scripts/ifcfg-ens33(有可能不是ifcfg-ens33,自行判断),以下是我的配置,你们可以参考下

      BOOTTPROTO必须改为static,NETMASK,GATEWAY,BROADCAST根据自己的虚拟网络编辑器修改

  

     三台虚拟机都需要配置 我的三台机器是

 master:192.168.111.10  master

   slave1:192.168.111.11   slave1

   slave2:192.168.111.12   slave2

   设置完毕后ping下网络

3.修改hostname

  https://www.cnblogs.com/zhangjiahao/p/10990093.html

4.安装java环境(jdk)

  https://www.cnblogs.com/zhangjiahao/p/8551362.html

5.配置多个虚拟机互信(免密登录)

  https://www.cnblogs.com/zhangjiahao/p/10989245.html

6.安装配置hadoop

  (1)下载

  链接:https://pan.baidu.com/s/1m0IXN1up0nk2rxDUMgEC-g
       提取码:mhxa

   (2)上传解压

  rz  选择你的文件进行上传

    tar -zxvf 刚才上传的包进行解压

   (3)配置

       打开hadoop下的etc  找到hadoop-env.sh和yarn-env.sh 在里面添加JAVA_HOME=/usr/local/src/java1.8.0_172(你的jdk安装路径)

  编辑core-site.xml:

<configuration>
         <property>
                 <name>fs.default.namename>
                 <value>hdfs://master:9000value>
         property>
         <property>
                 <name>hadoop.tmp.dirname>
                 <value>file:/usr/local/src/hadoop-2.6.1/tmpvalue>
         property>
configuration>

 

       编辑hdfs-site.xml:

<configuration> 
    <property>
        <name>dfs.namenode.secondary.http-addressname>
        <value>master:9091value>
    property>
    <property> 
        <name>dfs.namenode.name.dirname> 
        <value>file:/usr/local/src/hadoop-2.6.1/dfs/namevalue> 
    property> 
    <property> 
        <name>dfs.datanode.data.dirname> 
        <value>file:/usr/local/src/hadoop-2.6.1/dfs/datavalue> 
    property> 
    <property> 
        <name>dfs.replicationname> 
        <value>3value> 
    property>
configuration> 

 

  编辑mapred-site.xml:

<configuration> 
    <property> 
        <name>mapreduce.framework.namename>         
        <value>yarnvalue> 
    property>  
configuration> 

  编辑yarn-site.xml:

<configuration> 
    <property> 
        <name>yarn.nodemanager.aux-servicesname> 
        <value>mapreduce_shufflevalue> 
    property> 
    <property> 
        <name>yarn.nodemanager.aux-services.mapreduce.shuffle.classname> 
        <value>org.apache.hadoop.mapred.ShuffleHandlervalue> 
    property> 
    <property> 
        <name>yarn.resourcemanager.addressname> 
        <value>master:8032value> 
    property> 
    <property> 
        <name>yarn.resourcemanager.scheduler.addressname> 
        <value>master:8030value> 
    property> 
    <property> 
        <name>yarn.resourcemanager.resource-tracker.addressname> 
        <value>master:8031value> 
    property> 
    <property> 
        <name>yarn.resourcemanager.admin.addressname> 
        <value>master:8033value> 
    property> 
    <property> 
        <name>yarn.resourcemanager.webapp.addressname> 
        <value>master:8088value> 
    property> 
configuration> 

7.将hadoop配置分发到各个节点

    scp -r hadoop2.6.1 root@slave1:/usr/local/src

    scp -r hadoop2.6.1 root@slave2:/usr/local/src

8.将环境变量的配置分发到各个节点

    scp -r /etc/profile root@slave1:/etc

    scp -r /etc/profile root@slave2:/etc

9.配置生效

   source /etc/profile

 10.在主节点初始化集群

    cd/hadoop2.6.1/sbin

    hadoop namenode -format

11.启动集群(./start-all.sh也行)

    ./start-dfs.sh    ./start-yarn.sh

12.输入jps命令查看集群是是否全部启动    

13.验证是否成功

  hadoop fs -ls / 

  到hadoop的根目录下  cd /etc/

  创建一个txt touch   1.txt

  给1.txt输入字  echo 123456 > 1.txt

  查看内容  cat 1.txt

  上传1.txt hadoop fs -put 1.txt /

  hadoop fs -ls input  如果显示如下就说明上传成功:
        Found 1 items   *****你的文件信息

  

 

 

 

 

 

 

 

 

 

    


推荐阅读
  • VScode格式化文档换行或不换行的设置方法
    本文介绍了在VScode中设置格式化文档换行或不换行的方法,包括使用插件和修改settings.json文件的内容。详细步骤为:找到settings.json文件,将其中的代码替换为指定的代码。 ... [详细]
  • HDFS2.x新特性
    一、集群间数据拷贝scp实现两个远程主机之间的文件复制scp-rhello.txtroothadoop103:useratguiguhello.txt推pushscp-rr ... [详细]
  • iOS超签签名服务器搭建及其优劣势
    本文介绍了搭建iOS超签签名服务器的原因和优势,包括不掉签、用户可以直接安装不需要信任、体验好等。同时也提到了超签的劣势,即一个证书只能安装100个,成本较高。文章还详细介绍了超签的实现原理,包括用户请求服务器安装mobileconfig文件、服务器调用苹果接口添加udid等步骤。最后,还提到了生成mobileconfig文件和导出AppleWorldwideDeveloperRelationsCertificationAuthority证书的方法。 ... [详细]
  • 本文介绍了在sqoop1.4.*版本中,如何实现自定义分隔符的方法及步骤。通过修改sqoop生成的java文件,并重新编译,可以满足实际开发中对分隔符的需求。具体步骤包括修改java文件中的一行代码,重新编译所需的hadoop包等。详细步骤和编译方法在本文中都有详细说明。 ... [详细]
  • Nginx使用AWStats日志分析的步骤及注意事项
    本文介绍了在Centos7操作系统上使用Nginx和AWStats进行日志分析的步骤和注意事项。通过AWStats可以统计网站的访问量、IP地址、操作系统、浏览器等信息,并提供精确到每月、每日、每小时的数据。在部署AWStats之前需要确认服务器上已经安装了Perl环境,并进行DNS解析。 ... [详细]
  • 本文介绍了Web学习历程记录中关于Tomcat的基本概念和配置。首先解释了Web静态Web资源和动态Web资源的概念,以及C/S架构和B/S架构的区别。然后介绍了常见的Web服务器,包括Weblogic、WebSphere和Tomcat。接着详细讲解了Tomcat的虚拟主机、web应用和虚拟路径映射的概念和配置过程。最后简要介绍了http协议的作用。本文内容详实,适合初学者了解Tomcat的基础知识。 ... [详细]
  • Spring常用注解(绝对经典),全靠这份Java知识点PDF大全
    本文介绍了Spring常用注解和注入bean的注解,包括@Bean、@Autowired、@Inject等,同时提供了一个Java知识点PDF大全的资源链接。其中详细介绍了ColorFactoryBean的使用,以及@Autowired和@Inject的区别和用法。此外,还提到了@Required属性的配置和使用。 ... [详细]
  • 本文介绍了在Mac上安装Xamarin并使用Windows上的VS开发iOS app的方法,包括所需的安装环境和软件,以及使用Xamarin.iOS进行开发的步骤。通过这种方法,即使没有Mac或者安装苹果系统,程序员们也能轻松开发iOS app。 ... [详细]
  • 本文讨论了如何使用Web.Config进行自定义配置节的配置转换。作者提到,他将msbuild设置为详细模式,但转换却忽略了带有替换转换的自定义部分的存在。 ... [详细]
  • 本文介绍了如何使用JSONObiect和Gson相关方法实现json数据与kotlin对象的相互转换。首先解释了JSON的概念和数据格式,然后详细介绍了相关API,包括JSONObject和Gson的使用方法。接着讲解了如何将json格式的字符串转换为kotlin对象或List,以及如何将kotlin对象转换为json字符串。最后提到了使用Map封装json对象的特殊情况。文章还对JSON和XML进行了比较,指出了JSON的优势和缺点。 ... [详细]
  • 本文介绍了Android中的assets目录和raw目录的共同点和区别,包括获取资源的方法、目录结构的限制以及列出资源的能力。同时,还解释了raw目录中资源文件生成的ID,并说明了这些目录的使用方法。 ... [详细]
  • 大数据Hadoop生态(20)MapReduce框架原理OutputFormat的开发笔记
    本文介绍了大数据Hadoop生态(20)MapReduce框架原理OutputFormat的开发笔记,包括outputFormat接口实现类、自定义outputFormat步骤和案例。案例中将包含nty的日志输出到nty.log文件,其他日志输出到other.log文件。同时提供了一些相关网址供参考。 ... [详细]
  • 在Windows10系统上使用VMware创建CentOS虚拟机的详细步骤教程
    本文详细介绍了在Windows10系统上使用VMware创建CentOS虚拟机的步骤,包括准备条件、安装VMware、下载CentOS ISO文件、创建虚拟机并进行自定义配置、设置虚拟机的ISO与网络、进行安装和配置等。通过本文的指导,读者可以轻松地创建自己的CentOS虚拟机并进行相应的配置和操作。 ... [详细]
  • 本文介绍了在无法联网的情况下,通过下载rpm包离线安装zip和unzip的方法。详细介绍了如何搜索并下载合适的rpm包,以及如何使用rpm命令进行安装。 ... [详细]
  •     这里使用自己编译的hadoop-2.7.0版本部署在windows上,记得几年前,部署hadoop需要借助于cygwin,还需要开启ssh服务,最近发现,原来不需要借助cy ... [详细]
author-avatar
不点包子
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有