热门标签 | HotTags
当前位置:  开发笔记 > 运维 > 正文

hadoop2.2.0伪分布式安装

修改主机名和IP的映射关系vietchosts192.168.61.134hadoop关闭防火墙#查看防火墙状态serviceiptablesstatus#关闭防火墙serviceiptablesstop#查看防火墙开机启动状态chkconfigiptables--list#关闭防火墙开机启动chkconfigiptablesoff

修改主机名和IP的映射关系 vi /etc/hosts 192.168.61.134hadoop 关闭防火墙 #查看防火墙状态 service iptables status #关闭防火墙 service iptables stop #查看防火墙开机启动状态 chkconfig iptables --list #关闭防火墙开机启动 chkconfig iptables off


修改主机名和IP的映射关系

vi /etc/hosts

192.168.61.134hadoop


关闭防火墙

#查看防火墙状态

service iptables status

#关闭防火墙

service iptables stop

#查看防火墙开机启动状态

chkconfig iptables --list

#关闭防火墙开机启动

chkconfig iptables off

重启Linux

reboot

安装JDK

上传JDK文件到linux中

解压jdk

创建文件夹

mkdir /usr/java

在/usr/java目录下安装

chmod 755 jdk-6u45-linux-i586.bin

安装

./jdk-6u45-linux-i586.bin

安装完成之后

重命名jdk的安装文件夹为jdk

将java添加到环境变量中

vi /etc/profile

#在文件最后添加

export JAVA_HOME=/usr/java/jdk

export PATH=$PATH:$JAVA_HOME/bin

刷新配置

source /etc/profile



安装Hadoop

上传hadoop安装包到hadoop宿主目录下

解压hadoop安装包到hadoop根目录

tar -zxvf hadoop-2.2.0-64bit.tar.gz

修改配置文件(5个)

第一个:hadoop-env.sh

#在27行修改

export JAVA_HOME=/usr/java/jdk

第二个:core-site.xml

fs.defaultFS

hdfs://hadoop:9000

hadoop.tmp.dir

/home/hadoop/hadoop/tmp



第三个:hdfs-site.xml

dfs.replication

1


第四个:mapred-site.xml.template 需要重命名: mv mapred-site.xml.template mapred-site.xml

mapreduce.framework.name

yarn


第五个:yarn-site.xml

yarn.nodemanager.aux-services

mapreduce_shuffle


3.4将hadoop添加到环境变量

vi /etc/profile


export JAVA_HOME=/usr/java/jdk

export HADOOP_HOME=/home/hadoop/hadoop

export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin


source /etc/profile

3.5格式化HDFS(namenode)第一次使用时要格式化

hadoop namenode -format


3.6启动hadoop

先启动HDFS

sbin/start-dfs.sh


再启动YARN

sbin/start-yarn.sh


3.7验证是否启动成功

使用jps命令验证

27408 NameNode
28218 Jps
27643 SecondaryNameNode
28066 NodeManager
27803 ResourceManager
27512 DataNode

http://hadoop:50070 (HDFS管理界面)

在这个文件中添加linux主机名和IP的映射关系

C:\Windows\System32\drivers\etc\hosts

192.168.61.134 hadoop

http://hadoop:8088 (MR管理界面)

4.配置ssh免登陆

在服务器上

输入命令

chmod -R 755 /home/hadoop
mkdir ~/.ssh
ssh-keygen -t rsa

ssh-keygen -t dsa

rsa和dsa分别生成不同加密格式的ssh密钥,直接一直按回车键保存在默认的路径



在节点上配置authorized_keys文件

输入命令

cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys

将本地的密钥保存在authorized_keys

输入命令

chmod -R 700 ~/.ssh

注意当前你所在的路径

推荐阅读
  • MR程序的几种提交运行模式本地模型运行1在windows的eclipse里面直接运行main方法,就会将job提交给本地执行器localjobrunner执行-- ... [详细]
  •     这里使用自己编译的hadoop-2.7.0版本部署在windows上,记得几年前,部署hadoop需要借助于cygwin,还需要开启ssh服务,最近发现,原来不需要借助cy ... [详细]
  • Kylin 单节点安装
    软件环境Hadoop:2.7,3.1(sincev2.5)Hive:0.13-1.2.1HBase:1.1,2.0(sincev2.5)Spark(optional)2.3.0K ... [详细]
  • HDFS2.x新特性
    一、集群间数据拷贝scp实现两个远程主机之间的文件复制scp-rhello.txtroothadoop103:useratguiguhello.txt推pushscp-rr ... [详细]
  • 如何在服务器主机上实现文件共享的方法和工具
    本文介绍了在服务器主机上实现文件共享的方法和工具,包括Linux主机和Windows主机的文件传输方式,Web运维和FTP/SFTP客户端运维两种方式,以及使用WinSCP工具将文件上传至Linux云服务器的操作方法。此外,还介绍了在迁移过程中需要安装迁移Agent并输入目的端服务器所在华为云的AK/SK,以及主机迁移服务会收集的源端服务器信息。 ... [详细]
  • Hadoop2.6.0 + 云centos +伪分布式只谈部署
    3.0.3玩不好,现将2.6.0tar.gz上传到usr,chmod-Rhadoop:hadophadoop-2.6.0,rm掉3.0.32.在etcp ... [详细]
  • 在单位的一台4cpu的服务器上部署了esxserver,挂载了6个虚拟机,目前运行正常。在安装部署过程中,得到了cnvz.net论坛精华区 ... [详细]
  • 什么是大数据lambda架构
    一、什么是Lambda架构Lambda架构由Storm的作者[NathanMarz]提出,根据维基百科的定义,Lambda架构的设计是为了在处理大规模数 ... [详细]
  • 对于开源的东东,尤其是刚出来不久,我认为最好的学习方式就是能够看源代码和doc,測试它的样例为了方便查看源代码,关联导入源代 ... [详细]
  • CentOS 7配置SSH远程访问及控制
    nsitionalENhttp:www.w3.orgTRxhtml1DTDxhtml1-transitional.dtd ... [详细]
  • 前言折腾了一段时间hadoop的部署管理,写下此系列博客记录一下。为了避免各位做部署这种重复性的劳动,我已经把部署的步骤写成脚本,各位只需要按着本文把脚本执行完,整个环境基本就部署 ... [详细]
  • MapReduce 切片机制源码分析
     总体来说大概有以下2个大的步骤1.连接集群(yarnrunner或者是localjobrunner)2.submitter.submitJobInternal()在该方法中会创建 ... [详细]
  • Zookeeper为分布式环境提供灵活的协调基础架构。ZooKeeper框架支持许多当今最好的工业应用程序。我们将在本章中讨论ZooKeeper的一些最显着的应用。雅虎ZooKee ... [详细]
  • Azkaban(三)Azkaban的使用
    界面介绍首页有四个菜单projects:最重要的部分,创建一个工程,所有flows将在工程中运行。scheduling:显示定时任务executing:显示当前运行的任务histo ... [详细]
  • Java开发实战讲解!字节跳动三场技术面+HR面
    二、回顾整理阿里面试题基本就这样了,还有一些零星的问题想不起来了,答案也整理出来了。自我介绍JVM如何加载一个类的过程,双亲委派模型中有 ... [详细]
author-avatar
晨曦微露jie
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有