热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

Ubuntu13.04环境Hadoop1.2.1单机模式安装

一、虚拟机上安裝Ubuntu13.04中文版当然,你要是习惯看英文版,也可以直接安装英文版。老老实实从官网下载安装即可,安装系统不是本文的重点。这里只提一个注意事项:新手安装前,切记断网,因为安装过程中会联网下载,默认情况下连接的是美国的服务器,如果网速慢,这一步就可能会耗费几个小时。断网后,这里会自动跳过,等安装好,再设置服务器,选择国内的服务器更新语言包等其它软件。二、安

一、虚拟机上安裝Ubuntu 13.04 中文版
 
当然,你要是习惯看英文版,也可以直接安装英文版。
老老实实从官网下载安装即可,安装系统不是本文的重点。这里只提一个注意事项:新手安装前,切记断网,因为安装过程中会联网下载,默认情况下连接的是美国的服务器,如果网速慢,这一步就可能会耗费几个小时。断网后,这里会自动跳过,等安装好,再设置服务器,选择国内的服务器更新语言包等其它软件。

二、安装 JDK 1.7.0_45
 
依照从Oracle官网下载jdk-7u45-linux-x64.tar.gz,然后按下面的命令运行即可:
 
1、 cd /usr/ (注:进入usr目录)

2、sudo mkdir /usr/java (注:在usr下创建java目录)

3、sudo cp /home/jimmy/Downloads/jdk-7u45-linux-x64.tar.gz /usr/java/ (注:将下载的jdk压缩文件,移动到/usr/java下,这里jimmy是ubuntu的用户名,这里根据实际情况换成自己的用户名)

4、sudo tar -zxf jdk-7u45-linux-x64.tar.gz (注:解压)

5、sudo gedit ~/.bashrc (注:修改根目录下的bashrc文件,以便设置java环境变量)

在bashrc最后追加以下内容:
 
export JAVA_HOME=/usr/java/jdk1.7.0_45

export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

export PATH=$PATH:$JAVA_HOME/bin
 
6、关掉当前的终端窗口,再新开一个终端窗口(以便让刚才的环境变量起作用)
 
7、验证java是否安装正确
 
输入命名:java -version
 
如果能正确显示java的版本号,就说明java环境已经具备了
 
输入命名:echo $JAVA_HOME
 
如果能正确显示JAVA_HOME的路径,说明环境变量正常

三、安装 openssh-server
 
命名:sudo apt-get install openssh-server
 
(注:单机Standalone模式,这一步可以省略)

四、安装 Hadoop 1.2.1 稳定版

1、先创建hadoop目录

mkdir hadoop
 
2、将下载好的hadoop压缩包移到刚刚创建的目录下
 
sudo cp /home/jimmy/Downloads/hadoop-1.2.1.tar.gz hadoop
 
3、解压
 
cd hadoop
 
sudo tar -zxf hadoop-1.2.1.tar.gz
 
默认情况下,会解压至hadoop\hadoop-1.2.1目录
 
4、修改hadoop环境变量
 
sudo chown -R jimmy hadoop-1.2.1 (先取得hadoop-1.2.1的读写权限,这里jimmy换成自己的用户名)
 
gedit hadoop-1.2.1/conf/hadoop-env.sh (编辑conf下的配置文件)

找到#export JAVA_HOME这一行,去掉注释,变设置成正确的路径,即:
 
# The java implementation to use. Required.

export JAVA_HOME=/usr/java/jdk1.7.0_45
 
5、验证hadoop是否正常运行
 
cd hadoop-1.2.1
 
bin/hadoop version
 
正常情况下,会显示hadoop的版本号之类
 
6、运行wordcount 示例程序
 
mkdir input (先创建input目录)

cp conf/* input (将conf下的所有文件,复制到input目录下)

bin/hadoop jar hadoop-example-1.2.1.jar wordcount input output (运行wordcount程序,并将结果写入output目录下)

cat output/* (查看输出结果)

后记:以上操作,也适用于mac os、cent os,不过有些细节要注意
 
mac os上JAVA_HOME的路径为:/System/Library/Java/JavaVirtualMachines/1.6.0.jdk/Contents/Home

如果找不到java的目录,但是java -version 又能正常显示java版本号,可先执行 export JAVA_HOME=`/usr/libexec/java_home`
 
然后再 echo $JAVA_HOME就能看到当前jdk的路径了
 
cent os上apt-get命令要改为 yum
 
cent os上查看是不是64位:getconf LONG_BIT

Hadoop群集配置,可参考 http://www.linuxidc.com/Linux/2012-12/76694.htm

相关阅读

Ubuntu 13.04上搭建Hadoop环境 http://www.linuxidc.com/Linux/2013-06/86106.htm

Ubuntu 12.10 +Hadoop 1.2.1版本集群配置 http://www.linuxidc.com/Linux/2013-09/90600.htm

Ubuntu上搭建Hadoop环境(单机模式+伪分布模式) http://www.linuxidc.com/Linux/2013-01/77681.htm

Ubuntu下Hadoop环境的配置 http://www.linuxidc.com/Linux/2012-11/74539.htm

单机版搭建Hadoop环境图文教程详解 http://www.linuxidc.com/Linux/2012-02/53927.htm

搭建Hadoop环境(在Winodws环境下用虚拟机虚拟两个Ubuntu系统进行搭建) http://www.linuxidc.com/Linux/2011-12/48894.htm

更多Hadoop相关信息见Hadoop 专题页面 http://www.linuxidc.com/topicnews.aspx?tid=13


推荐阅读
  • 在Docker中,将主机目录挂载到容器中作为volume使用时,常常会遇到文件权限问题。这是因为容器内外的UID不同所导致的。本文介绍了解决这个问题的方法,包括使用gosu和suexec工具以及在Dockerfile中配置volume的权限。通过这些方法,可以避免在使用Docker时出现无写权限的情况。 ... [详细]
  • Linux服务器密码过期策略、登录次数限制、私钥登录等配置方法
    本文介绍了在Linux服务器上进行密码过期策略、登录次数限制、私钥登录等配置的方法。通过修改配置文件中的参数,可以设置密码的有效期、最小间隔时间、最小长度,并在密码过期前进行提示。同时还介绍了如何进行公钥登录和修改默认账户用户名的操作。详细步骤和注意事项可参考本文内容。 ... [详细]
  • Centos7.6安装Gitlab教程及注意事项
    本文介绍了在Centos7.6系统下安装Gitlab的详细教程,并提供了一些注意事项。教程包括查看系统版本、安装必要的软件包、配置防火墙等步骤。同时,还强调了使用阿里云服务器时的特殊配置需求,以及建议至少4GB的可用RAM来运行GitLab。 ... [详细]
  • 如何在服务器主机上实现文件共享的方法和工具
    本文介绍了在服务器主机上实现文件共享的方法和工具,包括Linux主机和Windows主机的文件传输方式,Web运维和FTP/SFTP客户端运维两种方式,以及使用WinSCP工具将文件上传至Linux云服务器的操作方法。此外,还介绍了在迁移过程中需要安装迁移Agent并输入目的端服务器所在华为云的AK/SK,以及主机迁移服务会收集的源端服务器信息。 ... [详细]
  • 成功安装Sabayon Linux在thinkpad X60上的经验分享
    本文分享了作者在国庆期间在thinkpad X60上成功安装Sabayon Linux的经验。通过修改CHOST和执行emerge命令,作者顺利完成了安装过程。Sabayon Linux是一个基于Gentoo Linux的发行版,可以将电脑快速转变为一个功能强大的系统。除了作为一个live DVD使用外,Sabayon Linux还可以被安装在硬盘上,方便用户使用。 ... [详细]
  •     这里使用自己编译的hadoop-2.7.0版本部署在windows上,记得几年前,部署hadoop需要借助于cygwin,还需要开启ssh服务,最近发现,原来不需要借助cy ... [详细]
  • 大坑|左上角_pycharm连接服务器同步写代码(图文详细过程)
    篇首语:本文由编程笔记#小编为大家整理,主要介绍了pycharm连接服务器同步写代码(图文详细过程)相关的知识,希望对你有一定的参考价值。pycharm连接服务 ... [详细]
  • 现在比较流行使用静态网站生成器来搭建网站,博客产品着陆页微信转发页面等。但每次都需要对服务器进行配置,也是一个重复但繁琐的工作。使用DockerWeb,只需5分钟就能搭建一个基于D ... [详细]
  • 在单位的一台4cpu的服务器上部署了esxserver,挂载了6个虚拟机,目前运行正常。在安装部署过程中,得到了cnvz.net论坛精华区 ... [详细]
  • Linux一键安装web环境全攻略
    摘自阿里云服务器官网,此处一键安装包下载:点此下载安装须知1、此安装包可在阿里云所有Linux系统上部署安装,此安装包包含的软件及版本为& ... [详细]
  • systemd-nspawn可以创建最轻量级的容器(ns的意思就是namespace),本文的实验平台是Ubuntu16.04,x86_64机器。本文的目的是:在Ubuntu中用syst ... [详细]
  • 对于一般的扩展包,我们一般直接pipinstallxxx即可安装,但是unrar直接安装后,发现并不能通过Python程序实现解压的功能& ... [详细]
  • LVS-DR直接路由实现负载均衡示例
    nsitionalENhttp:www.w3.orgTRxhtml1DTDxhtml1-transitional.dtd ... [详细]
  • 本文介绍了Oracle数据库中tnsnames.ora文件的作用和配置方法。tnsnames.ora文件在数据库启动过程中会被读取,用于解析LOCAL_LISTENER,并且与侦听无关。文章还提供了配置LOCAL_LISTENER和1522端口的示例,并展示了listener.ora文件的内容。 ... [详细]
  • 本文由编程笔记#小编为大家整理,主要介绍了markdown[软件代理设置]相关的知识,希望对你有一定的参考价值。 ... [详细]
author-avatar
mobiledu2502890451
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有