热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

Hive1.1.0cdh5.7.0编译及部署

1.环境准备1)虚拟机为VM102)Linux系统为centos6.53)Hadoop为hadoop-2.6.0-cdh5.7.04)JDK为jdk-7u80-linux-x64.

1.环境准备

1)虚拟机为VM10

2)Linux系统为centos6.5

3)Hadoop为hadoop-2.6.0-cdh5.7.0

4)JDK为jdk-7u80-linux-x64.tar.gz

5)Maven为apache-maven-3.3.9-bin.zip

6)MySQL为mysql-5.6.23-linux-glibc2.5-x86_64.tar.gz

【以上环境必须提前装备好】

mysql已经部署在用户mysqladmin下,家目录:/usr/local/mysql,用户名root,密码123456

详细步骤见之前文章《MySQL部署》

2.Hive-1.1.0-cdh5.7.0编译

1)下载

下载/hive-1.1.0-cdh5.7.0-src.tar.gz

下载地址:http://archive.cloudera.com/cdh5/cdh/5/hive-1.1.0-cdh5.7.0-src.tar.gz

2)上传(rz)

上传hive-1.1.0-cdh5.7.0-src.tar.gz至/home/hadoop/source

3)解压

[hadoop@hadoop001 source]$ tar -zxvf hadoop-2.6.0-cdh5.7.0-src.tar.gz

解压后注意观察解压后文件夹的用户、用户组对不对,不对的话chown -R XXX:XXX dir一下

4)编译

[hadoop@hadoop001 ~]$ cd source/hive-1.1.0-cdh5.7.0

[hadoop@hadoop001 hive-1.1.0-cdh5.7.0]$ pwd

/home/hadoop/source/hive-1.1.0-cdh5.7.0

[hadoop@hadoop001 hive-1.1.0-cdh5.7.0]$ mvn clean package -DskipTests -Phadoop-2 -Pdist

《Hive-1.1.0-cdh5.7.0编译及部署》

3.hive部署

1)解压编译好的hive安装包

将编译好的apache-hive-1.1.0-cdh5.7.0-bin.tar.gz移至/home/hadoop/software

【也可以直接下载hive安装包,下载链接:http://archive.cloudera.com/cdh5/cdh/5/hive-1.1.0-cdh5.7.0.tar.gz】

[hadoop@hadoop001 software]$  tar -zxvf apache-hive-1.1.0-cdh5.7.0-bin.tar.gz -C ~/app/

2)配置环境变量

[hadoop@hadoop001 ~]$ vi .bash_profile

# .bash_profile

# Get the aliases and functions

if [ -f ~/.bashrc ]; then

        . ~/.bashrc

fi

# User specific environment and startup programs

PATH=$PATH:$HOME/bin

export PATH

export JAVA_HOME=/usr/java/jdk1.7.0_80

export MVN_HOME=/home/hadoop/app/apache-maven-3.3.9

export FINDBUGS_HOME=/home/hadoop/app/findbugs-1.3.9

export PROTOC_HOME=/usr/local/protobuf

export HADOOP_HOME=/home/hadoop/app/hadoop-2.6.0

export HIVE_HOME=/home/hadoop/app/hive-1.1.0-cdh5.7.0

export PATH=$HIVE_HOME/bin:$HADOOP_HOME/bin:$PROTOC_HOME/bin:$FINDBUGS_HOME/bin:$MVN_HOME/bin:$JAVA_HOME/bin:$PATH

[hadoop@hadoop001 ~]$ source .bash_profile

3)修改配置文件

[hadoop@hadoop001 ~]$ cd /home/hadoop/app/hive-1.1.0-cdh5.7.0/conf

[hadoop@hadoop001 conf]$ cp hive-env.sh.template hive-env.sh

[hadoop@hadoop001 conf]$ vi hive-env.sh

HADOOP_HOME=/home/hadoop/app/hadoop-2.6.0

[hadoop@hadoop001 conf]$ vi hive-site.xml

《Hive-1.1.0-cdh5.7.0编译及部署》

4)拷贝驱动:

cp mysql-connector-java-5.1.27.jar $HIVE_HOME/lib

驱动下载地址:http://search.maven.org

搜索mysql-connector-java

选择5.1.27版本下载

《Hive-1.1.0-cdh5.7.0编译及部署》

4.启动hdfs和mysql

[hadoop@hadoop001 ~]$ cd $HADOOP_HOME/sbin

[hadoop@hadoop001 sbin]$ ./start-dfs.sh

[hadoop@hadoop001 ~]$ jps

4066 DataNode

5510 Jps

4201 SecondaryNameNode

3976 NameNode

[root@hadoop001 ~]# su – mysqladmin

[mysqladmin@hadoop001 ~]$ service mysql start

Starting MySQL………….                                [  OK  ]

5.启动hive

[hadoop@hadoop001 ~]$ cd /home/hadoop/app/hive-1.1.0-cdh5.7.0/bin

[hadoop@hadoop001 bin]$ ./hive

《Hive-1.1.0-cdh5.7.0编译及部署》

hive> show tables;

OK

Time taken: 0.171 seconds

配置文件里的数据库ruozedata_basic03在mysql里可以看到

mysql> show databases;

《Hive-1.1.0-cdh5.7.0编译及部署》


推荐阅读
  • 一、四种存储格式介绍1、TestFileTextFile文件不支持块压缩,默认格式,数据不做压缩,磁盘开销大,数据解析开销 ... [详细]
  • 大数据Hadoop生态(20)MapReduce框架原理OutputFormat的开发笔记
    本文介绍了大数据Hadoop生态(20)MapReduce框架原理OutputFormat的开发笔记,包括outputFormat接口实现类、自定义outputFormat步骤和案例。案例中将包含nty的日志输出到nty.log文件,其他日志输出到other.log文件。同时提供了一些相关网址供参考。 ... [详细]
  • 大数据学习路线!
    大数据如此火热的现在,想必许多小伙伴都想要加入这个行业。也是AI菌今天就要拿出收藏已久的大数据学习计划。帮助你不走弯路,迈向大数据之路。1大数据应用离不开基础软件的支撑,且大部分大 ... [详细]
  • 搭建Windows Server 2012 R2 IIS8.5+PHP(FastCGI)+MySQL环境的详细步骤
    本文详细介绍了搭建Windows Server 2012 R2 IIS8.5+PHP(FastCGI)+MySQL环境的步骤,包括环境说明、相关软件下载的地址以及所需的插件下载地址。 ... [详细]
  • HDFS2.x新特性
    一、集群间数据拷贝scp实现两个远程主机之间的文件复制scp-rhello.txtroothadoop103:useratguiguhello.txt推pushscp-rr ... [详细]
  • 本文介绍了关于apache、phpmyadmin、mysql、php、emacs、path等知识点,以及如何搭建php环境。文章提供了详细的安装步骤和所需软件列表,希望能帮助读者解决与LAMP相关的技术问题。 ... [详细]
  • Activiti7流程定义开发笔记
    本文介绍了Activiti7流程定义的开发笔记,包括流程定义的概念、使用activiti-explorer和activiti-eclipse-designer进行建模的方式,以及生成流程图的方法。还介绍了流程定义部署的概念和步骤,包括将bpmn和png文件添加部署到activiti数据库中的方法,以及使用ZIP包进行部署的方式。同时还提到了activiti.cfg.xml文件的作用。 ... [详细]
  • Hibernate延迟加载深入分析-集合属性的延迟加载策略
    本文深入分析了Hibernate延迟加载的机制,特别是集合属性的延迟加载策略。通过延迟加载,可以降低系统的内存开销,提高Hibernate的运行性能。对于集合属性,推荐使用延迟加载策略,即在系统需要使用集合属性时才从数据库装载关联的数据,避免一次加载所有集合属性导致性能下降。 ... [详细]
  • Hadoop源码解析1Hadoop工程包架构解析
    1 Hadoop中各工程包依赖简述   Google的核心竞争技术是它的计算平台。Google的大牛们用了下面5篇文章,介绍了它们的计算设施。   GoogleCluster:ht ... [详细]
  • 【转】腾讯分析系统架构解析
    TA(TencentAnalytics,腾讯分析)是一款面向第三方站长的免费网站分析系统,在数据稳定性、及时性方面广受站长好评,其秒级的实时数据更新频率也获得业界的认可。本文将从实 ... [详细]
  •        在搭建Hadoop环境之前,请先阅读如下博文,把搭建Hadoop环境之前的准备工作做好,博文如下:       1、CentOS6.7下安装JDK,地址:http:b ... [详细]
  • 关于hadoop及相关模块的安装,自己下载模块安装的话较为麻烦,有配置、版本对应的些许问题,使用cloudera集成好的平台也不错 ... [详细]
  • Spark学习之路(一)Spark概述
    一,什么是spark定义:Spark一种基于内存的快速,通用,可扩展的大数据分析引擎.官网地址:http:spark.apache.org历史:2009年诞生于加州伯 ... [详细]
  • 安装hive包[CDH下载地址](http:archive.cloudera.comcdh5cdh5)1、将hive-0.13.1-cdh5.3.10.tar.gz使用WinSCP ... [详细]
  • Metasploit攻击渗透实践
    本文介绍了Metasploit攻击渗透实践的内容和要求,包括主动攻击、针对浏览器和客户端的攻击,以及成功应用辅助模块的实践过程。其中涉及使用Hydra在不知道密码的情况下攻击metsploit2靶机获取密码,以及攻击浏览器中的tomcat服务的具体步骤。同时还讲解了爆破密码的方法和设置攻击目标主机的相关参数。 ... [详细]
author-avatar
kafei
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有