首页 > 其他 > 详细

hive入门

时间:2015-05-12 02:07:31      阅读:313      评论:0      收藏:0      [点我收藏+]
  1. 什么是Hive

Hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供简单的sql查询功能,可以将sql语句转换为MapReduce任务进行运行。同时,这个语言也允许熟悉 MapReduce? 开发者的开发自定义的 mapper? reducer? 来处理内建的 mapper reducer? 无法完成的复杂的分析工作。

  1. 为什么使用Hive

学习成本低,可以通过类SQL语句快速实现简单的MapReduce统计,不必开发专门的MapReduce应用,十分适合数据仓库的统计分析。

  1. Hive 系统架构

bubuko.com,布布扣

?

用户接口主要有三个:CLIJDBC/ODBC WebUI

  1. CLI,即Shell命令行

  2. JDBC/ODBC Hive Java,与使用传统数据库JDBC的方式类似

  3. WebGUI是通过浏览器访问 Hive

MetastoreHive的元数据)

  1. 元数据包含了Hive包表的表名、字段分区属性等表的属性信息

  2. 默认使用Derby数据库作为默认的元数据仓库(嵌入式,只支持单session回话)

?

  1. Hive与传统数据的对比

?

Hive

RDBMS

查询语言

HQL

SQL

数据存储

HDFS

Raw Device or Local FS

执行

MapReduce

Excutor

执行延迟

处理数据规模

索引

0.8版本后加入位图索引

有复杂的索引

?

  1. Hivehadoop 的调用关系

bubuko.com,布布扣

  1. Hive安装

  2. 1.???? 下载hive源文件

  3. 2.???? 解压hive文件

  4. 3.???? 进入$HIVE_HOME/conf/修改文件

  5. a)???? cp? hive-env.sh.template? hive-env.sh

  6. b)???? cp? hive-default.xml.template? hive-site.xml

  7. 4.???? 修改$HIVE_HOME/binhive-env.sh,增加以下三行

  8. a)???? export JAVA_HOME=/usr/local/jdk1.7.0_45

  9. b)???? export HIVE_HOME=/usr/local/hive-0.14.0

  10. c)???? export HADOOP_HOME=/usr/local/hadoop-2.6.0

  11. 5.???? 伪分布模式使用默认的Derby就可以直接启动Hive控制台了,但一般都会修改为MySQL

修改$HIVE_HOME/conf/hive-site.xml

<property>

????? <name>javax.jdo.option.ConnectionURL</name>

????? <value>jdbc:mysql://192.168.1.100:3306/crxy_job?

?????????? ??? createDatabaseIfNotExist=true</value>

</property>

<property>

????? <name>javax.jdo.option.ConnectionDriverName</name>

????? <value>com.mysql.jdbc.Driver</value>

</property>

<property>

????? <name>javax.jdo.option.ConnectionUserName</name>

????? <value>root</value>

</property>

<property>

????? <name>javax.jdo.option.ConnectionPassword</name>

????? <value>admin</value>

</property>

  1. MySQL的驱动包jar文件存放在HIVE_HOME/lib

  2. 启动Hive,现在就可以执行Sql语句创建表了!

?

?更多精彩内容请关注:http://bbs.superwu.cn

关注超人学院微信二维码:bubuko.com,布布扣

hive入门

原文:http://crxy2016.iteye.com/blog/2210179

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!