注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

淘尽网 官方博客

淘尽网http://www.tao3w.com做最好的比价网站

 
 
 

日志

 
 
关于我

淘尽网 http://www.tao3w.com 做最好的比价网站,做最好的数据抓取专家。

网易考拉推荐

HDFS+MapReduce+Hive+HBase十分钟快速入门  

2012-10-08 10:26:18|  分类: 推荐系统 |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |
http://samuschen.iteye.com/blog/765177

HDFS+MapReduce+Hive+HBase 十分钟快速入门

 

1.     前言

本文的目的是让一个从未接触 Hadoop 的人,在很短的时间内快速上手,掌握编译、安装和简单的使用。

2.     Hadoop 家族

截止 2009-8-19 日,整个 Hadoop 家族由以下几个子项目组成:

成员名

用途

Hadoop Common

Hadoop 体系最底层的一个模块,为 Hadoop 各子项目提供各种工具,如:配置文件和日志操作等。

Avro

Avro 是 doug cutting 主持的 RPC 项目,有点类似 Google 的 protobuf 和Facebook 的 thrift 。 avro 用来做以后 hadoop 的 RPC ,使 hadoop 的 RPC 模块通信速度更快、数据结构更紧凑。

Chukwa

Chukwa 是基于 Hadoop 的大集群监控系统,由 yahoo 贡献。

HBase

基于 Hadoop Distributed File System ,是一个开源的,基于列存储模型的分布式数据库。

HDFS

分布式文件系统

Hive

hive 类似 CloudBase ,也是基于 hadoop 分布式计算平台上的提供 data warehouse 的 sql 功能的一套软件。使得存储在 hadoop 里面的海量数据的汇总,即席查询简单化。 hive 提供了一套 QL 的查询语言,以 sql 为基础,使用起来很方便。

MapReduce

实现了 MapReduce 编程框架

Pig

Pig 是 SQL-like 语言,是在 MapReduce 上构建的一种高级查询语言,把一些运算编译进 MapReduce 模型的 Map 和 Reduce 中,并且用户可以定义自己的功能。 Yahoo 网格运算部门开发的又一个克隆 Google 的项目 Sawzall 。

ZooKeeper

Zookeeper 是 Google 的 Chubby 一个开源的实现。它是一个针对大型分布式系统的可靠协调系统,提供的功能包括:配置维护、名字服务、分布式同步、组服务等。 ZooKeeper 的目标就是封装好复杂易出错的关键服务,将简单易用的接口和性能高效、功能稳定的系统提供给用户。

3.     演练环境

3.1.    操作系统

SuSE10 , Linux2.6.16 , 32 位版本。

3.2.    Hadoop

Hive 通过 SVN 直接从网上下载原代码,其它采用 hadoop-0.20.0.tar.gz 二进制安装包,所以只需要编译 Hive 。

另外,请注意不要下载 2009-8-19 号的 Hive , 2009-8-19 提交的 Hive 版本在 hadoop-0.20.0.tar.gz 上编译通不过,原因是:

Hive 源代码根目录 \ql\src\java\org\apache\hadoop\hive\ql\exec\FileSinkOperator.java 文件中多了一行:

import org.apache.hadoop.io.compress.LzoCodec;

而应当下载 2009-8-4 号和 2009-8-19 之间的版本,或 2009-8-19 之后的版本。

3.3.    Hive

在 0.20.0 版本的 Hadoop 二进制安装包中,并没有集成 Hive ,所以 Hive 需要自己编译,编译时需要使用到 ant 和ivy 两个工具,而且依赖于 Hadoop 。

3.4.    Java

运行 Hadoop 和编译 Hive ,都需要使用到 Java ,所以需要第一个安装的是 Java 。

3.5.    机器

演练时,在 3 台机器上搭建 Hadoop 集群,假设这 3 台机器如下表所示:

机器名

机器 IP

用途

Hadoop-A

192.168.0.1

用作 Master

Hadoop-B

192.168.0.2

用作 Slave

Hadoop-C

192.168.0.3

用作 Slave

注意事项 :机器名中 不能包括下划线  _  ,但 可以包括横线 。另可使用不带参数的 hostname 来查看机器名,修改机器名方法为: hostname 机器名,如: hostname Hadoop-A 。另外,集群内所有的机器登录 用户名和密码要保持相同 。

3.6.    安装列表

安装

说明

Java 1.6

A 、 B 和 C 三台机器都需要安装

Hadoop 0.20.0

A 、 B 和 C 三台机器都需要安装

Hive

只需要在 B 和 C 两台机器上安装,也就是 Slave 机器不需要安装

ant

只需要在 B 和 C 两台机器上安装,也就是 Slave 机器不需要安装

ivy

只需要在 B 和 C 两台机器上安装,也就是 Slave 机器不需要安装

注意事项:为求简单所有操作均以 root 用户完成,实际上可以使用非 root 用户,但环境变量就不能直接在 /etc/profile 文件中添加了。

4.     配置 ssh2 和修改 /etc/hosts

需要在所有机器上配置 ssh2 和修改 /etc/hosts 。

4.1.    配置 ssh2

1)         mkdir ~/.ssh2  如果 ~/.ssh2 目录已经存在,则这一步可以跳过

2)         cd ~/.ssh2

3)         ssh-keygen2 -t rsa

4)         echo "IdKey id_rsa_2048_a" > identification

5)         echo "key id_rsa_2048_a.pub" > authorization

(另一种方法: ssh-keygen -t rsa -f ~/.ssh/id_rsa

                     cat ~/.ssh/id_rsa.pub>> ~/.ssh/authorized_keys)

4.2.    修改 /etc/hosts

1)         在 /etc/hosts 文件中增加如下三行:

192.168.0.1    Hadoop-A

192.168.0.2    Hadoop-B

192.168.0.3    Hadoop-C

并根据上述关系,使用 hostname 命令修改三台机器的机器名。

5.     安装 Java

1)         从 http://www.java.com/zh_CN/download/manual.jsp 下载 jre ,请注意是 Java1.6 版本,原因是 Hadoop 和 Hive使用到了模板等特性

2)         下载 “Linux (自解压文件) ” 这个版本的 jre ,如下图所示

3)         将下载的 Java 二进制安装包 jre-6u15-linux-i586.bin 上传到 /usr/local 目录

4)         为 jre-6u15-linux-i586.bin 文件增加可执行权限: chmod +x jre-6u15-linux-i586.bin

5)         运行 jre-6u15-linux-i586.bin : ./jre-6u15-linux-i586.bin

6)         用户协议接受,选择 yes

7)         安装成功后,在 /etc/profile 增加如下一行:

export PATH=/usr/local/jdk/bin:$PATH

6.     安装 Hadoop

1)         从 http://hadoop.apache.org/common/releases.html 下载 Hadoop 二进制安装包 hadoop-0.20.0.tar.gz

2)         将 hadoop-0.20.0.tar.gz 上传到 /usr/local 目录

3)         在 /usr/local 目录,将 hadoop-0.20.0.tar.gz 解压

4)         为 hadoop-0.20.0 建一个软链接: ln -s hadoop-0.20.0 hadoop

5)         在 /etc/profile 文件中,增加如下两行:

export HADOOP_HOME=/usr/local/hadoop

export PATH=$HADOOP_HOME/bin:$PATH

完成以上步骤后, Hadoop 就安装好了。

7.     配置 HDFS

7.1.    修改 hadoop-env.sh

所有机器做同样操作。

hadoop-env.sh 位于 /usr/local/hadoop/conf 目录下,需要在这个文件中设置环境变量 JAVA_HOME ,增加如下一行即可:

export JAVA_HOME=/usr/local/jre

7.2.    修改 core-site.xml

所有机器做同样操作。

在 hadoop-0.20.0.tar.gz 安装包中, conf 目录下的 core-site.xml 默认是空的,但 src/core 目录下有一个缺省的配置文件 core-default.xml ,所以只需要将它复制到 conf 目录下,并重命名成 core-site.xml 即可,下述操作都是基于此操作的。

core-site.xml 文件位于 /usr/local/hadoop/conf 目录下。

7.2.1. hadoop.tmp.dir

设置临时文件目录参数 hadoop.tmp.dir ,默认情况下 master 会将元数据等存在这个目录下,而 slave 会将所有上传的文件放在这个目录下,在这里数据目录统一为 /usr/local/hadoop/data :

<property>

  <name>hadoop.tmp.dir </name>

  <value>/usr/local/hadoop/data </value>

  <description>A base for other temporary directories.</description>

</property>

注意事项:由于上传到 Hadoop 的所有文件都会被存放在 hadoop.tmp.dir 所指定的目录,所以要确保这个目录是足够大的。

7.2.2. fs.default.name

master 用这个参数,提供基于 http 协议的状态上报界面,而 slave 通过这个地址连接 master ,设置如下:

<property>

  <name>fs.default.name </name>

  <value>hdfs://Hadoop-A:54310 </value>

  <description>The name of the default file system.  A URI whose

  scheme and authority determine the FileSystem implementation.  The

  uri's scheme determines the config property (fs.SCHEME.impl) naming

  the FileSystem implementation class.  The uri's authority is used to

  determine the host, port, etc. for a filesystem.</description>

</property>

备注: fs.default.name 指定 NameNode 的 IP 地址和端口号 , 缺省值是 file:///, ,表示使用本地文件系统 , ,用于单机非分布式模式。

dfs.replication 指定 HDFS 中每 Block 被复制的次数,起数据冗余备份的作用。在典型的生产系统中,这个数常常设置为 3 。

7.3.    修改 masters

这一步只需要在 master 节点上执行。

这个文件存储备 master 节点的 IP 或机器名,建议使用机器名,每行一个机器名。主 master 会将元数据等备份到备master 节点,文件位于 conf 目录下。

这里,我们为 masters 文件增加如下一行即可:

Hadoop-A

7.4.    修改 slaves

这一步也只需要在 master 节点上执行,以便 master 以 ssh2 方式去启动所有的 slave 节点。

这个文件存储 slave 节点的 IP 或机器名,建议使用机器名,每行一个机器名。这里我们增加如下两行:

Hadoop-B

Hadoop-C

7.5.    修改 hdfs-site.xml

所有机器做同样操作。

从 src/hdfs 目录下,将 hdfs-default.xml 复制到 conf 目录,并重命名成 hdfs-site.xml ,这里不需要修改此文件。

8.     配置 MapReduce

8.1.    修改 mapred-default.xml

所有机器做同样操作。

从 src/mapred 目录下,将 mapred-default.xml 复制到 conf 目录,并重命名成 mapred-site.xml 。

<property>

  <name>mapred.job.tracker </name>

  <value>Hadoop-A:54311 </value>

  <description>The host and port that the MapReduce job tracker runs

  at.  If "local", then jobs are run in-process as a single map

  and reduce task.

  </description>

</property>

备注: mapred.job.tracker 指定 JobTracker 的 IP 地址和端口号。缺省值是 local, ,表示在本地同一 Java 进程内执行 JobTracker 和 TaskTracker, ,用于单机非分布式模式。

9.     安装 Hive

hadoop-0.20.0 中并没有集成二进制的 Hive ,所以需要通过源代码编译一个,但是 2009-8-19 日提交的 Hive 并不能在hadoop-0.20.0 上编译,而应当使用 2009-8-4 之后和 2009-8-19 之间的版本。

9.1.    安装 ant

1)         从 http://ant.apache.org/ 下载 ant 二进制安装包,选择 1.7.1 版本

2)         下载后,将包 apache-ant-1.7.1-bin.zip 上传到 /usr/local 目录

3)         进入 /usr/local 目录,将 apache-ant-1.7.1-bin.zip 解压: unzip apache-ant-1.7.1-bin.zip

4)         进入 /usr/local 目录,为 ant 建一个软连接: ln -s apache-ant-1.7.1 ant

5)         修改 /etc/profile ,增加如下行:

export PATH=/usr/local/ant/bin:$PATH

至此, ant 算是安装好了 

9.2.    安装 ivy

1)         从 http://www.apache.org/dist/ant/ivy/ 下载 ivy 二进制安装包,选择 2.1.0 -rc2 版本

2)         下载后,将包 apache-ivy-2.1.0-rc2-bin.tar.gz 上传到 /usr/local 目录

3)         进入 /usr/local 目录,将 apache-ivy-2.1.0-rc2-bin.tar.gz 解压: tar xzf apache-ivy-2.1.0-rc2-bin.tar.gz

4)         进入 /usr/local 目录,为 ivy 建一个软连接: ln -s apache-ivy-2.1.0-rc2 ivy

6)         修改 /etc/profile ,增加如下行:

export IVY_HOME=/usr/local/ivy

至此, ivy 算是安装好了。

9.3.    编译 <s

  评论这张
 
阅读(672)| 评论(0)
推荐 转载

历史上的今天

在LOFTER的更多文章

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2017