西西軟件園多重安全檢測下載網(wǎng)站、值得信賴的軟件下載站!
軟件
軟件
文章
搜索

首頁業(yè)內(nèi)動態(tài) 軟件新聞 → 搭建基于Hadoop的數(shù)據(jù)倉庫平臺Hive平臺

搭建基于Hadoop的數(shù)據(jù)倉庫平臺Hive平臺

相關(guān)軟件相關(guān)文章發(fā)表評論 來源:網(wǎng)絡(luò)時間:2010/2/24 14:37:40字體大小:A-A+

作者:佚名點擊:1976次評論:0次標簽: Hive

Advanced Archive Password Recovery4.54.48 漢化純凈版
  • 類型:加密解密大小:4.1M語言:中文 評分:1.3
  • 標簽:
立即下載

Hive是一個基于Hadoop的數(shù)據(jù)倉庫平臺。通過hive,我們可以方便地進行ETL的工作。hive定義了一個類似于SQL的查詢語言:HQL,能夠?qū)⒂脩艟帉懙腝L轉(zhuǎn)化為相應(yīng)的Mapreduce程序基于Hadoop執(zhí)行。

本文講解如何搭建一個Hive平臺。假設(shè)我們有3臺機器:hadoop1,hadoop2,hadoop3。并且都安裝好了Hadoop-0.19.2(hive支持的Hadoop版本很多),hosts文件配置正確。Hive部署在hadoop1機器上。

最簡單,最快速的部署方案

在Hadoop-0.19.2中自帶了hive的文件。版本為0.3.0。

我們首先啟動Hadoop:sh $HADOOP_HOME/bin/start-all.sh

然后啟動hive即可:sh $HADOOP_HOME/contrib/hive/bin/hive

這個時候,我們的Hive的命令行接口就啟動起來了,你可以直接輸入命令來執(zhí)行相應(yīng)的hive應(yīng)用了。

這種部署方式使用derby的嵌入式模式,雖然簡單快速,但是無法提供多用戶同時訪問,所以只能用于簡單的測試,無法實際應(yīng)用于生產(chǎn)環(huán)境。所以,我們要修改hive的默認配置,提高可用性。

搭建多用戶的,提供web界面的部署方案

目前只用比較多hive版本是hive-0.4.1。我們將使用這個版本來搭建hive平臺。

首先,下載hive-0.4.1:svn co http://svn.apache.org/repos/asf/hadoop/hive/tags/release-0.4.1/ hive-0.4.1

然后,修改下載文件里面的編譯選項文件shims/ivy.xml,將其修改為如下內(nèi)容(對應(yīng)的Hadoop版本為0.19.2)

<ivy-module version="2.0">
    <info organisation="org.apache.hadoop.hive" module="shims"/>
    <dependencies>
        <dependency org="hadoop" name="core" rev="0.19.2">
          <artifact name="hadoop" type="source" ext="tar.gz"/>
        </dependency>
        <conflict manager="all" />
    </dependencies>
</ivy-module>

接下來,我們使用ant去編譯hive: ant package

編譯成功后,我們會發(fā)現(xiàn)在build/dist目錄中就是編譯成功的文件。將這個目錄設(shè)為$HIVE_HOME

修改conf/hive-default.xml文件,主要修改內(nèi)容如下:

<property>
  <name>javax.jdo.option.ConnectionURL</name>
  <value>jdbc:derby://hadoop1:1527/metastore_db;create=true</value>
  <description>JDBC connect string for a JDBC metastore</description>
</property>
<property>
  <name>javax.jdo.option.ConnectionDriverName</name>
  <value>org.apache.derby.jdbc.ClientDriver</value>
  <description>Driver class name for a JDBC metastore</description>
</property>

在hadoop1機器上下載并安裝apache derby數(shù)據(jù)庫:wget http://labs.renren.com/apache-mirror/db/derby/db-derby-10.5.3.0/db-derby-10.5.3.0-bin.zip

解壓derby后,設(shè)置$DERBY_HOME

然后啟動derby的network Server:sh $DERBY_HOME/bin/startNetworkServer -h 0.0.0.0

接下來,將$DERBY_HOME/lib目錄下的derbyclient.jar與derbytools.jar文件copy到$HIVE_HOME/lib目錄下。

啟動Hadoop:sh $HADOOP_HOME/bin/start-all.sh

最后,啟動hive的web界面:sh $HIVE_HOME/bin/hive --service hwi

這樣,我們的hive就部署完成了。我們可以直接在瀏覽器中輸入: http://hadoop1:9999/hwi/ 進行訪問了(如果不行話,請將hadoop1替換為實際的ip地址,如:http://10.210.152.17:9999/hwi/)。

這種部署方式使用derby的c/s模式,允許多用戶同時訪問,同時提供web界面,方便使用。推薦使用這種部署方案。

關(guān)注Hive的schema

我們上面談到的2中部署方案都是使用derby數(shù)據(jù)庫來保存hive中的schema信息。我們也可以使用其他的數(shù)據(jù)庫來保存schema信息,如mysql。

可以參考這篇文章了解如果使用mysql來替換derby:http://www.mazsoft.com/blog/post/2010/02/01/Setting-up-HadoopHive-to-use-MySQL-as-metastore.aspx

我們也可以使用HDFS來保存schema信息,具體的做法是修改conf/hive-default.xml,修改內(nèi)容如下:

<property>
  <name>hive.metastore.rawstore.impl</name>
  <value>org.apache.hadoop.hive.metastore.FileStore</value>
  <description>Name of the class that implements org.apache.hadoop.hive.metastore.rawstore interface. This class is used to store and retrieval of raw metadata objects such as table, database</description>
</property>

    rar密碼破解
    (9)rar密碼破解
    西西軟件園提供最好用的密碼破解工具,密碼破解工具支持所有版本的以及和.,軟件適用于和檔案的高度優(yōu)化的口令恢復(fù)工具。它可以恢復(fù)保護口令或?qū)⒂盟辛餍械臋n案版本創(chuàng)建的加密和檔案解除鎖定...更多>>
    • Advanced Archive Password Recove

      05-15 / 4.1M

      推薦理由:支持所有版本的 ZIP/PKZip/WinZip、RAR/WinRAR 以及ARJ/WinARJ 和 ACE/WinACE (1.x)。Advanced Archive Pas
    • rar密碼破解advanced rar password

      01-29 / 898KB

      推薦理由:一個速度很快,可以幫你找回RAR文件的密碼,注冊后可以解開多達128位密碼。它提供有預(yù)估算出密碼所需要的時
    • Advanced RAR Repair(rar密碼破解

      05-15 / 896KB

      推薦理由:一個速度很快,可以幫你找回RAR文件的密碼,注冊后可以解開多達128位密碼。它提供有預(yù)估算出密碼所需要的時
    • winrar密碼破解(RAR Password Reco

      05-15 / 2.1M

      推薦理由:RAR Password Recovery Magic 是一個速度很快,可以幫你找回 RAR 文件的密碼,注冊后可以解開多達 128 位密
    • winrar密碼破解(rar password reco

      04-24 / 717KB

      推薦理由:一個速度很快,可以幫你找回RAR文件的密碼,注冊后可以解開多達128位密碼。它提供有預(yù)估算出密碼所需要的時

    相關(guān)評論

    閱讀本文后您有什么感想? 已有人給出評價!

    • 8 喜歡喜歡
    • 3 頂
    • 1 難過難過
    • 5 囧
    • 3 圍觀圍觀
    • 2 無聊無聊

    熱門評論

    最新評論

    發(fā)表評論 查看所有評論(0)

    昵稱:
    表情: 高興 可 汗 我不要 害羞 好 下下下 送花 屎 親親
    字數(shù): 0/500 (您的評論需要經(jīng)過審核才能顯示)