Hive三种安装方式区别和搭建

分类:网校动态日期:2024-12-24 16:33:46人气:


Hive中metastore(元数据存储)的三种模式:

Hive三种安装方式区别和搭建

嵌入式Derby 模式直连数据库模式远程服务器模式

内嵌Derby模式

链接参数

参数

描述

演示

javax.jdo.option.ConnectionURL

JDBC链接url信息,包括数据库名称元数据

jdbc:derby:databaseName=metastore_db;create=true

javax.jdo.option.ConnectionDriverName

JDBC链接驱动程序的名称,使用derby单用户模式

org.apache.derby.jdbc.EmbeddedDriver

javax.jdo.option.ConnectionUserName

Derby 数据库用户名

应用程序

javax.jdo.option.ConnectionPassword

数据库密码

此模式链接到内存数据库Derby。一般用于单元测试。一台服务器就够了,基本不可用。

直连数据库(mysql)模式

链接参数

参数

描述

演示

javax.jdo.option.ConnectionURL

JDBC链接url信息,包括数据库名称元数据

jdbc:mysql:databaseName=metastore_db;create=true

javax.jdo.option.ConnectionDriverName

JDBC链接驱动程序的名称,使用derby单用户模式

com.mysql.jdbc.驱动程序

javax.jdo.option.ConnectionUserName

Derby 数据库用户名

javax.jdo.option.ConnectionPassword

数据库密码

远程服务器模式

链接参数

用于非Java 客户端访问源数据库。 MetaStoreServer 在服务器端启动。客户端使用Thrift协议通过MetaStoreServer访问源数据库。起到了解耦的作用。如果更改其他数据库,只需要修改MetaStoreServer即可。

链接参数

参数

描述

例子

hive.metastore.urls

Metastore服务器所在的服务地址

节俭://:9083

hive.metastore.local

错误的

安装

在开始安装Hive之前,您需要从/dist/hive的Index中获取您需要的Hive版本。我这里使用的是2.3.9版本。同时,Hive依赖Hadoop进行数据存储。 Hadoop安装请参考Hadoop HA集群搭建。

tar -zxvf apache-hive-2.3.9.tar.gzcp conf/hive-default.xml.template conf/hive-site.xml 启动hivehive 创建数据库create mydb;创建数据表create table test(id int, Age int) ;# 插入一条数据insert into test(id,age) Values (1,1) 执行上面的insert语句时可以看到对应的雨具会转换为MapReduce任务来执行。

然后我们在mysql中查看hive表中的数据,可以看到与Hive相关的原表的数据信息。

此时我们可以查看HDFS中的文件存储情况,看到对应的数据存储方式:

至此,mysql方式的Hive安装完成。

远程服务器模式

经过上述mysql安装模式后,我们就可以配置一个metastore服务器来处理远程Hive请求了。

hive-site.xml

无需在服务器端修改此文件的任何内容。主要内容是配置元数据存储方式。所以可以和上面mysql方式安装一致。

启动metastore server

要启动服务器,需要使用命令:

hive --service Metastore 会阻塞线程的执行。我们可以让hive在后端运行:

nohup hive --service metastore 这里默认端口是9083,可以通过命令:检查启动是否完成

Netstat -ntlp | 网络统计grep 9083 可以看到metastore服务器已经启动成功。

如果不想使用9083端口,也可以使用hive --service metastore -p 端口号指定其他端口。 AdminManual 元存储管理 Apache Hive Apache 软件基金会

连接

客户端链接配置

客户端时,只需配置Metastore服务器的地址即可。具体配置信息如下:

配置!--警告!该文件是自动生成的,仅用于文档目的! - ! - 警告! Hive 将忽略您对此文件所做的任何更改。 - ! - 警告!您必须在hive-site.xml 中进行更改。 -- !-- Hive 执行参数-- property namehive.metastore.warehouse.dir/name value/opt/apps/hive/apache-hive-2.3.9/warehouse/value /property property namehive.metastore.local/name valuefalse /value /property 属性namehive.metastore.uris/name valuethrift://node4:9083/value /property /configuration 经过上述配置后,我们就可以直接连接metastore服务器进行操作了:

hive 以上是远程模式下的安装方法。

版权声明:本文转载于网络,版权归作者所有。如有侵权,请联系本站编辑删除。

本文永久网址:

获取方案
咨询电话
13697281325
TOP 在线咨询
TOP TOP