Hive三种安装方式区别和搭建
分类:网校动态日期:2024-12-24 16:33:46人气:
Hive中metastore(元数据存储)的三种模式:
嵌入式Derby 模式直连数据库模式远程服务器模式
内嵌Derby模式
链接参数
参数
描述
演示
javax.jdo.option.ConnectionURL
JDBC链接url信息,包括数据库名称元数据
jdbc:derby:databaseName=metastore_db;create=true
javax.jdo.option.ConnectionDriverName
JDBC链接驱动程序的名称,使用derby单用户模式
org.apache.derby.jdbc.EmbeddedDriver
javax.jdo.option.ConnectionUserName
Derby 数据库用户名
应用程序
javax.jdo.option.ConnectionPassword
数据库密码
矿
此模式链接到内存数据库Derby。一般用于单元测试。一台服务器就够了,基本不可用。
直连数据库(mysql)模式
链接参数
参数
描述
演示
javax.jdo.option.ConnectionURL
JDBC链接url信息,包括数据库名称元数据
jdbc:mysql:databaseName=metastore_db;create=true
javax.jdo.option.ConnectionDriverName
JDBC链接驱动程序的名称,使用derby单用户模式
com.mysql.jdbc.驱动程序
javax.jdo.option.ConnectionUserName
Derby 数据库用户名
javax.jdo.option.ConnectionPassword
数据库密码
远程服务器模式
链接参数
用于非Java 客户端访问源数据库。 MetaStoreServer 在服务器端启动。客户端使用Thrift协议通过MetaStoreServer访问源数据库。起到了解耦的作用。如果更改其他数据库,只需要修改MetaStoreServer即可。
链接参数
参数
描述
例子
hive.metastore.urls
Metastore服务器所在的服务地址
节俭://:9083
hive.metastore.local
错误的
安装
在开始安装Hive之前,您需要从/dist/hive的Index中获取您需要的Hive版本。我这里使用的是2.3.9版本。同时,Hive依赖Hadoop进行数据存储。 Hadoop安装请参考Hadoop HA集群搭建。
tar -zxvf apache-hive-2.3.9.tar.gzcp conf/hive-default.xml.template conf/hive-site.xml 启动hivehive 创建数据库create mydb;创建数据表create table test(id int, Age int) ;# 插入一条数据insert into test(id,age) Values (1,1) 执行上面的insert语句时可以看到对应的雨具会转换为MapReduce任务来执行。
然后我们在mysql中查看hive表中的数据,可以看到与Hive相关的原表的数据信息。
此时我们可以查看HDFS中的文件存储情况,看到对应的数据存储方式:
至此,mysql方式的Hive安装完成。
远程服务器模式
经过上述mysql安装模式后,我们就可以配置一个metastore服务器来处理远程Hive请求了。
hive-site.xml
无需在服务器端修改此文件的任何内容。主要内容是配置元数据存储方式。所以可以和上面mysql方式安装一致。
启动metastore server
要启动服务器,需要使用命令:
hive --service Metastore 会阻塞线程的执行。我们可以让hive在后端运行:
nohup hive --service metastore 这里默认端口是9083,可以通过命令:检查启动是否完成
Netstat -ntlp | 网络统计grep 9083 可以看到metastore服务器已经启动成功。
如果不想使用9083端口,也可以使用hive --service metastore -p 端口号指定其他端口。 AdminManual 元存储管理 Apache Hive Apache 软件基金会
连接
客户端链接配置
客户端时,只需配置Metastore服务器的地址即可。具体配置信息如下:
配置!--警告!该文件是自动生成的,仅用于文档目的! - ! - 警告! Hive 将忽略您对此文件所做的任何更改。 - ! - 警告!您必须在hive-site.xml 中进行更改。 -- !-- Hive 执行参数-- property namehive.metastore.warehouse.dir/name value/opt/apps/hive/apache-hive-2.3.9/warehouse/value /property property namehive.metastore.local/name valuefalse /value /property 属性namehive.metastore.uris/name valuethrift://node4:9083/value /property /configuration 经过上述配置后,我们就可以直接连接metastore服务器进行操作了:
hive 以上是远程模式下的安装方法。
版权声明:本文转载于网络,版权归作者所有。如有侵权,请联系本站编辑删除。