SparkSQL访问Hive遇到的问题及解决方法

大数据 Spark
SparkSQL访问Hive遇到的问题及解决方法,需要先将hadoop的core-site.xml,hive的hive-site.xml拷贝到project中。

需要先将hadoop的core-site.xml,hive的hive-site.xml拷贝到project中

测试代码

 

SparkSQL访问Hive遇到的问题及解决方法

报错

 

SparkSQL访问Hive遇到的问题及解决方法

查看源码

 

SparkSQL访问Hive遇到的问题及解决方法

解决方法

将$HIVE_HOME/lib下的spark-hive_2.11-2.4.2.jar与spark-hive-thriftserver_2.11-2.4.2.jar添加到project中

继续报错

 

SparkSQL访问Hive遇到的问题及解决方法

查看源码

 

SparkSQL访问Hive遇到的问题及解决方法

进入ConfVars

 

SparkSQL访问Hive遇到的问题及解决方法

发现ConfVars中定义的变量并没有METASTORE_CLIENT_SOCKET_LIFETIME,而HiveConf.java来自于hive-exec-1.1.0-cdh5.7.0.jar,即证明hive1.1.0中并没有假如该参数。

解决方法

将hive依赖换为1.2.1

 

SparkSQL访问Hive遇到的问题及解决方法

继续报错

 

SparkSQL访问Hive遇到的问题及解决方法

解决方法

这是因为远端没有启动hive造成的,启动hive时需要配置metastore。

责任编辑:未丽燕 来源: 今日头条
相关推荐

2009-07-01 18:14:36

JSP乱码

2011-05-06 17:25:58

硒鼓

2022-04-02 20:27:30

ETS操作系统鸿蒙

2010-03-08 09:29:09

Linux Debia

2010-12-27 10:48:10

VirtualboxFreedos

2022-04-06 10:09:17

云服务云计算

2021-06-17 08:07:35

Linux 内存站岗

2011-08-24 17:41:16

MySQL死锁

2022-02-16 08:50:51

web自动化测试python

2019-02-22 08:21:21

路由器WAN宽带

2012-11-19 11:30:40

PowerShell常见问题解决方法

2009-02-18 10:25:00

IPv6部署

2016-11-24 11:48:44

BI商业智能数据

2017-06-14 22:11:57

数据库MySQL死锁

2009-08-24 10:37:11

Silverlight

2021-01-12 11:40:12

SonarQube平台数据项目授权

2010-08-31 13:49:12

CSS

2009-03-04 10:38:36

Troubleshoo桌面虚拟化Xendesktop

2016-11-14 10:06:04

大数据max位图

2018-11-01 15:26:38

开源软件安全
点赞
收藏

51CTO技术栈公众号