网站首页 > 博客文章 正文
温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。
Fayson的github:
https://github.com/fayson/cdhproject
提示:代码块部分可以左右滑动查看噢
1
文档编写目的
Hue中使用Hive和Impala进行查询,在使用完Hue后退出登录,会出现Hive和Impala的暂用的资源未释放。本篇文章Fayson主要针对该问题在Hue中调优Impala和Hive查询,该调优方式适用于CDH5.2及以后版本。
- 内容概述
1.场景描述及测试用户准备
2.Impala资源池和放置规则配置
3.放置规则验证及总结
- 测试环境
1.CM和CDH版本为5.15
2
Hue中调优Impala
Hue会尝试在用户离开查询结果返回界面时关闭查询(通常查询会比较快完成,因此可以快速的关闭它们)。但是,如果用户执行的操作从未返回。或者,如果用户从未关闭查询页面,则查询任然保存打开状态。在CDH5.2中,Impala将自动使用“query_timeout_s”属性指定会话超时时间(默认为10分钟),在超时后自动取消查询,可以通过如下方式设置该参数。
1.使用管理员登录CM,进入Hue服务的配置界面
2.在搜索栏输入“hue*.ini”,在配置项中配置如下信息
[impala] query_timeout_s=600
(可左右滑动)
配置查询超时时间,单位为s,完成以上配置后根据CM提示重启相应服务即可。在此之前的版本,关闭所有查询的唯一解决方法则是重启Hue或Impala服务。
注意:Impala目前只能取消查询但不能关闭查询。他将在Impala 1575的版本中得到改进。JIRA地址如下:http://issues.cloudera.org/browse/IMPALA-1575
3
Hive调优
在CDH5.2版本中修复了HIVE-5799问题,HiveServer2可以通过配置会话超时时间。具体JIRA地址:https://issues.apache.org/jira/browse/HIVE-5799,如下来说明如何进行Hive调优:
1.使用管理员登录CM,进入Hive服务的配置界面
2.在左侧筛选器选择HiveServer2服务并在搜索栏输入“hive-site.xml”,在配置中增加如下内容:
<property> <name>hive.server2.session.check.interval</name> <value>3000</value> <description>The check interval for session/operation timeout, which can be disabled by setting to zero or negative value.</description> </property> <property> <name>hive.server2.idle.session.timeout</name> <value>0</value> <description>Session will be closed when it's not accessed for this duration, which can be disabled by setting to zero or negative value.</description> </property> <property> <name>hive.server2.idle.operation.timeout</name> <value>0</value> <description>Operation will be closed when it's not accessed for this duration of time, which can be disabled by setting to zero value. With positive value, it's checked for operations in terminal state only (FINISHED, CANCELED, CLOSED, ERROR). With negative value, it's checked for all of the operations regardless of state.</description> </property>
(可左右滑动)
完成修改后,保存配置并重启HiveServer2服务。
4
文总结
1.在Hue中进行Hive和Impala查询后,用户退出后不会自动的释放Hive和Impala的资源,因此该调优文章主要针对查询占用资源不释放问题。
2.通过设置Impala和HiveServer2的会话超时方式来释放查询占用的资源,已达到调优的目的。
提示:代码块部分可以左右滑动查看噢
为天地立心,为生民立命,为往圣继绝学,为万世开太平。
温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。
推荐关注Hadoop实操,第一时间,分享更多Hadoop干货,欢迎转发和分享。
原创文章,欢迎转载,转载请注明:转载自微信公众号Hadoop实操
猜你喜欢
- 2024-10-16 10分钟大数据Hadoop基础入门「值得收藏」
- 2024-10-16 0288-如何使用Flume采集Kafka数据写入HBase
- 2024-10-16 0032-如何在CDH启用Kerberos的情况下安装及使用Sentry(二)
- 2024-10-16 0362-如何在Spark Streaming应用中使用Kudu管理Kafka的Offset
- 2024-10-16 使用ClouderaManager的优点、产生背景和应用场景
- 2024-10-16 大数据之Impala入门实战,看这篇就够了
- 2024-10-16 0732-Cloudera Data Center7.0今天正式GA
- 2024-10-16 清华大佬学习经验:Hadoop教程(一) Hadoop入门教程
- 2024-10-16 你了解过Cloudera的整体架构吗?4.89G学习视频带你走进它的世界
- 2024-10-16 大数据Hadoop之——基于Hive的内存型SQL查询引擎Impala
你 发表评论:
欢迎- 07-07Xiaomi Enters SUV Market with YU7 Launch, Targeting Tesla with Bold Pricing and High-Tech Features
- 07-07Black Sesame Maps Expansion Into Robotics With New Edge AI Strategy
- 07-07Wuhan's 'Black Tech' Powers China's Cross-Border Push with Niche Electronics and Scientific Firepower
- 07-07Maven 干货 全篇共:28232 字。预计阅读时间:110 分钟。建议收藏!
- 07-07IT运维必会的30个工具(it运维工具软件)
- 07-07开源项目有你需要的吗?(开源项目什么意思)
- 07-07自动化测试早就跑起来了,为什么测试管理还像在走路?
- 07-07Cursor 最强竞争对手来了,专治复杂大项目,免费一个月
- 最近发表
-
- Xiaomi Enters SUV Market with YU7 Launch, Targeting Tesla with Bold Pricing and High-Tech Features
- Black Sesame Maps Expansion Into Robotics With New Edge AI Strategy
- Wuhan's 'Black Tech' Powers China's Cross-Border Push with Niche Electronics and Scientific Firepower
- Maven 干货 全篇共:28232 字。预计阅读时间:110 分钟。建议收藏!
- IT运维必会的30个工具(it运维工具软件)
- 开源项目有你需要的吗?(开源项目什么意思)
- 自动化测试早就跑起来了,为什么测试管理还像在走路?
- Cursor 最强竞争对手来了,专治复杂大项目,免费一个月
- Cursor 太贵?这套「Cline+OpenRouter+Deepseek+Trae」组合拳更香
- 为什么没人真的用好RAG,坑都在哪里? 谈谈RAG技术架构的演进方向
- 标签列表
-
- ifneq (61)
- 字符串长度在线 (61)
- messagesource (56)
- aspose.pdf破解版 (56)
- promise.race (63)
- 2019cad序列号和密钥激活码 (62)
- window.performance (66)
- qt删除文件夹 (72)
- mysqlcaching_sha2_password (64)
- ubuntu升级gcc (58)
- nacos启动失败 (64)
- ssh-add (70)
- jwt漏洞 (58)
- macos14下载 (58)
- yarnnode (62)
- abstractqueuedsynchronizer (64)
- source~/.bashrc没有那个文件或目录 (65)
- springboot整合activiti工作流 (70)
- jmeter插件下载 (61)
- 抓包分析 (60)
- idea创建mavenweb项目 (65)
- vue回到顶部 (57)
- qcombobox样式表 (68)
- tomcatundertow (58)
- pastemac (61)
本文暂时没有评论,来添加一个吧(●'◡'●)