ApacheHive通用调优featch抓取机制mr本地模式

设置: hive.fetch.task.conversion= more。,功能:如果非要执行==MapReduce程序,能够本地执行的,尽量不提交yarn上执行==。,默认是关闭的。意味着只要走MapReduce就提交yarn执行。,Hive提供了一个参数,自动切换MapReduce程序为本地模式,如果不满足条件,就执行yarn模式。,如果针对Hive的调优依然无法满足你的需求 还是效率低, 尝试使用spark计算引擎 或者Tez.,在了解join优化的时候,我们需要了解一个前置知识点:map端join 和reduce端join,Apache Hive 通用调优featch抓取机制 mr本地模式,Apache Hive 通用调优featch抓取机制 mr本地模式,适合于大表Join大表,bucket join– 适合于大表Join大表,方式1:Bucktet Map Join 分桶表,方式2:Sort Merge Bucket Join(SMB),解决方法,方案一:开启Map端聚合,方案二:实现随机分区,方案三:数据倾斜时==自动负载均衡==只使用group by,数据单独使用Map Join来实现,合并的大小最好=block size,如果大文件多,就调整blocl size,通过执行计划可以看出==hive接下来是如何打算执行这条sql的==。,语法格式:explain + sql语句,并行执行机制,参数,设置,解释,1、如果是分区表,没有where进行分区裁剪 禁止执行,2、order by语句必须+limit限制,推测执行机制 ==建议关闭==。,一个job底层可能有多个task执行,如果某些拖后腿的task执行慢,可能会导致最终job失败。,所谓的==推测执行机制就是通过算法找出拖后腿的task,为其启动备份的task==。,两个task同时处理一份数据,谁先处理完,谁的结果作为最终结果。,以上就是Apache Hive 通用调优featch抓取机制 mr本地模式的详细内容,更多关于Apache Hive 通用调优的资料请关注其它相关文章!
返回顶部
跳到底部

Copyright 2011-2024 南京追名网络科技有限公司 苏ICP备2023031119号-6 乌徒帮 All Rights Reserved Powered by Z-BlogPHP Theme By open开发

请先 登录 再评论,若不是会员请先 注册