一:hive中的三种join

1.map join

  应用场景:小表join大表

    一:设置mapjoin的方式:

    )如果有一张表是小表,小表将自动执行map join。

      默认是true。

      <property>

        <name>hive.auto.convert.join</name>
        <value>true</value>
      </property>

    )判断小表

      <property>

        <name>hive.mapjoin.smalltable.filesize</name>
        <value>25000000</value>
      </property>

    二:隐式执行

      /*+ MAPJOIN(tb_name) */

  两种方式说明:

    

2.reduce join

  应用场景:大表join大表

  但是效率不高。

3.SMB join(sort merger bucket):hash取余

  排序合并桶。

  条件:A桶个数必须与B桶的个数相同,或者B桶的个数是A桶的个数的倍数

  例如:

    A:4

    B:8

    ——》A的每一个桶joinB桶的两个小桶就可以了。

  设置:

    hive.auto.convert.sortmerge.join=true

二:数据倾斜

1.原因

  指在mapreduce中某一个值数据量过多,导致reduce的负载不均衡

  主要分为

    join

    group by

三:参考数据倾斜

1.链接

  https://my.oschina.net/leejun2005/blog/178631

2.前言

  在做Shuffle阶段的优化过程中,遇到了数据倾斜的问题,造成了对一些情况下优化效果不明显。

  主要是因为在Job完成后的所得到的Counters是整个Job的总和,优化是基于这些Counters得出的平均值,而由于数据倾斜的原因造成map处理数据量的差异过大,

  使得这些平均值能代表的价值降低。Hive的执行是分阶段的,map处理数据量的差异取决于上一个stage的reduce输出,所以如何将数据均匀的分配到各个reduce中,就是解决数据倾斜的根本所在。

3.操作

  其实就两种,因为,count distinct的底层就是group by。

  

4.原因 

  1)、key分布不均匀

  2)、业务数据本身的特性

  3)、建表时考虑不周

  4)、某些SQL语句本身就有数据倾斜

5.表现

  任务进度长时间维持在99%,查看任务监控页面,发现只有少量的reduce子系统未完成。

  单一的reduce的记录与平均记录差距过大,通常达到3倍甚至更多。

四:解决方案

1.主要针对的group by

  map的combiner

  hive.groupby.skewindata

  替换值,将不要的值替换掉,然后过滤掉。

2.参数调节

  )hive.map.aggr=true

  map端的combiner,提前聚合一下。

  

  )hive.groupby.skewindata=true

  不按照key进行分区,map端的结果到了reduce后就进行一次聚合,达到reduce负载均衡。

  这时,再进行一次mapreduce,group by key 分布到reduce,实现最终的聚合。

2.SQL调节 

  )如何Join

    关于驱动表的选取,选用join key分布最均匀的表作为驱动表

    做好列裁剪和filter操作,以达到两表做join的时候,数据量相对变小的效果。

  )大小表Join

    使用map join让小的维度表(1000条以下的记录条数) 先进内存。在map端完成reduce.

  )大表Join大表:

    把空值的key变成一个字符串加上随机数,把倾斜的数据分到不同的reduce上,由于null值关联不上,处理后并不影响最终结果。

  )count distinct大量相同特殊值

    count distinct时,将值为空的情况单独处理,如果是计算count distinct,可以不用处理,直接过滤,在最后结果中加1。

    如果还有其他计算,需要进行group by,可以先将值为空的记录单独处理,再和其他计算结果进行union。

  )group by维度过小:

    采用sum() group by的方式来替换count(distinct)完成计算。

五:业务场景(实际中会遇到的情况)

1.空值产生数据倾斜

  )过滤

  select * from log a  

  join users b

  on a.user_id is not null

  and a.user_id = b.user_id

  1.  union all select * from log a where a.user_id is null;
  2.  
  3.  )赋予新的值
  4.  
  5.  select *
  1. from log a
  2. left outer join users b
  3. on case when a.user_id is null then concat(‘hive’,rand() ) else a.user_id end = b.user_id;

  )比较

    方法2比方法1效率更好,不但io少了,而且作业数也少了。

    解决方法1中 log读取两次,jobs是2。解决方法2 job数是1 。

    2适合无效 id (比如 -99 , ’’, null 等) 产生的倾斜问题。把空值的 key 变成一个字符串加上随机数,就能把倾斜的数据分到不同的reduce上 ,解决数据倾斜问题。

2.不同的数据类型进行关联

  )原因

    用户表中user_id字段为int,log表中user_id字段既有string类型也有int类型。当按照user_id进行两个表的Join操作时,默认的Hash操作会按int型的id来进行分 配,这样会导致所有string类型id的记录都分配到一个Reducer中。

  )把数字类型转换成字符串类型

    select * from users a

  1.   left outer join logs b
  2.    on a.usr_id = cast(b.user_id as string)

3.表不大不小

  )解决

  1.   select /*+mapjoin(x)*/* from log a
  2.   left outer join (
  3.   select /*+mapjoin(c)*/d.*
  4.   from ( select distinct user_id from log ) c
  5.    join users d
  6. on c.user_id = d.user_id
  7. ) x
  8. on a.user_id = b.user_id;

 

061 hive中的三种join与数据倾斜的更多相关文章

  1. Hive中的三种不同的数据导出方式介绍

    问题导读:1.导出本地文件系统和hdfs文件系统区别是什么?2.带有local命令是指导出本地还是hdfs文件系统?3.hive中,使用的insert与传统数据库insert的区别是什么?4.导出数据 ...

  2. SQL Server中的三种Join方式

      1.测试数据准备 参考:Sql Server中的表访问方式Table Scan, Index Scan, Index Seek 这篇博客中的实验数据准备.这两篇博客使用了相同的实验数据. 2.SQ ...

  3. Oracle中的三种Join 方式

    基本概念 Nested loop join: Outer table中的每一行与inner table中的相应记录join,类似一个嵌套的循环. Sort merge join: 将两个表排序,然后再 ...

  4. 014-HQL中级4-Hive中的三种不同的数据导出方式介绍

    根据导出的地方不一样,将这些方式分为三种:(1).导出到本地文件系统:(2).导出到HDFS中:(3).导出到Hive的另一个表中.为了避免单纯的文字,我将一步一步地用命令进行说明. 一.导出到本地文 ...

  5. Hive中的4种Join方式

    common join 普通join,性能较差,存在Shuffle map join 适用情况:大表join小表时,做不等值join 原理:将小表数据广播到各个节点,存储在内存中,在map阶段直接jo ...

  6. Hive的三种Join方式

    Hive的三种Join方式 hive Hive中就是把Map,Reduce的Join拿过来,通过SQL来表示. 参考链接:https://cwiki.apache.org/confluence/dis ...

  7. Asp.Net中的三种分页方式

    Asp.Net中的三种分页方式 通常分页有3种方法,分别是asp.net自带的数据显示空间如GridView等自带的分页,第三方分页控件如aspnetpager,存储过程分页等. 第一种:使用Grid ...

  8. MapReduce三种join实例分析

    本文引自吴超博客 实现原理 1.在Reudce端进行连接. 在Reudce端进行连接是MapReduce框架进行表之间join操作最为常见的模式,其具体的实现原理如下: Map端的主要工作:为来自不同 ...

  9. Hive三种不同的数据导出的方式

    转自:http://blog.chinaunix.net/uid-27177626-id-4653808.html Hive三种不同的数据导出的方式,根据导出的地方不一样,将这些方法分为三类:(1)导 ...

随机推荐

  1. js 原生 ajax

    //js ajax function Ajax(url,type,data,comFun,sucFun,errFun) { //1.创建XMLHttpRequest对象 var xmlHttpRequ ...

  2. Linux 流量控制总结(TC)

    TC对带宽的描述:    mbps = 1024 kbps = 1024 * 1024 bps => byte/s    mbit = 1024 kbit => kilo bit/s.   ...

  3. 【SVN】svn使用方法

    下载安装TortoiseSVN 下载地方 安装成功后 TortoiseSVN清除凭证 右击空白处-TortoiseSVN-Settings打开Settings窗口后做如下操作: svn在idea中的使 ...

  4. cetus系列~ 继续分析

    一 简介:我们来继续探讨cetus的细节问题 二 命令 1 select help 查看帮助  2 select * from backends 查看后端列表  3 select conn_detai ...

  5. pycharm2018破解

    1.下载 链接:https://pan.baidu.com/s/1G0C9xoUQg6JRgNQYLMIi1w 密码:2z3x 2.修改 "G:\Python\JetBrains\PyCha ...

  6. DMA内存申请--dma_alloc_coherent 及 寄存器与内存【转】

    转自:https://blog.csdn.net/ic_soc_arm_robin/article/details/8203933 在项目驱动过程中会经常用到dma传输数据,而dma需要的内存有自己的 ...

  7. ASP.NET Core Identity 实战(3)认证过程

    如果你没接触过旧版Asp.Net Mvc中的 Authorize 或者 Cookie登陆,那么你一定会疑惑 认证这个名词,这太正式了,这到底代表这什么? 获取资源之前得先过两道关卡Authentica ...

  8. client模式下对应接口加入桥接出错

    client模式下,响应的接口wlan0 加入桥接时出现如下错误: root@root:~# brctl addif br-lan wlan0brctl: bridge br-lan: Operati ...

  9. 开源监控系统整合Nagios+Cacti+Nconf详解

    1.配置好yum源,为了提高效率建议搭建本地yum源 yum install -y http*  yum install -y mysql*  yum install -y php-*  yum in ...

  10. centos6.5系统bash损坏之救援模式修复

    1.模拟bash被损坏的情况 # mv /bin/bash /tmp [root@localhost ~]# sync [root@localhost ~]# shutdown -r now 2.挂载 ...