#!/bin/bash #每天定时位外部表加载分区 #服务器当天的时间 #加载环境变量 source /etc/profile; #如果没有指定日期用当前日期如果指定的日期使用指定的日期 echo 'starting...' if [ -z $1 ] then curdate=`date +%Y%m%d` else curdate=$1 fi # alter table click add if not exists partition(logdate='20170821') LOCATION…

社区中有好几个同学问过这样的场景: flink 任务中,source 进来的数据,需要连接数据库里面的字段,再做后面的处理 这里假设一个 ETL 的场景,输入数据包含两个字段 “type, userid....” ,需要根据 type,连接一张 mysql 的配置表,关联 type 对应的具体内容.相对于输入数据的数量,type 的值是很少的(这里默认只有10种), 所以对应配置表就只有10条数据,配置是会定时修改的(比如跑批补充数据),配置的修改必须在一定时间内生效. 实时 ETL,需要用里面…

当我们用HBase 存储实时数据的时候, 如果要做一些数据分析方面的操作, 就比较困难了, 要写MapReduce Job. Hive 主要是用来做数据分析的数据仓库,支持标准SQL 查询, 做数据分析很是方便,于是便很自然地想到用Hive来载入HBase的数据做分析, 但是很奇怪地是, 上网查了一下, 只看到以下两种情况: 1. 如何用Hive 往HBase里面插入大量的数据. 2. Hive 与HBase集成, 直接从Hive里面连HBase的数据库进行查询.参考链接: https://cw…

hive官方并不支持json格式的数据加载,默认支持csv格式文件加载,如何在不依赖外部jar包的情况下实现json数据格式解析,本编博客着重介绍此问题解决方案 首先创建元数据表: create EXTERNAL table access_log (content string) row format delimited fields terminated by '\t' STORED AS INPUTFORMAT 'com.hadoop.mapred.DeprecatedLzoTextInpu…

数据做压缩和解压缩会增加CPU的开销,但可以最大程度的减少文件所需的磁盘空间和网络I/O的开销,所以最好对那些I/O密集型的作业使用数据压缩,cpu密集型,使用压缩反而会降低性能. 而hive中间结果是map输出传给reduce,所以应该使用低cpu开销和高压缩效率,一般最好使用snappy. ------------------------------------------------------------------------------ hive表的存储格式有(参见http://bl…

Linux服务器配置之加载硬盘 1.修改密码 passwd 2.测试密码是否成功 3.查看硬盘信息 fdisk –l 4.格式化分区 fdisk /dev/vdb 5.查看分区 6.快速格式化/dev/vdb1为ext4格式 mkfs.ext4 /dev/vdb1 7.加载分区到/opt mount –t ext4 /dev/vdb1 /opt 8.配置分区自动加载文件/etc/fstab mount –a 若没有抛出异常,则配置文件没有错误:重启服务器,可以自动加载硬盘. 总结,可以开始使用服…

SequenceFiles(序列文件)   SequenceFile是Hadoop的一种由键值对小文件组成的流行的格式.SequenceFIle有同步标记,Spark可以寻找标记点,然后与记录边界重新同步.Spark还可以从多个节点并行高效地读取SequenceFile.SequenceFile也是Hadoop MapReduce中job的常用输入输出格式,如果你正使用着Hadoop系统,数据很有可能就是SequenceFile格式的.   SequenceFile是由实现HadoopWrita…

如何每日增量加载数据到Hive分区表 hadoop hive shell crontab 加载数据 数据加载到Hive分区表(两个分区,日期(20160316)和小时(10))中 每日加载前一天的日志文件数据到表db_track.track_log 1. 数据存储 数据日志文件,放入某个目录下,每天日志文件放入同一个目录 eg: 20160316 - 目录名称 日志文件数据,每个小时生成一个文件,一天总共有二十四个文件 eg: 2016031820 2. shell脚本编写 负责调度的shell…

原文:http://blog.javachen.com/2014/06/09/hive-data-manipulation-language.html 关于 Hive DML 语法,你可以参考 apache 官方文档的说明:Hive Data Manipulation Language. apache的hive版本现在应该是 0.13.0,而我使用的 hadoop 版本是 CDH5.0.1,其对应的 hive 版本是 0.12.0.故只能参考apache官方文档来看 cdh5.0.1 实现了哪些…

文件的加载,只需要三步就够了,废话不多说,来直接的吧. 一.建表 话不多说,直接开始. 建表,对于日志文件来说,最后有分区,在此案例中,对年月日和小时进行了分区. 建表tracktest_log,分隔符为“\t”部分: 在hive的default库中,建表,建表语句为: create table tracktest_log ( id string , url string , referer string , keyword string , type string , guid string…