hive 元数据修复命令 msck repair table xxx; 也可以用于分区表的快速复制 例如你需要从线上往线下导一张分区表,但是网又没有连通,你需要如何操作呢? 1.复制建表语句 2.从线上下载分区表数据 hadoop fs -get /user/hive/warehouse/public.db/table_partition/ . 3.把分区数据put到线下表中 hadoop fs -put table_partition/* /user/hive/warehouse/public

hive经常使用命令 show tables; 列出hive里面全部数据表名 desc userProfile; 显示数据表userProfile的基本表字段及字段type desc extended trackinfo; 显示数据表trackinfo的具体信息,包含字段说明,数据表等 /usr/local/cloud/hive/bin/hive 进入hive数据库 select attribute_name from pms_attribute where attribute_id=21000

Hive的Explain命令,用于显示SQL查询的执行计划. Hive查询被转化成序列阶段(这是一个有向无环图).这些阶段可能是mapper/reducer阶段,或者是Metastore或文件系统的操作,如移动和重命名的阶段. 例子 hive> explain [extended] --加上关键字extended,则显示抽象语法树 > select * from student > cluster by age; 1.查询的抽象语法树(没用,可以忽略) 2.执行计划计划的不同阶段之间的依

运行:ipconfig /displaydns这个命令,查看一下本机已经缓存了那些的dns信息的,然后输入下面的命令 ipconfig /flushdns               这时本机的dns缓存信息已经清空了,我们可以再次输入第一次输入的命令来看一下, ipconfig /displaydns               ipconfig /displaydns显示dns缓存 ipconfig /flushdns 刷新DNS记录 ipconfig /renew重请从DHCP服务器获得I

原文地址:http://blog.csdn.net/wangyong191212/article/details/8024161 刷新物化视图的SQL命令: 在sql语句的命令窗口并输入如下命令: execute dbms_mview.refresh(list=>'物化视图的名称'); 然后直接回车就可以了 查询被delete掉的数据: 在sql窗口输入如下语句: select * from 表名(被删掉数据的表名) as of timestamp sysdate - 1/12      --

思想是通过调用hive -e命令,然后解析返回的结果. 以下的hive.lsp文件是一个样例,提供了读取本地hive数据库名称.表名,表结构和依据hive表的创建语句生成相应的MySQL的创建语句. 最新代码參考我在gitlab.com上的开源项目: https://gitlab.com/newlisp/armory.git ;; hive.lsp ;; @module hive ;; @description hive module provides some features for man

最近在使用Hive的过程中,在备份数据时,经常会使用cp或mv命令来拷贝数据,将数据拷贝到我们新建备份表的目录下面,如果不是分区表,则上面的操作之后,新建的备份表可以正常使用,但是如果是分区表的,一般都是使用alter table add partition命令将分区信息添加到新建的表中,每添加一条分区信息就执行一个alter table add partition命令,如果分区数量少还好办,但是遇到分区数量多的情况,特别是分区数量大于50的情况,如果还是使用alter命令添加分区,那是一件耗时

Specified key was too long; max key length is 767 bytes 此错误为hive 元数据mysql 字符集编码问题 如 show create table PARTITIONS ; utf-8会报上述错误. 要把CHARSET=utf-8 修改为 CHARSET=latin1: alter table PARTITIONS convert to character set latin1; 所以最好在hive 建库之初就设置好字符集编码 alter

—1—————— 后台跑程序语句: 在shell下输入: nohup hive -f  aaa.sql >bbb.log 2>&1 & 然后把sql 的脚本导入服务器上:Transfer—Zmodem upload List 相关命令:jobs:可以看到运行的任务,:cat bbb.log 可以看到这个任务运行情况 后台上传python脚本 nohup python -u day_cid2.py >bbb.log 2>&1 &   运行后会返回任务代

在使用hive shell之前我们需要先安装hive,并启动hdfs 请参考:https://www.cnblogs.com/lay2017/p/9973298.html hive shell 我们先进入安装目录 cd /usr/local/hadoop/hive/apache-hive--bin 使用Hive命令启动hive shell hive 查看一下数据库,发现有一个默认的default 我们需要创建一个新的test数据库 再看一下数据库,test数据库已经创建完成了 我们切换到test

1. 清楚屏幕:Ctrl+L 或者!Clear 最后加上分号 2. 查看数据仓库中的表:show tables; 3. 查看数据仓库中内置函数:show functions: 4. 查看表结构 :desc; 5. 查看HDDFS上的文件:dfs -ls 目录; dfs -lsr /user; 递归查看目录 6. 执行操作系统上的命令:前面加上!后面跟上系统命令 ,!pwd: 7. 执行HQL语句:select * from test1:不会转成MapReduce任务,只有当select tnam

Hive Load语句不会在加载数据的时候做任何转换工作,而是纯粹的把数据文件复制/移动到Hive表对应的地址. 语法 LOAD DATA [LOCAL] INPATH 'filepath' [OVERWRITE] INTO TABLE tablename [PARTITION (partcol1=val1,partcol2=val2 ...)] 描述 如果命令中带有LOCAL,说明从本地文件系统加载数据,文件路径可以是相对路径,也可以是绝对路径.在这种情况下,首先将文件从本地复制到hdfs相应

desc命令 desc 命令是为了展示hive表格的内在属性.例如列名,data_type,存储位置等信息.这个命令常常用在我们对hive表格观察之时,我们想要知道这个hive各个列名(基于这些具体列名我们才可以使用sql语句挑选数据),hive表格的存储位置(有些时候我们需要查看location信息来判断这个hive表格是不是我们所需要的那个) 我们可以直接在控制台/终端 输入一下代码 hive -e "desc sample_hive_table" 白话注解: 这个命令格式符合 h

在hive的安装目录下,进入conf目录,创建一个hive-site.xml文件 根据官方文档配置参数,拷贝数据到hive-site.xml文件中 https://cwiki.apache.org/confluence/display/Hive/AdminManual+MetastoreAdmin 注意:先创建一个metastore数据库,字符集要用latin1 <?xml version="1.0"?> <?xml-stylesheet type="tex

hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供完整的sql查询功能,可以将sql语句转换为MapReduce任务进行运行. 其优点是学习成本低,可以通过类SQL语句快速实现简单的MapReduce统计,不必开发专门的MapReduce应用,十分适合数据仓库的统计分析.另外一个是Windows注册表文件. #hive debug命令nuhup hive --service hiveserver2 --debug & 1>/dev/null 2&g

#从hive中直接进入hdfs的daas/bstl/term/userinfo目录下 hive> !hadoop fs -ls /daas/bstl/term/userinfo; 查看hive表结构以及对应的hdfs的路径 hive> desc formatted 表名: 1.Hive的几种常见的数据导入方式这里介绍四种:(1).从本地文件系统中导入数据到Hive表:(2).从HDFS上导入数据到Hive表:(3).从别的表中查询出相应的数据并导入到Hive表中:(4).在创建表的时候通过从别

简单配置了sqoop之后开始使用,之前用的时候很好用,也不记得有没有启动hivemetastore,今天用的时候没有启动,结果导入数据时,如果使用了db.tablename,就会出现找不到数据库的错,一直找到不到原因, 换了sqoop还是一样,后来查了一下,在sqoop/conf下多了一个metastore.db的文件夹,我把这个文件删了,然后把hive-site.xml的文件从hive/conf中复制过来. 此时问题解决

1.show tables  --查看所有表 2.desc tabname --查看表信息 3.dfs -ls 目录  查看hdfs上面的文件  dfs -lsr /user  递归显示目录/user下面的目录文件 4.!linux命令  使用linux命令. 5.source /root/my.sql  执行sql文件

EXPORT TABLE stu_p TO 导入表(必须明白导出表,导出表是将表的元数据,数据导出到hdfs上.)讲一个导出的表导入到数据库中,这个hdfs_path 是一个导出表的文件夹 import table tbname from ‘hdfs_path’ .导入作为一个外部表 export table department to 'hdfs_exports_location/department'; import external table department from 'hdfs_

Failed with exception java.io.IOException:java.lang.IllegalArgumentException: java.net.URISyntaxException: Relative path in absolute URI: ${system:user.name%7D 执行 show tables:出现上面的错误. 错误原因修改 hive-site.xml 文件中的配置出现问题. # 编辑文件 vi hive-site.xml # 找到 hive