首页 > 技术文章 > Hive导入数据

skyl 2015-08-17 15:44 原文

1.导入数据

除了前面使用Load Data方式把文件复制或移动到表的目录外,还有以下几种方式:

1). Insert Overwrite / Into Table 

hive> insert overwrite table school     
    > select age,name from student;

 2). 对于分区的表,可以使用Partition子句来指明数据要插入哪个分区:

  注意:对于查询出的值不满足分区表列的类型,则会插入NULL

insert overwrite table logs
    partition(date='2015-01-01',country='CN')
    select name,age
    from student;

3) [动态分区插入]可以在Select语句中通过使用分区值来动态指明分区 

//必须指定,不然报错
set hive.exec.dynamic.partition.mode=nonstrict;


INSERT
OVERWRITE TABLE target PARTITION (dt) select col1,col2,dt from source;

4) 当前Hive不支持insert into table T_Name values(v_2,v_2); 但可以使用下面语句达到此效果

from stu
insert into table stu
select 99,'lisi',2
limit 1;

2.多表插入

  在HQL中,可以把Insert语句倒过来,把From子句放在最前面,查询的效果是一样的:

from student
    insert overwrite table logs
    partition(date='2015-01-01',country='CN')
    select age,name;

  可以在同一个查询中使用多个Insert子句。这种“多表插入”方法比使用多个单独的INSERT语句效率更高,因为只需要扫描一遍源表就可以生成多个不相交的输出。

FROM records2

INSERT OVERWRITE TABLE stations_by_year
SELECT year,COUNT(DISTINCT station)
         GROUP BY year

INSERT OVERWRITE TABLE records_by_year
SELECT year,COUNT(1)
         GROUP BY year

INSERT OVERWRITE TABLE good_redcords_by_year
SELECT year,COUNT(1)
             WHERE temperature !=9999
                AND (quality=0 OR quality=1 OR quality=4 OR quality=5 OR quality=9)
            GROUP BY year;

这里只有一个源表(records2),但有三个表用于存放针对源表的三种不同查询所生成的结果。 

3.Create Table … Aa Select

  • 把Hive查询的输出结果存放到一个新的表往往非常方便,这是因为输出结果太多,不适宜显示在控制台上或基于输出结果还有其他后续处理。新表的列定义是从Select 子句所检索的列导出的。
  • CTAS (Create Table ... As Select的简称) 操作是原子的,因此如果Select查询由于某种原因失败,是不会创建新表的。
  • hive的跨数据库查询和普通关系型数据库一样,database.T_Name(default.logs)。
  • 下面语句:logs是分区表,而新cteate的是普通表。  
hive> create table t081901       
    > as                         
    > select * from default.logs; 

推荐阅读