各种SQL在Pig中实现
?兩個(gè)文件存放在/tmp/data_file_1和/tmp/data_file_2中.文件內(nèi)容如下:
tmp_file_1:
Txt代碼 ?zhangsan ? ?231
lisi ? ?241
wangmazi ? ?301
meinv ? 180
dama ? ?550
tmp_file_2:
Txt代碼 ?1 ? a ?
23 ?bb ?
50 ?ccc ?
30 ?dddd ?
66 ?eeeee ?
1.從文件導(dǎo)入數(shù)據(jù)
? ? ? ? ?1)Mysql (Mysql需要先創(chuàng)建表).
? ? ? ? ? ? CREATE TABLE TMP_TABLE(USER VARCHAR(32),AGE INT,IS_MALE BOOLEAN);
? ? ? ? ? ? CREATE TABLE TMP_TABLE_2(AGE INT,OPTIONS VARCHAR(50)); ? -- 用于Join
? ? ? ? ? ? LOAD DATA LOCAL INFILE '/tmp/data_file_1' ?INTO TABLE TMP_TABLE ;
? ? ? ? ? ? LOAD DATA LOCAL INFILE '/tmp/data_file_2' ?INTO TABLE TMP_TABLE_2;
? ? ? ? ?2)Pig
? ? ? ? ? ? ?tmp_table = LOAD '/tmp/data_file_1' USING PigStorage('\t') AS (user:chararray, age:int,is_male:int);
? ? ? ? ? ? ?tmp_table_2= LOAD '/tmp/data_file_2' USING PigStorage('\t') AS (age:int,options:chararray);
2.查詢整張表
? ? ? ? 1)Mysql
? ? ? ? ? ?SELECT * FROM TMP_TABLE;
? ? ? ? 2)Pig
? ? ? ? ? ?DUMP tmp_table;
3. 查詢前50行
? ? ? ? 1)Mysql
? ? ? ? ? ?SELECT * FROM TMP_TABLE LIMIT 50;
? ? ? ? 2)Pig
? ? ? ? ? ? tmp_table_limit = LIMIT tmp_table 50;
? ? ? ? ? ? DUMP tmp_table_limit;
4.查詢某些列
? ? ? ?1)Mysql
? ? ? ? ? ?SELECT USER FROM TMP_TABLE;
? ? ? ?2)Pig
? ? ? ? ? ?tmp_table_user = FOREACH tmp_table GENERATE user;
? ? ? ? ? ?DUMP tmp_table_user;
5. 給列取別名
? ? ? ?1)Mysql
? ? ? ? ? SELECT USER AS USER_NAME,AGE AS USER_AGE FROM TMP_TABLE;
? ? ? ?2)Pig
? ? ? ? ? tmp_table_column_alias = FOREACH tmp_table GENERATE user AS user_name,age AS user_age;
? ? ? ? ? DUMP tmp_table_column_alias;
6.排序
? ? ? ?1)Mysql
? ? ? ? ? SELECT * FROM TMP_TABLE ORDER BY AGE;
? ? ? ?2)Pig
? ? ? ? ? ?tmp_table_order = ORDER tmp_table BY age ASC;
? ? ? ? ? ?DUMP tmp_table_order;
7.條件查詢
? ? ? ?1)Mysql
? ? ? ? ? ?SELECT * FROM TMP_TABLE WHERE AGE>20;
? ? ? ?2) Pig
? ? ? ? ? ?tmp_table_where = FILTER tmp_table by age > 20;
? ? ? ? ? ?DUMP tmp_table_where;
8.內(nèi)連接Inner Join
? ? ? ?1)Mysql
? ? ? ? ? SELECT * FROM TMP_TABLE A JOIN TMP_TABLE_2 B ON A.AGE=B.AGE;
? ? ? ?2)Pig
? ? ? ? ? ?tmp_table_inner_join = JOIN tmp_table BY age,tmp_table_2 BY age;
? ? ? ? ? ?DUMP tmp_table_inner_join;
9.左連接Left ?Join
? ? ? 1)Mysql
? ? ? ? ? SELECT * FROM TMP_TABLE A LEFT JOIN TMP_TABLE_2 B ON A.AGE=B.AGE;
? ? ? 2)Pig
? ? ? ? ?tmp_table_left_join = JOIN tmp_table BY age LEFT OUTER,tmp_table_2 BY age;
? ? ? ? ?DUMP tmp_table_left_join;
10.右連接Right Join
? ? ? ? 1)Mysql
? ? ? ? ? ?SELECT * FROM TMP_TABLE A RIGHT JOIN TMP_TABLE_2 B ON A.AGE=B.AGE;
? ? ? ? 2)Pig
? ? ? ? ? ?tmp_table_right_join = JOIN tmp_table BY age RIGHT OUTER,tmp_table_2 BY age;
? ? ? ? ? ?DUMP tmp_table_right_join;
11.全連接Full Join
? ? ? ? 1)Mysql
? ? ? ? ? ?SELECT * FROM TMP_TABLE A ?JOIN TMP_TABLE_2 B ON A.AGE=B.AGE
? ? ? ? ? ? ? ?UNION SELECT * FROM TMP_TABLE A LEFT JOIN TMP_TABLE_2 B ON A.AGE=B.AGE
? ? ? ? ? ? ? ?UNION SELECT * FROM TMP_TABLE A RIGHT JOIN TMP_TABLE_2 B ON A.AGE=B.AGE;
? ? ? ? 2)Pig
? ? ? ? ? ?tmp_table_full_join = JOIN tmp_table BY age FULL OUTER,tmp_table_2 BY age;
? ? ? ? ? ?DUMP tmp_table_full_join;
12.同時(shí)對(duì)多張表交叉查詢
? ? ? ? ?1)Mysql
? ? ? ? ? ? SELECT * FROM TMP_TABLE,TMP_TABLE_2;
? ? ? ? ?2)Pig
? ? ? ? ? ? tmp_table_cross = CROSS tmp_table,tmp_table_2;
? ? ? ? ? ? DUMP tmp_table_cross;
13.分組GROUP BY
? ? ? ? 1)Mysql
? ? ? ? ? ?SELECT * FROM TMP_TABLE GROUP BY IS_MALE;
? ? ? ? 2)Pig
? ? ? ? ? ?tmp_table_group = GROUP tmp_table BY is_male;
? ? ? ? ? ?DUMP tmp_table_group;
14.分組并統(tǒng)計(jì)
? ? ? ? ? 1)Mysql
? ? ? ? ? ? SELECT IS_MALE,COUNT(*) FROM TMP_TABLE GROUP BY IS_MALE;
? ? ? ? ? 2)Pig
? ? ? ? ? ? ?tmp_table_group_count = GROUP tmp_table BY is_male;
? ? ? ? ? ? ?tmp_table_group_count = FOREACH tmp_table_group_count GENERATE group,COUNT($1);
DUMP tmp_table_group_count;15.查詢?nèi)ブ谼ISTINCT
? ? ? ? ? 1)MYSQL
? ? ? ? ? ? ?SELECT DISTINCT IS_MALE FROM TMP_TABLE;
? ? ? ? ? 2)Pig
? ? ? ? ? ? ?tmp_table_distinct = FOREACH tmp_table GENERATE is_male;
? ? ? ? ? ? ?tmp_table_distinct = DISTINCT tmp_table_distinct;
? ? ? ? ? ? ?DUMP ?tmp_table_distinct;
本文源自:http://guoyunsky.iteye.com/blog/1317084
轉(zhuǎn)載于:https://blog.51cto.com/junsy/1405432
總結(jié)
以上是生活随笔為你收集整理的各种SQL在Pig中实现的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 本地安全沙箱最快解决办法
- 下一篇: BER_TLV格式简介