Apache Pig - PluckTuple() 函数



在执行连接等操作之后,为了区分两个模式的列,我们使用PluckTuple()函数。要使用此函数,首先必须定义一个字符串前缀,并过滤关系中以该前缀开头的列。

语法

以下是PluckTuple()函数的语法。

DEFINE pluck PluckTuple(expression1) 
DEFINE pluck PluckTuple(expression1,expression3) 
pluck(expression2)

示例

假设我们在 HDFS 目录/pig_data/中拥有两个文件,分别名为emp_sales.txtemp_bonus.txtemp_sales.txt包含销售部门员工的详细信息,而emp_bonus.txt包含获得奖金的员工详细信息。

emp_sales.txt

1,Robin,22,25000,sales 
2,BOB,23,30000,sales 
3,Maya,23,25000,sales 
4,Sara,25,40000,sales 
5,David,23,45000,sales 
6,Maggy,22,35000,sales

emp_bonus.txt

1,Robin,22,25000,sales 
2,Jaya,23,20000,admin 
3,Maya,23,25000,sales 
4,Alia,25,50000,admin 
5,David,23,45000,sales
6,Omar,30,30000,admin

我们已将这些文件加载到 Pig 中,关系名称分别为emp_salesemp_bonus

grunt> emp_sales = LOAD 'hdfs://127.0.0.1:9000/pig_data/emp_sales.txt' USING PigStorage(',')
   as (sno:int, name:chararray, age:int, salary:int, dept:chararray);
	
grunt> emp_bonus = LOAD 'hdfs://127.0.0.1:9000/pig_data/emp_bonus.txt' USING PigStorage(',')
   as (sno:int, name:chararray, age:int, salary:int, dept:chararray);

使用join操作符连接这两个关系,如下所示。

grunt> join_data = join emp_sales by sno, emp_bonus by sno;

使用Dump操作符验证关系join_data

grunt> Dump join_data;
 
(1,Robin,22,25000,sales,1,Robin,22,25000,sales)
(2,BOB,23,30000,sales,2,Jaya,23,20000,admin)
(3,Maya,23,25000,sales,3,Maya,23,25000,sales)
(4,Sara,25,40000,sales,4,Alia,25,50000,admin) 
(5,David,23,45000,sales,5,David,23,45000,sales) 
(6,Maggy,22,35000,sales,6,Omar,30,30000,admin)

使用 PluckTuple() 函数

现在,定义所需的表达式,通过PluckTupe()函数区分列。

grunt> DEFINE pluck PluckTuple('a::');

如下所示过滤join_data关系中的列。

grunt> data = foreach join_data generate FLATTEN(pluck(*));

如下所示描述名为data的关系。

grunt> Describe data;
 
data: {emp_sales::sno: int, emp_sales::name: chararray, emp_sales::age: int,
   emp_sales::salary: int, emp_sales::dept: chararray, emp_bonus::sno: int,
   emp_bonus::name: chararray, emp_bonus::age: int, emp_bonus::salary: int,
   emp_bonus::dept: chararray}

由于我们已将表达式定义为“a::”,因此emp_sales模式的列将被提取为emp_sales::列名,而emp_bonus模式的列将被提取为emp_bonus::列名

apache_pig_eval_functions.htm
广告