Apache Pig - SUBTRACT() 函数

Pig Latin 的SUBTRACT()函数用于从两个Bag中减去数据。它接收两个Bag作为输入，并返回一个包含第一个Bag中不在第二个Bag中的元组的Bag。

语法

以下是SUBTRACT()函数的语法。

grunt> SUBTRACT(expression, expression)

示例

假设我们在HDFS目录/pig_data/中拥有两个文件，分别命名为emp_sales.txt和emp_bonus.txt，如下所示。emp_sales.txt包含销售部门员工的详细信息，emp_bonus.txt包含获得奖金的员工详细信息。

emp_sales.txt

1,Robin,22,25000,sales 
2,BOB,23,30000,sales 
3,Maya,23,25000,sales 
4,Sara,25,40000,sales 
5,David,23,45000,sales 
6,Maggy,22,35000,sales

emp_bonus.txt

1,Robin,22,25000,sales 
2,Jaya,23,20000,admin 
3,Maya,23,25000,sales 
4,Alia,25,50000,admin 
5,David,23,45000,sales 
6,Omar,30,30000,admin

我们将这些文件加载到Pig中，关系名分别为emp_sales和emp_bonus。

grunt> emp_sales = LOAD 'hdfs://127.0.0.1:9000/pig_data/emp_sales.txt' USING PigStorage(',')
   as (sno:int, name:chararray, age:int, salary:int, dept:chararray);
	
grunt> emp_bonus = LOAD 'hdfs://127.0.0.1:9000/pig_data/emp_bonus.txt' USING PigStorage(',')
   as (sno:int, name:chararray, age:int, salary:int, dept:chararray);	

现在，让我们使用COGROUP操作符对emp_sales和emp_bonus关系的记录/元组进行分组，键为sno，如下所示。

grunt> cogroup_data = COGROUP emp_sales by sno, emp_bonus by sno;

使用DUMP操作符验证关系cogroup_data，如下所示。

grunt> Dump cogroup_data; 

(1,{(1,Robin,22,25000,sales)},{(1,Robin,22,25000,sales)}) 
(2,{(2,BOB,23,30000,sales)},{(2,Jaya,23,30000,admin)}) 
(3,{(3,Maya,23,25000,sales)},{(3,Maya,23,25000,sales)}) 
(4,{(4,Sara,25,40000,sales)},{(4,Alia,25,50000,admin)}) 
(5,{(5,David,23,45000,sales)},{(5,David,23,45000,sales)}) 
(6,{(6,Maggy,22,35000,sales)},{(6,Omar,30,30000,admin)})

从另一个关系中减去一个关系

现在，让我们从emp_sales关系中减去emp_bonus关系的元组。结果关系包含emp_sales中不在emp_bonus中的元组。

grunt> sub_data = FOREACH cogroup_data GENERATE SUBTRACT(emp_sales, emp_bonus);

验证

使用DUMP操作符验证关系sub_data，如下所示。emp_sales关系包含不在emp_bonus关系中的元组。

grunt> Dump sub_data;
   
({})
({(2,BOB,23,30000,sales)})
({})
({(4,Sara,25,40000,sales)})
({})
({(6,Maggy,22,35000,sales)})

同样，让我们从emp_bonus关系中减去emp_sales关系，如下所示。

grunt> sub_data = FOREACH cogroup_data GENERATE SUBTRACT(emp_bonus, emp_sales);

使用Dump操作符验证sub_data关系的内容，如下所示。

grunt> Dump sub_data;

({}) 
({(2,Jaya,23,20000,admin)})
({})
({(4,Alia,25,50000,admin)})
({})
({(6,Omar,30,30000,admin)})