Apache Pig - DIFF() 函数

Pig Latin 的DIFF() 函数用于比较元组中两个包（字段）。它接收元组的两个字段作为输入并进行匹配。如果匹配，则返回一个空包。如果不匹配，则查找在一个字段（包）中存在但在另一个字段中不存在的元素，并将这些元素包装在包中返回。

语法

以下是DIFF() 函数的语法。

grunt> DIFF (expression, expression)

示例

通常，DIFF() 函数比较元组中的两个包。以下是一个示例，我们创建两个关系，将它们进行联合分组，并计算它们之间的差异。

假设我们在 HDFS 目录 /pig_data/ 中有两个文件，分别是 emp_sales.txt 和 emp_bonus.txt，如下所示。emp_sales.txt 包含销售部门员工的详细信息，emp_bonus.txt 包含获得奖金的员工详细信息。

emp_sales.txt

1,Robin,22,25000,sales 
2,BOB,23,30000,sales 
3,Maya,23,25000,sales 
4,Sara,25,40000,sales 
5,David,23,45000,sales 
6,Maggy,22,35000,sales

emp_bonus.txt

1,Robin,22,25000,sales 
2,Jaya,23,20000,admin 
3,Maya,23,25000,sales 
4,Alia,25,50000,admin 
5,David,23,45000,sales 
6,Omar,30,30000,admin

我们已经将这些文件加载到 Pig 中，关系名称分别为 emp_sales 和 emp_bonus。

grunt> emp_sales = LOAD 'hdfs://127.0.0.1:9000/pig_data/emp_sales.txt' USING PigStorage(',')
   as (sno:int, name:chararray, age:int, salary:int, dept:chararray);
	
grunt> emp_bonus = LOAD 'hdfs://127.0.0.1:9000/pig_data/emp_bonus.txt' USING PigStorage(',')
   as (sno:int, name:chararray, age:int, salary:int, dept:chararray);	

使用 COGROUP 操作符按键 sno 分组关系 emp_sales 和 emp_bonus 的记录/元组，如下所示。

grunt> cogroup_data = COGROUP emp_sales by sno, emp_bonus by sno;

使用 DUMP 操作符验证关系 cogroup_data，如下所示。

grunt> Dump cogroup_data;
  
(1,{(1,Robin,22,25000,sales)},{(1,Robin,22,25000,sales)}) 
(2,{(2,BOB,23,30000,sales)},{(2,Jaya,23,20000,admin)}) 
(3,{(3,Maya,23,25000,sales)},{(3,Maya,23,25000,sales)}) 
(4,{(4,Sara,25,40000,sales)},{(4,Alia,25,50000,admin)}) 
(5,{(5,David,23,45000,sales)},{(5,David,23,45000,sales)}) 
(6,{(6,Maggy,22,35000,sales)},{(6,Omar,30,30000,admin)})

计算两个关系之间的差异

现在让我们使用 DIFF() 函数计算两个关系之间的差异，并将其存储在关系 diff_data 中，如下所示。

grunt> diff_data = FOREACH cogroup_data GENERATE DIFF(emp_sales,emp_bonus);

验证

使用 DUMP 操作符验证关系 diff_data，如下所示。

grunt> Dump diff_data;
   
({}) 
({(2,BOB,23,30000,sales),(2,Jaya,23,20000,admin)}) 
({}) 
({(4,Sara,25,40000,sales),(4,Alia,25,50000,admin)}) 
({}) 
({(6,Maggy,22,35000,sales),(6,Omar,30,30000,admin)})

如果 emp_bonus 和 emp_sales 中的记录匹配，则 diff_data 关系将包含一个空元组。在其他情况下，它将包含来自两个关系的元组（不同的元组）。

例如，如果您考虑 sno 为 1 的记录，您会在两个关系中找到相同的记录（(1,Robin,22,25000,sales), (1,Robin,22,25000,sales)）。因此，在 diff_data 关系中（它是 DIFF() 函数的结果），您将为 sno 1 获取一个空元组。