Apache Pig - COUNT() 函数



Pig Latin 的 COUNT() 函数用于获取包中元素的数量。在计算包中元组数量时,COUNT() 函数会忽略(不计数)第一个字段为 NULL 值的元组。

注意

  • 要获取全局计数值(包中元组的总数),需要执行 Group All 操作,并使用 COUNT() 函数计算计数值。

  • 要获取组的计数值(组中元组的数量),需要使用 Group By 操作符对其进行分组,然后使用计数函数。

语法

以下是 COUNT() 函数的语法。

grunt> COUNT(expression)

示例

假设我们在 HDFS 目录 /pig_data/ 中有一个名为 student_details.txt 的文件,内容如下所示。

student_details.txt

001,Rajiv,Reddy,21,9848022337,Hyderabad,89
002,siddarth,Battacharya,22,9848022338,Kolkata,78 
003,Rajesh,Khanna,22,9848022339,Delhi,90 
004,Preethi,Agarwal,21,9848022330,Pune,93 
005,Trupthi,Mohanthy,23,9848022336,Bhuwaneshwar,75 
006,Archana,Mishra,23,9848022335,Chennai,87 
007,Komal,Nayak,24,9848022334,trivendram,83 
008,Bharathi,Nambiayar,24,9848022333,Chennai,72

我们将此文件加载到 Pig 中,关系名为 student_details,如下所示。

grunt> student_details = LOAD 'hdfs://127.0.0.1:9000/pig_data/student_details.txt' USING PigStorage(',')
   as (id:int, firstname:chararray, lastname:chararray, age:int, phone:chararray, city:chararray, gpa:int);

计算元组数量

我们可以使用内置函数 COUNT()(区分大小写)来计算关系中的元组数量。让我们使用 Group All 操作符对关系 student_details 进行分组,并将结果存储在名为 student_group_all 的关系中,如下所示。

grunt> student_group_all = Group student_details All;

它将生成如下所示的关系。

grunt> Dump student_group_all;
  
(all,{(8,Bharathi,Nambiayar,24,9848022333,Chennai,72),
(7,Komal,Nayak,24,9848022 334,trivendram,83),
(6,Archana,Mishra,23,9848022335,Chennai,87),
(5,Trupthi,Mohan thy,23,9848022336,Bhuwaneshwar,75),
(4,Preethi,Agarwal,21,9848022330,Pune,93),
(3 ,Rajesh,Khanna,22,9848022339,Delhi,90),
(2,siddarth,Battacharya,22,9848022338,Ko lkata,78),
(1,Rajiv,Reddy,21,9848022337,Hyderabad,89)})

现在让我们计算关系中的元组/记录数。

grunt> student_count = foreach student_group_all  Generate COUNT(student_details.gpa);

验证

使用 DUMP 操作符验证关系 student_count,如下所示。

grunt> Dump student_count;

输出

它将产生以下输出,显示关系 student_count 的内容。

8
apache_pig_eval_functions.htm
广告