Apache Pig - PigStorage() 函数

PigStorage() 函数用于加载和存储数据为结构化文本文件。它接收一个分隔符作为参数，用于分隔元组中的每个实体。默认情况下，它使用‘\t’作为参数。

语法

以下是PigStorage() 函数的语法。

grunt> PigStorage(field_delimiter)

示例

假设我们在名为/data/的 HDFS 目录下有一个名为student_data.txt的文件，其内容如下。

001,Rajiv,Reddy,9848022337,Hyderabad
002,siddarth,Battacharya,9848022338,Kolkata 
003,Rajesh,Khanna,9848022339,Delhi  
004,Preethi,Agarwal,9848022330,Pune 
005,Trupthi,Mohanthy,9848022336,Bhuwaneshwar
006,Archana,Mishra,9848022335,Chennai.

我们可以使用 PigStorage 函数加载数据，如下所示。

grunt> student = LOAD 'hdfs://127.0.0.1:9000/pig_data/student_data.txt' USING PigStorage(',')
   as ( id:int, firstname:chararray, lastname:chararray, phone:chararray, city:chararray );

在上面的示例中，我们使用了逗号(‘,’)作为分隔符。因此，我们使用(,)分隔了记录的值。

同样，我们可以使用PigStorage() 函数将数据存储到 HDFS 目录中，如下所示。

grunt> STORE student INTO ' hdfs://127.0.0.1:9000/pig_Output/ ' USING PigStorage (',');

这会将数据存储到指定的目录中。您可以按照以下步骤验证数据。

验证

您可以按照以下步骤验证存储的数据。首先，使用ls命令列出名为pig_output目录中的文件，如下所示。

$ hdfs dfs -ls 'hdfs://127.0.0.1:9000/pig_Output/'
 
Found 2 items 
rw-r--r- 1 Hadoop supergroup 0 2015-10-05 13:03 hdfs://127.0.0.1:9000/pig_Output/_SUCCESS
 
rw-r--r- 1 Hadoop supergroup 224 2015-10-05 13:03 hdfs://127.0.0.1:9000/pig_Output/part-m-00000

您可以看到在执行Store语句后创建了两个文件。

然后，使用cat命令列出名为part-m-00000文件的内容，如下所示。

$ hdfs dfs -cat 'hdfs://127.0.0.1:9000/pig_Output/part-m-00000'
  
1,Rajiv,Reddy,9848022337,Hyderabad  
2,siddarth,Battacharya,9848022338,Kolkata  
3,Rajesh,Khanna,9848022339,Delhi  
4,Preethi,Agarwal,9848022330,Pune  
5,Trupthi,Mohanthy,9848022336,Bhuwaneshwar 
6,Archana,Mishra,9848022335,Chennai