个性化阅读
专注于IT技术分析

Pig UDF(用户定义函数)

为了指定自定义处理, Pig提供了对用户定义函数(UDF)的支持。因此, Pig允许我们创建自己的功能。当前, 可以使用以下编程语言来实现Pig UDF:-

  • Java
  • Python
  • Jython
  • JavaScript
  • Ruby
  • Groovy

在所有语言中, Pig为Java函数提供了最广泛的支持。但是, 仅对Python, Jython, JavaScript, Ruby和Groovy等语言提供有限的支持。

Apache PigUDF的示例

在Apache Pig里

  • 所有UDF必须扩展“ org.apache.pig.EvalFunc”
  • 所有功能都必须覆盖“ exec”方法。

让我们看一个简单的EVAL函数示例, 该函数将提供的字符串转换为大写。

UPPER.java

package com.hadoop;

import java.io.IOException;

import org.apache.pig.EvalFunc;
import org.apache.pig.data.Tuple;

public class TestUpper extends EvalFunc<String>   {
	public String exec(Tuple input) throws IOException {  
		if (input == null || input.size() == 0)  
		return null;  
		try{  
		            String str = (String)input.get(0);  
		return str.toUpperCase();  
		}catch(Exception e){  
		throw new IOException("Caught exception processing input row ", e);  
		        }  
		    }
}
  • 创建jar文件并将其导出到特定目录。为此, 右键单击项目-导出-Java-JAR文件-下一步。
Apache Pig UDF
  • 现在, 为jar文件提供一个特定的名称, 并将其保存在本地系统目录中。
Apache Pig UDF
  • 在本地计算机上创建一个文本文件, 然后插入元组列表。
$ nano pigsample
Apache Pig UDF
  • 将文本文件上载到HDFS的特定目录中。
$ hdfs dfs -put pigexample /pigexample
  • 在本地计算机上创建一个Pig文件并编写脚本。
$ nano pscript.pig
Apache Pig UDF
  • 现在, 在终端中运行脚本以获取输出。
$pig pscript.pig
Apache Pig UDF

在这里, 我们得到了期望的输出。

赞(0) 打赏
未经允许不得转载:srcmini » Pig UDF(用户定义函数)
分享到: 更多 (0)

评论 抢沙发

评论前必须登录!

 

觉得文章有用就打赏一下文章作者

微信扫一扫打赏