hive中regexp_extract的⽤法总结1、关于正则表达式的符号及意义
正则表达式由标准的元字符(metacharacters)所构成:
/做为转意,即通常在"/"后⾯的字符不按原来意义解释,如/b/匹配字符"b",当b前⾯加了反斜杆后//b/,转意为匹配⼀个单词的边界。
-或-
对正则表达式功能字符的还原,如"*"匹配它前⾯元字符0次或多次,/a*/将匹配a,aa,aaa,加了"/"后,/a/*/将只匹配"a*"。
^匹配⼀个输⼊或⼀⾏的开头,/^a/匹配"an A",⽽不匹配"An a"酸菜炒饭
$匹配⼀个输⼊或⼀⾏的结尾,/a$/匹配"An a",⽽不匹配"an A"
*匹配前⾯元字符0次或多次,/ba*/将匹配b,ba,baa,baaa
+匹配前⾯元字符1次或多次,/ba*/将匹配ba,baa,baaa
匹配前⾯元字符0次或1次,/ba*/将匹配b,ba
(x)匹配x保存x在名为$1...$9的变量中
x|y匹配x或y
手机不能开机{n}精确匹配n次
{n,}匹配n次以上
{n,m}匹配n-m次
[xyz]字符集(character t),匹配这个集合中的任⼀⼀个字符(或元字符)
[^xyz]不匹配这个集合中的任何⼀个字符
[/b]匹配⼀个退格符
/b匹配⼀个单词的边界
/B匹配⼀个单词的⾮边界
/cX这⼉,X是⼀个控制符,//cM/匹配Ctrl-M
/
d匹配⼀个字数字符,//d/ = /[0-9]/
/D匹配⼀个⾮字数字符,//D/ = /[^0-9]/
/n匹配⼀个换⾏符
/r匹配⼀个回车符
/s匹配⼀个空⽩字符,包括/n,/r,/f,/t,/v等
如何清除
一起小学生/S匹配⼀个⾮空⽩字符,等于/[^/n/f/r/t/v]/
/t匹配⼀个制表符
/v匹配⼀个重直制表符
/w匹配⼀个可以组成单词的字符(alphanumeric,这是我的意译,含数字),包括下划线,如[/w]匹配"$5.98"中的5,等于[a-zA-Z0-9] /W匹配⼀个不可以组成单词的字符,如[/W]匹配"$5.98"中的$,等于[^a-zA-Z0-9]。
'( )' 标记⼀个⼦表达式的开始和结束位置。
'[]' 标记⼀个中括号表达式。
/num 匹配 num,其中 num 是⼀个正整数。对所获取的匹配的引⽤。
字符簇:
[[:alpha:]] 任何字母。
[[:digit:]] 任何数字。
[[:alnum:]] 任何字母和数字。
[[:space:]] 任何⽩字符。
[[:upper:]] 任何⼤写字母。
[[:lower:]] 任何⼩写字母。
[[:punct:]] 任何标点符号。
[[:xdigit:]] 任何16进制的数字,相当于[0-9a-fA-F]
[[:<:]],[[:>:]] 标记表⽰word边界。它们分别与word的开始和结束匹配。word是⼀系列字字符,其前⾯和后⾯均没有字字符。字字符是alnum类中的字母数字字符或下划线(_)
各种操作符的运算优先级: / 转义符 (), (?:), (?=), [] 圆括号和⽅括号 *, +, ?, {n}, {n,}, {n,m} 限定符 ^, $, anymetacharacter 位置和顺序
2、regexp_extract函数
regexp_extract(str, regexp[, idx]) - extracts a group that matches regexp
字符串正则表达式解析函数。
参数解释:
其中:
str是被解析的字符串或字段名
regexp 是正则表达式
idx是返回结果取表达式的哪⼀部分默认值为1。
0表⽰把整个正则表达式对应的结果全部返回
1表⽰返回正则表达式中第⼀个() 对应的结果以此类推
注意点:
要注意的是idx的数字不能⼤于表达式中()的个数。
否则报错:
实例:clothe
如:
少儿学英语1) lect regexp_extract('hitdecisiondlist','(i)(.*?)(e)',0) ;
得到的结果为:女人花简谱
itde
2) lect regexp_extract('hitdecisiondlist','(i)(.*?)(e)',1) ;
得到的结果为:
i
3) lect regexp_extract('hitdecisiondlist','(i)(.*?)(e)',2) ;
得到的结果为:
td
4) lect regexp_extract('x=a3&x=18abc&x=2&y=3&x=4','x=([0-9]+)([a-z]+)',2) from default.dual;
得到的结果为:
abc
此外,当前的语句只有2个()表达式所以当idx>=3的时候就会报错必然性推理
FAILED: SemanticException [Error 10014]: Line 1:7 Wrong arguments '5': org.apache..adata.HiveException: Unable to execute method public .lang.String org.apache.hadoop.hive.ql.udf.UDFRegExpExtract.evaluate(java.lang.String,java.lang.String,java.lang.Integer)
on object of class
org.apache.hadoop.hive.ql.udf.UDFRegExpExtract with arguments {x=a3&x=18abc&x=2&y=3&x=4:java.lang.String, x=([0-9]+)[a-z]:java.lang.String,
2:java.lang.Integer} of size 3