正则表达式
背景
最近做一个爬虫的项目,里面的主体代码我基本没怎么看过,只是用它来爬取网上的数据,但是这个项目好像有些bug,数据库中的关键词字段是正确的但是,导出的 word 的文档却有些重复的数据把正常的数据挤掉了。但是好几百的数据挨个去对可太不现实了(好吧我自己手动对了500多个数错了十多个),然后我就想我 Java 也不能白学啊,是时候解决些实际问题了。首先用Java的IO获取对应导出数据的路径下的所有文件的名字,但是这些文件名字都很规则,前面一段长度不定的汉字后面一串数字下划线和字母。那么这时候就想到了正则进行匹配来获取前面的汉字作为关键字存到 List 里,然后判断是否 contains,这样就能知道哪些被挤掉了。
下面来整理一下基础语法,最后有一些常用的正则表达式
总结自于:
常用的基本符号
^
: 表示匹配字符串的开始位置 (例外 用在中括号中[ ] 时,可以理解为取反,表示不匹配括号中字符串)
$
: 表示匹配字符串的结束位置
*
: 表示匹配 零次到多次
+
: 表示匹配 一次到多次 (至少有一次)
?
: 表示匹配零次或一次
.
: 表示匹配单个字符
|
: 表示为或者,两项中取一项
( ) 小括号表示匹配括号中全部字符
[ ] 中括号表示匹配括号中一个字符 范围描述 如[0-9 a-z A-Z]
{ } 大括号用于限定匹配次数 如 {n}表示匹配n个字符 {n,}表示至少匹配n个字符 {n,m}表示至少n,最多m
\ 转义字符 如上基本符号匹配都需要转义字符 如 * 表示匹配*号
\w 表示英文字母和数字 \W 非字母和数字
\d 表示数字 \D 非数字
匹配规则
常用的正则表达式
匹配中文字符的正则表达式: [\u4e00-\u9fa5]
匹配双字节字符(包括汉字在内):[^\x00-\xff]
匹配空行的正则表达式:\n[\s| ]*\r
匹配HTML标记的正则表达式:/<(.)>.</\1>|<(.*) />/
匹配首尾空格的正则表达式:(^\s)|(\s$)
匹配IP地址的正则表达式:/(\d+).(\d+).(\d+).(\d+)/g //
匹配Email地址的正则表达式:\w+([-+.]\w+)@\w+([-.]\w+)*.\w+([-.]\w+)
匹配网址URL的正则表达式:[http://(/](https://blog.csdn.net/)[\w-]+\.)+[\w-]+(/[\w- ./?%&=]*)?
sql语句:^(select|drop|delete|create|update|insert).*$
1、非负整数:^\d+$
2、正整数:^[0-9]*[1-9][0-9]*$
3、非正整数:^((-\d+)|(0+))$
4、负整数:^-[0-9]*[1-9][0-9]*$
5、整数:^-?\d+$
6、非负浮点数:^\d+(.\d+)?$
7、正浮点数:^((0-9)+.[0-9]*[1-9][0-9])|([0-9]*[1-9][0-9].[0-9]+)|([0-9]\[1-9][0-9]))$
8、非正浮点数:^((-\d+.\d+)?)|(0+(.0+)?))$
9、负浮点数:^(-((正浮点数正则式)))$
10、英文字符串:^[A-Za-z]+$
11、英文大写串:^[A-Z]+$
12、英文小写串:^[a-z]+$
13、英文字符数字串:^[A-Za-z0-9]+$
14、英数字加下划线串:^\w+$
15、E-mail地址:^[\w-]+(.[\w-]+)*@[\w-]+(.[\w-]+)+$
16、URL:^[a-zA-Z]+://(\w+(-\w+))(.(\w+(-\w+)))(?\s)?$
或:^http://[A-Za-z0-9]+.[A-Za-z0-9]+[/=?%-&_~`@[]':+!]([^<>""])$
17、邮政编码:^[1-9]\d{5}$
18、中文:^[\u0391-\uFFE5]+$
19、电话号码:^((\d2,3)|(\d{3}-))?(0\d2,3|0\d{2,3}-)?[1-9]\d{6,7}(-\d{1,4})?$
20、手机号码:^((\d2,3)|(\d{3}-))?13\d{9}$
21、双字节字符(包括汉字在内):^\x00-\xff
22、匹配首尾空格:(^\s)|(\s$)(像vbscript那样的trim函数)
23、匹配HTML标记:<(.)>.</\1>|<(.*) />
24、匹配空行:\n[\s| ]*\r
25、提取信息中的网络链接:(h|H)(r|R)(e|E)(f|F) *= *(‘|”)?(\w|\|/|.)+(‘|”| *|>)?
26、提取信息中的邮件地址:\w+([-+.]\w+)@\w+([-.]\w+)*.\w+([-.]\w+)
27、提取信息中的图片链接:(s|S)(r|R)(c|C) *= *(‘|”)?(\w|\|/|.)+(‘|”| *|>)?
28、提取信息中的IP地址:(\d+).(\d+).(\d+).(\d+)
29、提取信息中的中国手机号码:(86)013\d{9}
30、提取信息中的中国固定电话号码:(\d3,4|\d{3,4}-|\s)?\d{8}
31、提取信息中的中国电话号码(包括移动和固定电话):(\d3,4|\d{3,4}-|\s)?\d{7,14}
32、提取信息中的中国邮政编码:[1-9]{1}(\d+){5}
33、提取信息中的浮点数(即小数):(-?\d*).?\d+
34、提取信息中的任何数字 :(-?\d*)(.\d+)?
35、IP:(\d+).(\d+).(\d+).(\d+)
36、电话区号:/^0\d{2,3}$/
37、腾讯QQ号:^[1-9]*[1-9][0-9]*$
38、帐号(字母开头,允许5-16字节,允许字母数字下划线):^[a-zA-Z][a-zA-Z0-9_]{4,15}$
39、中文、英文、数字及下划线:^[\u4e00-\u9fa5_a-zA-Z0-9]+$