首页 > Web开发 > 详细

正则表达式:网页爬虫

时间:2014-04-28 23:25:56      阅读:434      评论:0      收藏:0      [点我收藏+]

这是对正则表达式的一个小应用,爬取指定网页的指定内容。这里用的是一个博客网页,抓取邮箱到集合里。

bubuko.com,布布扣
import java.io.BufferedReader;
import java.io.IOException;
import java.io.InputStreamReader;
import java.net.URL;
import java.util.ArrayList;
import java.util.List;
import java.util.regex.Matcher;
import java.util.regex.Pattern;

public class RegexDemo2 {

    /**
     * @param args
     * @throws IOException
     */

    /*
     * 网页爬虫:其实就一个程序用于在互联网中获取符合指定规则的数据。 爬取邮箱地址。
     */
    public static void main(String[] args) throws IOException {
        List<String> list = getMailsByWeb();
        for (String mail : list) {
            System.out.println(mail);
        }
    }

    public static List<String> getMailsByWeb() throws IOException {

        URL url = new URL("http://blog.sina.com.cn/s/blog_515617e60101e151.html");
        BufferedReader bufIn = new BufferedReader(new InputStreamReader(
                url.openStream()));
        // 对读取的数据进行规则的匹配。从中获取符合规则的数据.
        String mail_regex = "\\w+@\\w+(\\.\\w+)+";

        List<String> list = new ArrayList<String>();
        Pattern p = Pattern.compile(mail_regex);

        String line = null;

        while ((line = bufIn.readLine()) != null) {

            Matcher m = p.matcher(line);
            while (m.find()) {
                // 3,将符合规则的数据存储到集合中。
                list.add(m.group());
            }

        }

        return list;
    }

}
bubuko.com,布布扣

正则表达式:网页爬虫,布布扣,bubuko.com

正则表达式:网页爬虫

原文:http://www.cnblogs.com/stonewu/p/3692994.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!