在工作中要通java获取整个网页的html内容,或者某个网络文件的内容。这里我们可以使用java提供的HttpURLConnection类来实现对网页内容的抓取。下面举例说明:
抓取百度首页的内容:
|
1
2
3
4
5
6
7
8
9
10
11 |
HttpURLConnection urlCon=(HttpURLConnection)url.openConnection();urlCon.setConnectTimeout(50000);urlCon.setReadTimeout(300000);DataInputStream fIn;byte[] content = new
byte[MAX_FILE_SIZE];fIn = new
DataInputStream(urlCon.getInputStream());int size = 0,f_size = 0;while((size = fIn.read(content,f_size,2048))> 0){ f_size += size;} |
在代码中我们将百度首页的内容存储到了一个byte数组中,当然我们有了 IO流以后还可以存储到文件中去了。
原文:http://www.cnblogs.com/clyskyblue/p/3572372.html