首页 > 编程语言 > 详细

Python利用urllib2抓取网页返回乱码的问题

时间:2014-03-26 20:50:54      阅读:648      评论:0      收藏:0      [点我收藏+]

很多乱码问题是编码造成的,一般对于中文网站基本是UTF-8,GB2312,可以GB18030通吃。

另一个造成乱码的原因是压缩格式,很多规模较大的网站都是以gzip的压缩格式输出页面的,所以在用BS解析之前需要先判断该网页是否经过压缩,如果经过压缩则先进行解压操作。

bubuko.com,布布扣
import urllib2
import gzip
import StringIO

url = http://guomeidiyicheng.soufun.com/xiangqing/
data = urllib2.urlopen(url).read()
data = StringIO.StringIO(data)
gzipper = gzip.GzipFile(fileobj=data)
html = gzipper.read()
print html
bubuko.com,布布扣

Python利用urllib2抓取网页返回乱码的问题,布布扣,bubuko.com

Python利用urllib2抓取网页返回乱码的问题

原文:http://www.cnblogs.com/bbcar/p/3625084.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!