首页 > 其他 > 详细

scrapy 在pycharm中调试 不用到命令行中启动爬虫方法

时间:2020-03-31 18:31:59      阅读:89      评论:0      收藏:0      [点我收藏+]

技术分享图片

(目录结构如上图)

在主目录中加入main.py,在其中加入代码,运行此文件就可以运行整个爬虫:

# -*- coding: utf-8 -*-
__author__=‘pasaulis‘
#在程序中运行命令行,方法调试,如:在jobbole.py中打个断点,运行就会停在那

from scrapy.cmdline import execute
import sys
import os

#获取到当前目录:E:\a\scrapy_test\Aticle,方便后面cmd命令运行不必去找目录
sys.path.append(os.path.dirname(os.path.abspath(__file__)))
#测试目录获取是否正确
# print(os.path.dirname(os.path.abspath(__file__)))

#调用命令运行爬虫
execute(["scrapy","crawl","jobbole"])

转自 https://www.cnblogs.com/chenxi188/p/10844844.html

scrapy 在pycharm中调试 不用到命令行中启动爬虫方法

原文:https://www.cnblogs.com/hanfe1/p/12606790.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!