scrapy 安装

scrapy可以直接使用pip命令,但是很多时候并不能正确地安装。
基本都是scrapy所依赖模块不能下载安装。
所以,如果出现下载异常,可尝试离线安装。

安装模板本地下载地址: 点击此处

下载对应版本的 whl 文件后,使用下面的命令安装:

python -m pip install Twisted-xxx.whl

然后,再次使用pip 命令安装scrapy:

pip install scrapy

验证:

scrapy -V

scrapy介绍

Scrapy一个开源和协作的框架,其最初是为了页面抓取 (更确切来说, 网络抓取 )所设计的,使用它可以以快速、简单、可扩展的方式从网站中提取所需的数据。但目前Scrapy的用途十分广泛,可用于如数据挖掘、监测和自动化测试等领域,也可以应用在获取API所返回的数据(例如 Amazon Associates Web Services ) 或者通用的网络爬虫。

Scrapy 是基于twisted框架开发而来,twisted是一个流行的事件驱动的python网络框架。因此Scrapy使用了一种非阻塞(又名异步)的代码来实现并发。整体架构大致如下:
scrapy架构图

### scrapy 组件
Scrapy主要包括了以下组件:

  • 引擎(Scrapy)

用来处理整个系统的数据流, 触发事务(框架核心)。

  • 调度器(Scheduler)

用来接受引擎发过来的请求,压入队列中,并在引擎再次请求的时候返回。可以想像成一个URL(抓取网页的网址或者说是链接)的优先队列, 由它来决定下一个要抓取的网址是什么, 同时去除重复的网址。

  • 下载器(Downloader)

用于下载网页内容,并将网页内容返回给蜘蛛(Scrapy下载器是建立在twisted这个高效的异步模型上的)。

  • 爬虫(Spiders)

爬虫是主要干活的, 用于从特定的网页中提取自己需要的信息, 即所谓的实体(Item)。用户也可以从中提取出链接,让Scrapy继续抓取下一个页面。

  • 项目管道(Pipeline)

负责处理爬虫从网页中抽取的实体,主要的功能是持久化实体、验证实体的有效性、清除不需要的信息。当页面被爬虫解析后,将被发送到项目管道,并经过几个特定的次序处理数据。

  • 下载器中间件(Downloader Middlewares)

位于Scrapy引擎和下载器之间的框架,主要是处理Scrapy引擎与下载器之间的请求及响应。

  • 爬虫中间件(Spider Middlewares)

介于Scrapy引擎和爬虫之间的框架,主要工作是处理蜘蛛的响应输入和请求输出。

  • 调度中间件(Scheduler Middewares)

介于Scrapy引擎和调度之间的中间件,从Scrapy引擎发送到调度的请求和响应。

Scrapy运行流程大概如下:

  1. 引擎从调度器中取出一个链接(URL)用于接下来的抓取。
  2. 引擎把URL封装成一个请求(Request)传给下载器。
  3. 下载器把资源下载下来,并封装成应答包(Response)。
  4. 爬虫解析Response。
  5. 解析出实体(Item),则交给实体管道进行进一步的处理。
    解析出的是链接(URL),则把URL交给调度器等待抓取。

scrapy 脚本启动

以脚本启动scrapy实质就是以命令行方式启动。
我们可以通过以下两种方式启动scrapy:

from scrapy import cmdline
cmdline.execute('scrapy crawl demo')
import sys
sys.argv['scrapy', 'crawl', 'demo']

这两种方式都是以主程序启动scrapy,缺点是scrapy执行完后,程序会立即停止,如果要循环执行,可以以子进程启动:

import os
os.system('scrapy crawl demo')
# 该方法会返回外部程序执行结果,0表示执行成功
import subprocess
subprocss.Popen('scrapy crawl demo')

以上两种方式,推荐使用 subprocess