luodongseu / bingPicture

爬取https://bing.ioliu.cn的图片以及描述

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

项目描述

使用Scrapy爬取必应壁纸的图片,保存相关信息到MySQL数据库。增量爬取。

再描述

最近想换电脑壁纸,但是没有找到好看的,逛知乎看到了(https://bing.ioliu.cn),看到是高清图片,挺不错的,但是一张一张下载太慢了就想写个爬虫,一下子全爬下来。爬取完成之后才知道,这个网站本来就是别人从cn.bing.com爬取的,好吧,二次工作。原作者也有一个项目,还提供了接口。请看这里简介,项目地址

工具

  • Scrapy
  • MySQL

技术含量

  • 简单
  • 一天即可完工

使用方法

  • 更改一下settings.pyspiders/picture.py里面的passwd即可
  • 执行scrapy crawl picture

About

爬取https://bing.ioliu.cn的图片以及描述


Languages

Language:Python 100.0%