QianyanTech / Image-Downloader

Download images from Google, Bing, Baidu. 谷歌、百度、必应图片下载.

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

GUI版最大下载图片数量只能下2000?

whaozl opened this issue · comments

commented
GUI版最大下载图片数量只能下2000?

@whaozl 是的,一个关键词出来的图片,百度的最多,也不超过2000个,所以就设置了2000的上限。

commented

谷歌的会超过2000呢 嘿嘿 比如我想爬cat的图片 谷歌可以出来好多

@whaozl 你确定人工数过数量的?我记得虽然可以一直翻,但是最终也只有几百张

image

@whaozl
你好,这种情况往往会在代理网速不够快的情况下发生,代码会在打开网页一定时间后检测是否有“显示更多”的按钮出来,如果没有就不会继续往下加载了。 所以要应对这种情况,要么换一个快一点的代理,要么修改代码,增加检测按钮的延时。

commented

@sczhengyabin 为什么您有这么多 我好多关键词都是99,我是直接用国外的服务器下的嘿 速度超快的 您说的检测按钮的延时可以设置吗?具体在哪里嘿?

@whaozl
在crawlay.py文件,google_image_url_from_webpage的两个sleep。