测试1:抓取淘宝店铺信息
测试参数:抓取淘宝店铺的商品搜索结果页面,抓取链接总数167个,不重复,使用php自带的抓取函数进行抓取
无间隔时间进行抓取测试,第78次抓取时被淘宝屏蔽。
用0.25秒间隔进行抓取测试,第27次抓取时被淘宝屏蔽。
用0.3秒间隔 进行抓取测试,第69次抓取时被淘宝屏蔽。
用1秒间隔进行抓取测试,第130次抓取时被淘宝屏蔽。
用3秒间隔进行抓取测试,第130次抓取时被淘宝屏蔽。
用5秒间隔进行抓取测试,第130次抓取时被淘宝屏蔽。
10秒,56次
总结:似乎无论间隔时间多久,最多只能抓取130次,之后就会被屏蔽。
There are no comments yet