爬虫之代理IP应该怎么使用?

很多网站会检测某一段时间某个IP的访问次数(通过流量统计,系统日志等),如果访问次数多的不像正常人,它会禁止这个IP的访问。所以我们可以设置一些代理服务器,每隔一段时间换一个代理,就算IP被禁止,依然可以换个IP继续爬取。
添加图片注释,不超过 140 字(可选)
request中通过ProxyHandler来设置使用代理服务器,代理的使用很简单,可以付费在专业网站上购买稳定的ip地址,也可以在网络上寻求免费的ip代理。但是,这些免费开放代理一般会有很多人都在使用,而且代理有寿命短,速度慢,匿名度不高,HTTP/HTTPS支持不稳定等缺点(免费没好货)。
尽量不要使用免费的开放代理因为获取基本没有成本,一般都不可以用,找一些优质的HTTP代理 就把它收集起来用在爬虫上面,才是正确的选择
优质短期代理网站举例:华益云HTTP代理
添加图片注释,不超过 140 字(可选)

相关推荐