qq：800819103
在线客服，实时响应
qq群
在线客服，实时响应
客服电话
133188739611. 设置背景
在使用selenium浏览器渲染技术，当我们爬取某个网站的信息的时候，在一般情况下速度都不是特别的快。而且需要利用selenium浏览器渲染技术爬取的网站，反爬虫的应对技术都比较厉害，对IP访问频率有很高程度的限制。所以，如果想提升selenium抓取数据的速度，可以从两个方面出发：
第一方面， 抓取频率要提高，破解出现的验证信息，一般都是验证码或者是用户登陆 。
第二方面，使用多线程 + 代理IP， 这种方式，需要电脑有足够的内存和充足稳定的代理IP 。
2. 为chrome设置代理IP
注意事项：
第一，选择稳定的固定的代理IP。不要选择动态代理IP。我们常用的爬虫IP代理通常都是具有高度保密性质的高匿名动态IP，是通过拨号动态产生的，时效性非常的短，一般都是在3分钟左右。对于scrapy这种并发度很高，又不需要登录的爬虫来说，非常合适，但是在浏览器渲染类爬虫中并不适用。
第二，选择速度较快的代理IP。因为selenium爬虫采用的是浏览器渲染技术，这种浏览器渲染技术速度就本身就很慢。如果选择的代理IP速度较慢，爬取的时间就会进一步增加。
第三，要有足够大的电脑内存。因为chrome占内存较大，在并发度很高的情况下，容易造成浏览器崩溃，也就是程序崩溃。
第四，在程序结束时，调用 browser.quit( ) 清除浏览器缓存。
3. 需要用户名密码验证的代理
相关文章内容简介
1 selenium+python设置爬虫代理IP的方法
selenium+python设置爬虫代理IP的方法 ∵ ∵ ∵ 1.∵设置背景 在使用selenium浏览器渲染技术，当我们爬取某个网站的信息的时候，在一般情况下速度都不是特别的快。而且需要利用selenium浏览器渲染技术爬取的网站，反爬虫的应对技术都比较厉害，对IP访问频率有很高程度的限制。所以，如果想提升selenium抓取数据的速度，可以从两个方面出发： 第一方... [阅读全文]
最新标签
推荐阅读
29
2018-12
淘宝刷单用静态ip还是动态ip好？
新开的淘宝店苦于无人问津，所以很多淘宝店主都会采用刷单的方式提供店铺的销售量及访问量等，刷单需要使用不同的ip地址进行访问，所以到底淘宝刷单用静态ip还是动态ip好？下面黑洞代理
05
2019-03
爬虫抓取数据为什么要用代理IP
大家关注黑洞代理，可以知道黑洞代理是一个可以更换IP地址的软件，除此之外，还可以通过API接口提取代理IP的，因此不管是做爬虫抓取数据还是其他一些换IP的项目都是适用的。为什么怎么说
18
2018-12
怎么建爬虫的IP池？三步搭建IP池
爬虫抓数据都要使用IP进行切换，否则就只能慢悠悠的采集数据，但如果使用这种方法，就没有快速采集的意义了。因此，要想大量的采集数据，是少不了使用IP池的，对于爬虫使用的IP池...
01
2019-07
如何检测代理IP有没有效果?
代理IP通常用于游戏试玩、电商优化、邮件群发、打码投票、网站、渠道营销等。当我们注册好代理IP软件后，就可以进行试用了。由于我们用的代理软件是付费的，所以效果很重要。
热门文章
