
qq:800819103
在线客服,实时响应
qq群
在线客服,实时响应
客服电话
13318873961爬虫代理IP如何选择?由于开python培训有讲过爬虫的缘故,这个问题已经被ask无数次了,一般问的基友也都是爬虫防ban用的,总体来讲,质量好的都不便宜,便宜的质量都比较渣,一分钱一分货。
1)通过程序扫出来的代理
通过程序扫IP段、端口找出来的临时性代理。
诸如百度搜索“HTTP代理”,写着“每日更新”、“国内高匿免费”什么的都是这类,购买的话都很廉价。
基本都大同小异,没有哪个好那个坏,几个平台提供的代理至少有3成的重复率。
这类代理,有效期都不高,即便批量验证过在使用时还是会废掉一部分,可以应付低效率的采集、刷单次访问量,但是搞别的的还是算了吧
2)ADSL拨号服务器
ADSL拨号,断线重连切IP,淘宝有卖的,限定地区拨号、全国拨号都有。相对较稳定,至少比扫描出来的强很多,但切换IP耗时较长,需要几秒到1分钟之间。
所以如果采集是每访问一次切一次IP的话,效率会很慢,只能等当前IP被对方ban掉的时候在拨号换新的IP。
ADSL拨号可以应付对效率要求不高的采集、刷访问量、刷点击之类的。
3)第三方访问
比如通过“谷歌网页翻译”、“有道网页翻译”、“http代理浏览器”等第三方访问渠道请求目标网页。
速度慢,且采集捕获目标内容的时候多了很多干扰。
4)软件
HTTP代理
诸如“flyvpn”、“greenvpn”,采集是IP被ban了直接换一个,软件本身靠谱代理还是挺稳定的,就是人得在电脑旁边,手动换一次。但是偶尔查查几万关键词的百度排名、几万页面收录,用VPN还是挺悠闲的,这点量级总共也换不了多少次。
5)自建代理
买一台服务器,利用squid+stunnel搭建一台HTTP高匿代理服务器,Tinyproxy也行。squit用来实现http代理,stunnel在代理的基础上建一条隧道实现加密。
如果觉得ip数量少,就多买几台服务器,依次配置squid~~
由于是自建代理,都是独享且是真实的IP,所有相当稳定。采集、抢购、刷票、刷点击、刷主播人气什么的都可以干,只有有钱上机子就行~~
去年接了一个爬虫单子,抓国外某股票网站,共千万页面量级,反爬虫做的挺恶心,无奈买了20台低配机子做HTTP代理服务器,一个月5000成本~~
5)自建代理服务商
如果上面方法自己懒得搞,也没有关系。找个做类似服务的商家,开个api端口即可。
这里推荐黑洞代理,专业的IP代理。
相关文章内容简介
1 爬虫代理IP如何选择?
爬虫代理IP如何选择?由于开python培训有讲过爬虫的缘故,这个问题已经被ask无数次了,一般问的基友也都是爬虫防ban用的,总体来讲,质量好的都不便宜,便宜的质量都比较渣,一分钱一分货。 1)通过程序扫出来的代理 通过程序扫IP段、端口找出来的临时性代理。 诸如百度搜索“HTTP代理”,写着“每日更新”、“国内高匿免费”什么的都是... [阅读全文]
最新标签
推荐阅读
18
2018-10
怎么更改手机IP地址?手机IP修改方法【图解】
通过修改手机ip地址可以避免各种ip限制,无论是网站的访问还是刷各种ip限制投票都可以用上手机自动换ip,而黑洞代理这个自动换ip软件可以帮助手机用户自动更换ip地址。
18
2019-01
网络无法连接?怎么刷新DNS服务?
我们的网络问题就像一个小世界,这儿世界里,问题就是生存着的“小生物”。通常它们不出来的时候,世界就是安定悠闲的,可是一但它们出来游览以后,我们就会遇到一个电脑小灾害。因为
28
2019-02
绕过公司或校园网络防火墙,可以使用黑洞代理吗?
基本上一些公司或者校园的网络都是有一定的限制的,不是限制上网时间,就是限制不能使用哪些软件,或者不能访问哪些网络的。那么对于这些网络防火墙,大家打算怎么办呢?如何能够突破
15
2019-01
动态VPS的动态与静态内存有什么区别?
动态拨号VPS是一种可以在里实现拨号上网的VPS,它的最大的特征就是每拨号一次,IP会随机改变。动态拨号VPS有动态和静态内存之分,下面跟着黑洞代理小编来看看动态VPS的动态与静态内存有什
热门文章