qq:800819103
在线客服,实时响应
qq群
在线客服,实时响应
客服电话
13318873961代理ip如何协助爬虫爬取安居客二手房源信息!今天黑洞代理就为大家分享一下爬虫如何爬取安居客二手房源信息的。主要抓取目标是北京二手房信息,在爬取之前,我们先对要爬取的信息进行简单的数据分析。首先打开二手房信息的页面,右键检查,查找我们需要的信息所在的位置,然后进行抓取。
代码如下:
import requests,time,random
from bs4 import BeautifulSoup
headers = {'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/57.0.2987.98 Safari/537.36'}
for i in range(1,30):
url='https://beijing.anjuke.com/sale/p{}/'.format(i)
print(i)
#print(url)
respomse=requests.get(url,headers=headers)
time.sleep(random.randint(0,5)) #防止反爬
#print(respomse.text)
soup=BeautifulSoup(respomse.text,'lxml')
house_list = soup.find_all('li', class_="list-item")
for house in house_list:
title=house.find('div',class_='house-title').a.text.strip()
price=house.find('span',class_='price-det').text.strip()
#带增加
print('title:'+title+ ' price: '+price)
通过上述代码,我们就可以获取到安居客北京二手房源信息了,黑洞代理为您提供安全稳定、高效便捷的爬虫代理IP服务,更多问题请点击官网咨询客服。
相关文章内容简介
1 代理ip如何协助爬虫爬取安居客二手房源信息
代理ip如何协助爬虫爬取安居客二手房源信息!今天黑洞代理就为大家分享一下爬虫如何爬取安居客二手房源信息的。主要抓取目标是北京二手房信息,在爬取之前,我们先对要爬取的信息进行简单的数据分析。首先打开二手房信息的页面,右键检查,查找我们需要的信息所在的位置,然后进行抓取。 代码如下: import∵requests,time,random from∵bs4∵imp... [阅读全文]
最新标签
推荐阅读
15
2019-07
爬取大量数据就用代理ip
大多数人即使不懂大数据的原理,也晓得大数据“杀熟”,由于这个事都上过很多次新闻了。目前,很多行业都应用了大数据,利用大数据来掌握顾客的供需,就比如零售行业的,哪类产品最火
05
2019-05
哪个ip代理软件最好用?
IP是什么,相信很多人都知道,IP地址跟我们人一样,是独一无二的,是无法复制的,是很特殊的存在,那人们为什么要换IP呢?是因为长时间使用一个ip是不安全的,会产生一定的安全隐患。
26
2019-08
怎么设置代理IP来隐藏自己的IP
在上网的时候,很多人都发现了,如果我们近期经常浏览某个产品,搜索引擎就会自动推荐类似的产品给你。其实就是我们在线活动可以通过各种网站,搜索引擎和社交网络可以跟踪。
11
2019-07
高效实用的代理ip推荐
高效实用的代理ip推荐,大家可以试试,非常值得入手一款。常用网络的用户肯定是遇到过访问网址受限制的情况,这也许并不是你使用的原因,而是因为大部分的网站都限定了每个IP用户的注
热门文章