您的位置: 首页 > 新闻资讯 > 正文

代理ip如何协助爬虫爬取安居客二手房源信息

发布时间:2019-04-11 11:15:20 来源:互联网

代理ip如何协助爬虫爬取安居客二手房源信息!今天黑洞代理就为大家分享一下爬虫如何爬取安居客二手房源信息的。主要抓取目标是北京二手房信息,在爬取之前,我们先对要爬取的信息进行简单的数据分析。首先打开二手房信息的页面,右键检查,查找我们需要的信息所在的位置,然后进行抓取。


代理ip如何协助爬虫爬取安居客二手房源信息

代码如下:


import requests,time,random


from bs4 import BeautifulSoup


headers = {'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/57.0.2987.98 Safari/537.36'}


for i in range(1,30):


url='https://beijing.anjuke.com/sale/p{}/'.format(i)


print(i)


#print(url)


respomse=requests.get(url,headers=headers)


time.sleep(random.randint(0,5)) #防止反爬


#print(respomse.text)


soup=BeautifulSoup(respomse.text,'lxml')


house_list = soup.find_all('li', class_="list-item")


for house in house_list:


title=house.find('div',class_='house-title').a.text.strip()


price=house.find('span',class_='price-det').text.strip()


#带增加


print('title:'+title+ ' price: '+price)


通过上述代码,我们就可以获取到安居客北京二手房源信息了,黑洞代理为您提供安全稳定、高效便捷的爬虫代理IP服务,更多问题请点击官网咨询客服。




相关文章内容简介

1 代理ip如何协助爬虫爬取安居客二手房源信息

代理ip如何协助爬虫爬取安居客二手房源信息!今天黑洞代理就为大家分享一下爬虫如何爬取安居客二手房源信息的。主要抓取目标是北京二手房信息,在爬取之前,我们先对要爬取的信息进行简单的数据分析。首先打开二手房信息的页面,右键检查,查找我们需要的信息所在的位置,然后进行抓取。  代码如下:  import∵requests,time,random  from∵bs4∵imp... [阅读全文]

最新标签