Python爬虫实战,requests模块,爬取安居客网二手房房源信息数据
前言
本文给大家分享的是如何通过 Python爬取安居客网二手房房源数据开发工具
Python版本: 3.8
相关模块:
requests模块
parsel模块环境搭建
安装Python并添加到环境变量,pip安装需要的相关模块即可。
文中完整源码,留言获取。思路分析
本文以爬虫安居客二手房源信息,讲解如何采集安居客二手房源数据
要爬取的部分如下图所示:
安居客-房源提取页面数据
浏览器中打开我们要爬取的页面
按F12进入开发者工具,查看我们想要的数据在哪里
这里我们需要房源页面数据就可以了
页面数据代码实现# 伪装 headers = { "cookie": "aQQ_ajkguid=B7A0A0B5-30EC-7A66-7500-D8055BFFE0FA; ctid=27; id58=CpQCJ2Lbhlm+lyRwdY5QAg==; _ga=GA1.2.2086942850.1658553946; wmda_new_uuid=1; wmda_uuid=009620ee2a2138d3bd861c92362a5d28; wmda_visited_projects=%3B6289197098934; 58tj_uuid=8fd994c2-35cc-405f-b671-2c1e51aa100c; als=0; ajk-appVersion=; sessid=8D76CC93-E1C8-4792-9703-F864FF755D63; xxzl_cid=2e5a66fa054e4134a15bc3f5b47ba3ab; xzuid=e60596c8-8985-4ab3-a5df-90a202b196a3; fzq_h=4c8d83ace17a19ee94e55d91124e7439_1666957662955_85c23dcb9b084efdbc4ac519c0276b68_2936029006; fzq_js_anjuke_ershoufang_pc=75684287c0be96cac08d04f4d6cc6d09_1666957664522_25; twe=2; xxzl_cid=2e5a66fa054e4134a15bc3f5b47ba3ab; xxzl_deviceid=OOpJsA5XrQMdJFfv71dg+l+he0O1OKPQgRAQcFPbeRAyhjZ4/7gS3Gj4DfiLjxfc; isp=true; obtain_by=2; new_session=1; init_refer=https%253A%252F%252Fcs.anjuke.com%252F; new_uv=3", "user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/106.0.0.0 Safari/537.36" } 1.发送请求 response = requests.get(url=url, headers=headers) 2.获取数据 html_data = response.text 3.解析数据 select = parsel.Selector(html_data) ps = select.css(".property-content") for p in ps: # .property-content-title-name 标题 标题 = is_null(p.css(".property-content-title-name::text").get()) # .property-content-info:nth-child(1) .property-content-info-text:nth-child(1) span 户型 户型s = p.css(".property-content-info:nth-child(1) .property-content-info-text:nth-child(1) span::text").getall() 户型 = " ".join(户型s) # .property-content-info:nth-child(1) .property-content-info-text:nth-child(2) 面积 面积 = is_null(p.css(".property-content-info:nth-child(1) .property-content-info-text:nth-child(2)::text").get()) # .property-content-info:nth-child(1) .property-content-info-text:nth-child(3) 朝向 朝向 = is_null(p.css(".property-content-info:nth-child(1) .property-content-info-text:nth-child(3)::text").get()) # .property-content-info:nth-child(1) .property-content-info-text:nth-child(4) 楼层 楼层 = is_null(p.css(".property-content-info:nth-child(1) .property-content-info-text:nth-child(4)::text").get()) # .property-content-info:nth-child(1) .property-content-info-text:nth-child(5) 年份 年份 = is_null(p.css(".property-content-info:nth-child(1) .property-content-info-text:nth-child(5)::text").get()) # .property-content-info:nth-child(2) .property-content-info-comm-name 小区名称 小区名称 = is_null(p.css(".property-content-info:nth-child(2) .property-content-info-comm-name::text").get()) # .property-content-info:nth-child(2) .property-content-info-comm-address 小区地址 小区地址 = is_null(p.css(".property-content-info:nth-child(2) .property-content-info-comm-address::text").get()) # .property-content-info:nth-child(3) span 小区标签 小区标签s = p.css(".property-content-info:nth-child(3) span::text").getall() 小区标签 = " ".join(小区标签s) # .property-price .property-price-total .property-price-total-num 总价 总价 = is_null(p.css(".property-price .property-price-total .property-price-total-num::text").get()) # .property-price .property-price-average 每平方米的价格 单价 = is_null(p.css(".property-price .property-price-average::text").get()) print(标题, 户型, 面积, 朝向, 楼层, 年份, 小区名称, 小区地址, 小区标签, 总价, 单价) 4.保存数据 with open("安居客.csv", mode="a", encoding="utf-8", newline="") as f: csv_writer = csv.writer(f) csv_writer.writerow([标题, 户型, 面积, 朝向, 楼层, 年份, 小区名称, 小区地址, 小区标签, 总价, 单价])
ps: 图片仅供参考 结果展示
效果展示
最后
为了感谢读者们,我想把我最近收藏的一些编程干货分享给大家,回馈每一个读者,希望能帮到你们。
里面有适合小白新手的全套资料给到大家~
快来和小编一起成长进步吧!
① 100+多本Python电子书(主流和经典的书籍应该都有了)
② Python标准库资料(最全中文版)
③ 爬虫项目源码(四五十个有趣且经典的练手项目及源码)
④ Python基础入门、爬虫、web开发、大数据分析方面的视频(适合小白学习)
⑤ Python学习路线图(告别不入流的学习)
素材
获.得源码教程 的方式
转/发/本文,私信:视频 ,
即可获取!
↓↓↓不会私信地看下图
↓↓↓
↑↑↑不会私信地看上图
↑↑↑
近千公里长的国家海岸一号风景道年内通车中工网讯(工人日报中工网记者赖书闻)近日,记者获悉,海南将围绕打造3条特色旅游环线,扎实推进生态旅游发展。3条特色旅游环线是环热带雨林国家公园旅游公路环岛旅游公路和西环普速铁路旅游
注资300亿美元!他们出手了美国多家银行向第一共和银行注资300亿美元。据美国媒体16日报道,包括高盛摩根士丹利摩根大通花旗银行美国银行富国银行等多家美国大型银行当天向第一共和银行注资300亿美元。当天稍早时
扩大开放的中国具有强大吸引力中国全国两会是世界观察中国发展之道感知中国开放之志的重要窗口。中国持续推进高水平对外开放,促进国内国际两个市场两种资源有效融合中国不断推进高水平对外开放将使全球受益中国倡导构建的开
泰国极品嫩模长发飘飘,完美身材挑战极限!泰国作为一个崇尚混血的国家,各种风情的美女层出不穷,尤其这还是一个热带国家,清凉的穿着总能让人大饱眼福,今天我们就来看一位泰国的极品嫩模!今天介绍的这位来自泰国的美女名叫d。don
一生挚爱电影,为电影而活,为电影而死电影人石挥一九五九年春,江苏省南汇县二灶红地区发现一具海漂的尸体,已经膨胀腐烂,无法辨认其身份。后来打捞上来,渔民就地掩埋。第二年公安部门调查此事,渔民才道出实情。然后到掩埋地挖出尸体,西装
敦煌出土墓碑,揭开玄武门之变真相,学者难怪李建成被轻易杀死谈到大唐盛世,上到老人下到学生,无不展现出自豪的神情,可对于李世民的玄武门之变,无论是当时还是现在,总会被一些人诟病,甚至后世讽刺李氏王朝一直父慈子孝兄友弟恭。等到敦煌出土了一座墓
你还怀疑的主流方向吗?抓准主线乘风破浪说到武后,世人皆知那位充满传奇色彩唯一的一位女皇帝今天我们不讲武后,要说的是武后的父亲武士彟因为如果没有当初武士彟的慧眼站队,就不可能有后来的武则天当隋末乱世,群雄
烽火平原第四章峥嵘岁月23二进运东23二进运东1941年1月27日,在清河县连庄,冀南区党委书记李箐玉和三地委负责人杨中一副书记等见面,杨中一向李箐玉书记汇报了鲁西三地委的情况,并指责自己作为地委领导一员没有做好统
文强被特赦后的晚年生活,为何要拒绝每个月1400元的补偿金1975年,秦城监狱里面最后一批战俘被特赦,其中就有文强。文强的发妻周敦婉于1940年,死于手术台上,走出秦城后的文强,已经是68岁的老人了。1978年,文强和张瑞馥结成伉俪,其妻
玄武门之变后,李渊和李世民之间关系如何?唐朝武德九年(西元626年)夏季,李世民发动玄武门之变唐朝当时的太子李建成和齐王李元吉惨遭杀戮,唐朝的皇位传承世系发生了巨大变化。玄武门之变不久,唐朝皇帝李渊便宣布册立李世民为新的
又一名省部级老虎落马,曾经造过飞机,63岁被查,晚节不保贪官不除,难以立党污吏不除,难以治国腐败不除,难以安民。腐败分子就是祸国殃民的败类,我们国家对腐败分子都是零容忍,不论什么人,不论其职务多高,只要触犯了党纪国法,都要受到严肃追究和