下午不知道吃什么?用Python爬取美团外卖评论帮你选餐!

下午不知道吃什么?用Python爬取美团外卖评论帮你选餐!,第1张

概述一、介绍朋友暑假实践需要美团外卖APP评论这一份数据,一开始我想,这不就抓取网页源代码再从中提取数据就可以了吗,结果发现事实并非如此,情况和之前崔大讲过的分析Ajax来抓取今日头条街拍美图类似,都是通过异步

一、介绍

朋友暑假实践需要美团外卖APP评论这一份数据,一开始我想,这不就抓取网页源代码再从中提取数据就可以了吗,结果发现事实并非如此,情况和之前崔大讲过的分析AJAX来抓取今日头条街拍美图类似,都是通过异步加载的方式传输数据,不同的是这次的是通过Js传输,其他的基本思路基本一致,希望那些数据能帮到她吧

二、流程

目标站点分析 用浏览器打开美团外卖APP评论,F12 1.首先我们要找到我们想要的评论数据,在第一次“失败”的直接抓取网页源代码后,我们发现它是通过AJAX加载的,我们点击Js选项,可以发现Js项目里面的返回结果有我们想要的数据,勾选Preserve log,当点击查看更多评论时,后台(Js里)会出现新的AJAX请求,发现还有参数start和的变化,其他请求参数不变,start的参数变化是以10递增的,的参数变化可就让人摸不着头脑(这个时候我们也不要方,因为大多情况下没有规律的参数都是没用的)

 

2.经过我们对http://comment.mobilem.360.cn/comment/getComments?callback=jquery17203361018749253357_1503362214558&baike=%E7%BE%8E%E5%9B%A2%E5%A4%96%E5%8D%96+AndroID_com.sankuai.meituan.takeoutnew&c=message&a=getmessage&start=0&count=10&_=1503362215647进行分析后发现它的标准式为‘http://comment.mobilem.360.cn/comment/getComments?&baike=%E7%BE%8E%E5%9B%A2%E5%A4%96%E5%8D%96+AndroID_com.sankuai.meituan.takeoutnew&start=’+str(i*10),i每次增加1,就包含新的十条评论的内容,所以我们通过改变i的值就可以拿到不同的数据

进群:548377875   即可获取数十套pdf以及大量的学习教程哦!

分析url的网页源代码,在源代码里有我们想要的评论数据,我们可以用正则(在这里正则还是比较好用的)把我们想要的信息弄下来 开启循环,批量抓取 保存数据至文本和数据库

三、代码

四、最后得到的数据视图和文件

五、总结

1.程序报错很正常,不要一报错就问别人,先自己思考、百度

2.在数据类型处理方面的知识还要加强

3.感谢皮皮哥、感谢姚文峰前辈!

总结

以上是内存溢出为你收集整理的下午不知道吃什么?用Python爬取美团外卖评论帮你选餐!全部内容,希望文章能够帮你解决下午不知道吃什么?用Python爬取美团外卖评论帮你选餐!所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错,欢迎将内存溢出网站推荐给程序员好友。

欢迎分享,转载请注明来源:内存溢出

原文地址: https://www.outofmemory.cn/langs/1208518.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-06-04
下一篇 2022-06-04

发表评论

登录后才能评论

评论列表(0条)

保存