怎么用python爬虫分析动态网页的商品信息-创新互联
这篇文章主要介绍怎么用python爬虫分析动态网页的商品信息,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!
成都创新互联专注于企业网络营销推广、网站重做改版、化州网站定制设计、自适应品牌网站建设、H5响应式网站、商城网站建设、集团公司官网建设、成都外贸网站建设、高端网站制作、响应式网页设计等建站业务,价格优惠性价比高,为化州等各大城市提供网站开发制作服务。先安装Puppeteer库,用到的也就只有这个库:
npm install puppeteer
链接网页也非常简单,只需要几行代码:
const puppeteer = require('puppeteer') //启动浏览器 const browers = await puppeteer.launch() //启动新页面 const page = await browers.newPage() //链接网址 await page.goto(url)
拿到了同类所有商品的标签信息,接下来开始分析信息。获取里面所有商品的名称,然后对照关键字是否存在,如果存在则将headless改为false弹出窗口提醒,如果不存在则在半小时后再次链接。Puppeteer提供了一个等待命令page.waitFor(),不仅可以按时间等待,也可以按某个元素的加载进度进行等待。
const goods = page.$$eval('#auctionRecommend > div.mc > ul > li', el => { //错误和关键字不存在都会返回false try { for (let i = 0; i < el.length; i++) { let n = el[i].querySelector('div.p-name').textContent if(n.includes('妙控板')){ return true } else { return false } } } catch (error) { return false } }) if(!bool){ return console.log('网页已打开,不再监控') } //根据goods里面的回调函数返回ture或false来决定是否开启浏览器界面 await goods.then(async (b) => { if(b){ console.log('有货了!') await page.waitFor(2000) await browers.close() return requestUrl(false) } else { console.log('还没货') console.log('三十分钟后再尝试') await page.waitFor(1800000) await browers.close() return requestUrl(true) } })
以上是“怎么用python爬虫分析动态网页的商品信息”这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注创新互联行业资讯频道!
文章标题:怎么用python爬虫分析动态网页的商品信息-创新互联
URL地址:http://scyanting.com/article/cccoop.html