python支持多线程的爬虫实例-创新互联
python是支持多线程的, 主要是通过thread和threading这两个模块来实现的,本文主要给大家分享python实现多线程网页爬虫
创新互联主营抚顺县网站建设的网络公司,主营网站建设方案,成都APP应用开发,抚顺县h5微信小程序开发搭建,抚顺县网站营销推广欢迎抚顺县等地区企业咨询一般来说,使用线程有两种模式, 一种是创建线程要执行的函数, 把这个函数传递进Thread对象里,让它来执行. 另一种是直接从Thread继承,创建一个新的class,把线程执行的代码放到这个新的class里。
实现多线程网页爬虫,采用了多线程和锁机制,实现了广度优先算法的网页爬虫。
先给大家简单介绍下我的实现思路:
对于一个网络爬虫,如果要按广度遍历的方式下载,它是这样的:
1.从给定的入口网址把第一个网页下载下来
2.从第一个网页中提取出所有新的网页地址,放入下载列表中
3.按下载列表中的地址,下载所有新的网页
4.从所有新的网页中找出没有下载过的网页地址,更新下载列表
5.重复3、4两步,直到更新后的下载列表为空表时停止
python代码如下:
#!/usr/bin/env python #coding=utf-8 import threading import urllib import re import time g_mutex=threading.Condition() g_pages=[] #从中解析所有url链接 g_queueURL=[] #等待爬取的url链接列表 g_existURL=[] #已经爬取过的url链接列表 g_failedURL=[] #下载失败的url链接列表 g_totalcount=0 #下载过的页面数 class Crawler: def __init__(self,crawlername,url,threadnum): self.crawlername=crawlername self.url=url self.threadnum=threadnum self.threadpool=[] self.logfile=file("log.txt",'w') def craw(self): global g_queueURL g_queueURL.append(url) depth=0 print self.crawlername+" 启动..." while(len(g_queueURL)!=0): depth+=1 print 'Searching depth ',depth,'...\n\n' self.logfile.write("URL:"+g_queueURL[0]+"........") self.downloadAll() self.updateQueueURL() content='\n>>>Depth '+str(depth)+':\n' self.logfile.write(content) i=0 while i'+g_queueURL[i]+'\n' self.logfile.write(content) i+=1 def downloadAll(self): global g_queueURL global g_totalcount i=0 while i 另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。
本文题目:python支持多线程的爬虫实例-创新互联
链接地址:http://scyanting.com/article/hopds.html