python爬虫批量获取代理ip的实例代码-创新互联
实例如下所示:
创新互联建站成立十年来,这条路我们正越走越好,积累了技术与客户资源,形成了良好的口碑。为客户提供成都做网站、网站建设、外贸营销网站建设、网站策划、网页设计、主机域名、网络营销、VI设计、网站改版、漏洞修补等服务。网站是否美观、功能强大、用户体验好、性价比高、打开快等等,这些对于网站建设都非常重要,创新互联建站通过对建站技术性的掌握、对创意设计的研究为客户提供一站式互联网解决方案,携手广大客户,共同发展进步。import urllib.request import os, re,sys,time try: from StringIO import StringIO except ImportError: from io import StringIO loca = re.compile(r"""ion":"\D+", "ti""") #伪装成浏览器 header = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/44.0.2403.157 Safari/537.36'} class Getip(): def __init__(self,diqu): self.ur ={"xicidaili国内普通代理 --1线":"http://www.xicidaili.com/nt/", "ip84国内普通代理 --2线":'http://www.ip84.com/dlpn-http/', 'xicidaili国内高匿名代理 --1线':'http://www.xicidaili.com/nn/', 'ip84国内高匿名代理 --2线':'http://www.ip84.com/dlgn-http/', 'xicidaili国外高匿名代理 --1线':'http://www.xicidaili.com/wn/', 'ip84国外高匿名代理 --2线':'http://www.ip84.com/gwgn-http/', 'xicidaili国外普通代理 --1线':'http://www.xicidaili.com/wt/', 'haodailiip国内混合代理 --3线':'http://www.haodailiip.com/guonei/', 'haodailiip国外混合代理 --3线':'http://www.haodailiip.com/guoji/', } self.diqu = diqu def urlopen(self,url): global header try: req = urllib.request.Request(url, None, header) res=urllib.request.urlopen(req) return res except: pass def getip(self,ren): '''url = "http://proxy.ipcn.org/proxylist.html"#代理IP页面 ip_proxy_re = re.compile(r"""\d{1,3}\.\d{1,3}\.\d{1,3}\.\d{1,3}:\d{1,}""")# 直接匹配 xxx.xxx.xxx.xxx:xxxx''' url = self.ur[self.diqu]+str(ren) ip_proxy_re = re.compile(r'(\d{1,3}\.\d{1,3}\.\d{1,3}\.\d{1,3})\s*\s*\s*(\d{1,})\s* \s*<[^\u4E00-\u9FA5]+>([\u4E00-\u9FA5]*\s*[\u4E00-\u9FA5]*\s*[\u4E00-\u9FA5]*)\s*<') #################################通用正则匹配的 格式 是 (IP,端口,地区) 地区有可能包含换行和空格 try: data = self.urlopen(url).read().decode('utf-8') except: return None self.rel = [] ip = ip_proxy_re.findall(data) ##########返回的IP 就是 正则匹配的结果(IP,端口,地区) 地区有可能包含换行和空格 return ip if __name__ == '__main__': g=Getip("xicidaili国内普通代理 --1线") import pprint for x in range(4): ips = g.getip(1) print('获取到ip地址一共:',len(ips)) pprint.pprint(ips)
文章名称:python爬虫批量获取代理ip的实例代码-创新互联
本文来源:http://scyanting.com/article/dpdhoc.html