如何在Python3中使用进程池和回调函数-创新互联
这篇文章给大家介绍如何在Python3中使用进程池和回调函数,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。
石景山ssl适用于网站、小程序/APP、API接口等需要进行数据传输应用场景,ssl证书未来市场广阔!成为创新互联建站的ssl证书销售渠道,可以享受市场价格4-6折优惠!如果有意向欢迎电话联系或者加微信:18980820575(备注:SSL证书合作)期待与您的合作!方式一
from multiprocessing import Pool def deal_task(n): n -= 1 return n if __name__ == '__main__': n = 10 p = Pool(4) for i in range(4): res = p.apply(deal_task, args=(n,)) #调用apply是一个串行的效果,任务会被进程一个一个的处理,直接得到结果 #前提是执行的任务必须要有返回值 print(res)
方式二
from multiprocessing import Pool def deal_task(n): n -= 1 return n if __name__ == '__main__': n = 10 p = Pool(4) obj_l = [] for i in range(4): #调用apply_async会返回一个对象,主进程会不断扔任务给线程池,让子线程处理 obj = p.apply_async(deal_task, args=(n,)) obj_l.append(obj) #首先函数要有返回值 #调用close目的是防止join期间会有别的任务被添加到任务列表中 #不调用close会报错 p.close() p.join() #join是要让子进程全部处理完之后得到结果统一处理,还有一个非常重要的原因是进程池依附于主进程,主进程结束,进程池消失。进程池的任务没有被处理程序就结束了。 for obj in obj_l: print(obj.get())
方式三
from multiprocessing import Pool import requests def get_page(url): ret = requests.get(url).text return {'url': url, 'ret': ret} def parse_page(ret): with open('ab.txt', 'a') as f: f.write('%s - %s\n' % (ret['url'], len(ret['ret']))) if __name__ == '__main__': urls = [ 'https://www.baidu.com', 'http://www.openstack.org', 'https://www.python.org', 'https://help.github.com/', 'http://www.sina.com.cn/' ] p = Pool() for url in urls: #使用回调函数,当get_page下载完后,主线程调用parse_page自动处理get_page下载的结果,节省了parse_page的时间,该场景用于一个函数为耗时操作并且产生数据,另一个函数是非耗时操作,这样就节省了非耗时操作函数的时间 p.apply_async(get_page, args=(url,), callback=parse_page) p.close() p.join() print('主')
join是要让子进程全部处理完之后得到结果统一处理,还有一个非常重要的原因是进程池依附于主进程,主进程结束,进程池消失。进程池的任务没有被处理程序就结束了。
关于如何在Python3中使用进程池和回调函数就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。
标题名称:如何在Python3中使用进程池和回调函数-创新互联
转载注明:http://scyanting.com/article/csoeep.html