代码演示
方式一
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
|
from multiprocessing import Pool
def deal_task(n):
n -= 1
return n
if __name__ == '__main__':
n = 10
p = Pool(4)
for i in range(4):
res = p.apply(deal_task, args=(n,))
#调用apply是一个串行的效果,任务会被进程一个一个的处理,直接得到结果
#前提是执行的任务必须要有返回值
print(res)
|
方式二
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
|
from multiprocessing import Pool
def deal_task(n):
n - = 1
return n
if __name__ = = '__main__' :
n = 10
p = Pool( 4 )
obj_l = []
for i in range ( 4 ):
#调用apply_async会返回一个对象,主进程会不断扔任务给线程池,让子线程处理
obj = p.apply_async(deal_task, args = (n,))
obj_l.append(obj)
#首先函数要有返回值
#调用close目的是防止join期间会有别的任务被添加到任务列表中
#不调用close会报错
p.close()
p.join()
#join是要让子进程全部处理完之后得到结果统一处理,还有一个非常重要的原因是进程池依附于主进程,主进程结束,进程池消失。进程池的任务没有被处理程序就结束了。
for obj in obj_l:
print (obj.get())
|
方式三
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
|
from multiprocessing import Pool
import requests
def get_page(url):
ret = requests.get(url).text
return { 'url' : url, 'ret' : ret}
def parse_page(ret):
with open ( 'ab.txt' , 'a' ) as f:
f.write( '%s - %s\n' % (ret[ 'url' ], len (ret[ 'ret' ])))
if __name__ = = '__main__' :
urls = [
'https://www.baidu.com' ,
'http://www.openstack.org' ,
'https://www.python.org' ,
'https://help.github.com/' ,
'http://www.sina.com.cn/'
]
p = Pool()
for url in urls:
#使用回调函数,当get_page下载完后,主线程调用parse_page自动处理get_page下载的结果,节省了parse_page的时间,该场景用于一个函数为耗时操作并且产生数据,另一个函数是非耗时操作,这样就节省了非耗时操作函数的时间
p.apply_async(get_page, args = (url,), callback = parse_page)
p.close()
p.join()
print ( '主' )
|
join是要让子进程全部处理完之后得到结果统一处理,还有一个非常重要的原因是进程池依附于主进程,主进程结束,进程池消失。进程池的任务没有被处理程序就结束了。
以上这篇对Python3之进程池与回调函数的实例详解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持服务器之家。
原文链接:https://blog.csdn.net/qq_33733970/article/details/77650113