使python写的函数重复运行_Python使用多进程运行含有任意个参数的函数

更新时间:2023-07-06 19:33:28 阅读: 评论:0

使python写的函数重复运⾏_Python使⽤多进程运⾏含有任意
个参数的函数
1. 问题引出
新东方英语口语培训许多时候,我们对程序的速度都是有要求的,速度⾃然是越快越好。对于Python的话,⼀般都是使⽤multiprocessing这个库来实现程序的多进程化,例如:
我们有⼀个函数my_print,它的作⽤是打印我们的输⼊:
def my_print(x):
print(x)
但是我们嫌它的速度太慢了,因此我们要将这个程序多进程化:
from multiprocessing import Pool
def my_print(x):
knockoffprint(x)
if __name__ == "__main__":
x = [1, 2, 3, 4, 5]
pool = Pool()
pool.map(my_print, x)
pool.clo()
pool.join()
很好,现在速度与之前的单进程相⽐提升⾮常的快,但是问题来了,如果我们的参数不只有⼀个x,⽽是有多个,这样能⾏吗?⽐如现在my_print新增⼀个参数y:
def my_print(x, y):smr
print(x + y)
查看pool.map的函数说明:
def map(lf, func, iterable, chunksize=None):
'''
Apply `func` to each element in `iterable`, collecting the results
in a list that is returned.
'''
return lf._map_async(func, iterable, mapstar, chunksize).get()
发现函数的参数是作为iter传进去的,但是我们现在有两个参数,⾃然想到使⽤zip将参数进⾏打包:
if __name__ == "__main__":
x = [1, 2, 3, 4, 5]
y = [1, 1, 1, 1, 1]
zip_args = list(zip(x, y))
蝎子乐队经典歌曲pool.map(my_print, zip_args)
jo de la rosa>mariel hemingway
pool.clo()
pool.join()
可是执⾏后却发现,y参数并没有被传进去:
那么如何传⼊多个参数呢?这也就是本⽂的重点,接着往下看吧。
2. 解决⽅案
2.1 使⽤偏函数(partial)
偏函数有点像数学中的偏导数,可以让我们只关注其中的某⼀个变量⽽不考虑其他变量的影响。上⾯的例⼦中,Y始终等于1,那么我们在传⼊参数的时候,只需要考虑X的变化即可。
例如你有⼀个函数,该函数有两个参数a,b,a是不同路径的下的图⽚的路径,b是输出的路径。很明显,a是⼀直在变化的,但是因为我们要将所有图⽚保存在同⼀个⽂件夹下,那么b很可能⼀直都没变。
具体如下:
if __name__ == '__main__':# 多线程,多参数,partial版本
x = [1, 2, 3, 4, 5]
y = 1
新东方考研英语词汇partial_func = partial(my_print, y=y)
pool = Pool()
pool.map(partial_func, x)
pool.clo()
pool.join()
2.2 使⽤可变参数
在Python函数中,函数可以定义可变参数。顾名思义,可变参数就是传⼊的参数个数是可变的,可以是1个、2个到任意个,这就直接给我们提供了⼀种思路。具体如下:
def multi_wrapper(args):
return my_print(*args)
郑州留学中介排名
def my_print(x, y):
print(x + y)
if __name__ == "__main__": # 多线程,多参数,可变参数版本
x = [1, 2, 3, 4, 5]
y = [1, 1, 1, 1, 1]
zip_args = list(zip(x, y))
pool = Pool()
捷克语翻译
pool.map(multi_wrapper, zip_args)
pool.clo()
2.3 使⽤pathos提供的多进程库
from pathos.multiprocessing import ProcessingPool as newPool
if __name__ == '__main__':# 多线程,多参数,pathos版本
x = [1, 2, 3, 4, 5]
y = [1, 1, 1, 1, 1]
pool = newPool()
pool.map(my_print, x, y)
pool.clo()
pool.join()
在该库的map函数下,可以看到,它允许多参数输⼊,其实也就是使⽤了可变参数:
def map(lf, f, *args, **kwds):
AbstractWorkerPool._AbstractWorkerPool__map(lf, f, *args, **kwds)
_pool = lf._rve()
return _pool.map(star(f), zip(*args)) # chunksize
2.4 使⽤starmap函数
if __name__ == '__main__': # 多线程,多参数,starmap版本
x = [1, 2, 3, 4, 5]
y = [1, 1, 1, 1, 1]
zip_args = list(zip(x, y))
aaa软件教育pool = Pool()
pool.starmap(my_print, zip_args)
pool.clo()
pool.join()
3. 总结
其实在以上4种实现⽅法中 ,第1种⽅法的限制较多,如果该函数的其它参数都在变化的话,那么它就不能很好地⼯作,⽽剩下的⽅法从体验上来讲是依次递增的,它们都可以接受任意多参数的输⼊,但是第2种需要额外写⼀个函数,扣分;第3种⽅法需要额外安装pathos包,扣分;⽽最后⼀种⽅法不需要任何额外不择就可以完成,所以,推荐⼤家选择第4种⽅法!
以上这篇Python使⽤多进程运⾏含有任意个参数的函数就是⼩编分享给⼤家的全部内容了,希望能给⼤家⼀个参考,也希望⼤家多多⽀持脚本之家。

本文发布于:2023-07-06 19:33:28,感谢您对本站的认可!

本文链接:https://www.wtabcd.cn/fanwen/fan/78/1082317.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:参数   函数   进程   可变   任意   考虑
相关文章
留言与评论(共有 0 条评论)
   
验证码:
推荐文章
排行榜
Copyright ©2019-2022 Comsenz Inc.Powered by © 专利检索| 网站地图