python 进程池不足_python 进程池pool简单使用
平常會(huì)經(jīng)常用到多進(jìn)程,可以用進(jìn)程池pool來(lái)進(jìn)行自動(dòng)控制進(jìn)程,下面介紹一下pool的簡(jiǎn)單使用。
需要主動(dòng)是,在Windows上要想使用進(jìn)程模塊,就必須把有關(guān)進(jìn)程的代碼寫if __name__ == ‘__main__’ :語(yǔ)句的下面,才能正常使用Windows下的進(jìn)程模塊。Unix/Linux下則不需要。
Pool類
Pool類可以提供指定數(shù)量的進(jìn)程供用戶調(diào)用,當(dāng)有新的請(qǐng)求提交到Pool中時(shí),如果池還沒(méi)有滿,就會(huì)創(chuàng)建一個(gè)新的進(jìn)程來(lái)執(zhí)行請(qǐng)求。如果池滿,請(qǐng)求就會(huì)告知先等待,直到池中有進(jìn)程結(jié)束,
才會(huì)創(chuàng)建新的進(jìn)程來(lái)執(zhí)行這些請(qǐng)求。
下面介紹一下multiprocessing 模塊下的Pool類下的幾個(gè)方法:
1、apply()
函數(shù)原型:apply(func[, args=()[, kwds={}]])
該函數(shù)用于傳遞不定參數(shù),同python中的apply函數(shù)一致,主進(jìn)程會(huì)被阻塞直到函數(shù)執(zhí)行結(jié)束(不建議使用,并且3.x以后不在出現(xiàn))。
2、apply_async
函數(shù)原型:apply_async(func[, args=()[, kwds={}[, callback=None]]])
與apply用法一致,但它是非阻塞的且支持結(jié)果返回后進(jìn)行回調(diào)。
3、map()
函數(shù)原型:map(func, iterable[, chunksize=None])
Pool類中的map方法,與內(nèi)置的map函數(shù)用法行為基本一致,它會(huì)使進(jìn)程阻塞直到結(jié)果返回。
注意:雖然第二個(gè)參數(shù)是一個(gè)迭代器,但在實(shí)際使用中,必須在整個(gè)隊(duì)列都就緒后,程序才會(huì)運(yùn)行子進(jìn)程。
4、map_async()
函數(shù)原型:map_async(func, iterable[, chunksize[, callback]])
與map用法一致,但是它是非阻塞的。其有關(guān)事項(xiàng)見apply_async。
5、close()
關(guān)閉進(jìn)程池(pool),使其不在接受新的任務(wù)。
6、terminal()
結(jié)束工作進(jìn)程,不在處理未處理的任務(wù)。
7、join()
主進(jìn)程阻塞等待子進(jìn)程的退出, join方法要在close或terminate之后使用。
簡(jiǎn)單實(shí)現(xiàn)代碼
importmultiprocessingimporttimedeffunc(msg):print("msg:", msg)
time.sleep(3)print("end,", msg)if __name__ == "__main__":#這里設(shè)置允許同時(shí)運(yùn)行的的進(jìn)程數(shù)量要考慮機(jī)器cpu的數(shù)量,進(jìn)程的數(shù)量最好別小于cpu的數(shù)量,
#因?yàn)榧词勾笥赾pu的數(shù)量,增加了任務(wù)調(diào)度的時(shí)間,效率反而不能有效提高
pool = multiprocessing.Pool(processes = 3)
item_list= ['processes1' ,'processes2' ,'processes3' ,'processes4' ,'processes5',]
count=len(item_list)for item initem_list:
msg= "hello %s" %item#維持執(zhí)行的進(jìn)程總數(shù)為processes,當(dāng)一個(gè)進(jìn)程執(zhí)行完畢后會(huì)添加新的進(jìn)程進(jìn)去
pool.apply_async(func, (msg,))
pool.close()
pool.join()#調(diào)用join之前,先調(diào)用close函數(shù),否則會(huì)出錯(cuò)。執(zhí)行完close后不會(huì)有新的進(jìn)程加入到pool,join函數(shù)等待所有子進(jìn)程結(jié)束
總結(jié)
以上是生活随笔為你收集整理的python 进程池不足_python 进程池pool简单使用的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 100个Web开发资源(收藏)
- 下一篇: doc,excel,ppt转存pdf并预