Python 多进程异常处理的方法,你会吗
生活随笔
收集整理的這篇文章主要介紹了
Python 多进程异常处理的方法,你会吗
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
最近項目用到了Python作為網站的前端,使用的框架是基于線程池的Cherrypy,但是前端依然有一些比較‘重’的模塊。由于python的多線程無法很好的利用多核的性質,所以覺得把這些比較‘重’的功能用多進程進行管理。
Python 多進程編程
Python的多進程編程主要依賴multiprocessing庫,父進程的參數直接拷貝給子進程,因為Linux進程的copy on write特性,如果子進程不對參數進行修改就不會進行拷貝工作,也就是說父進程,子進程共享參數。而參數的返回則通過管道pipe進行。
下面是簡單的代碼例子:
import multiprocessingdef heavy_load_func(N, child_conn):'''function do heavy computing'''try:#do_some_heavy_computingchild_conn.send(return_value) #return somethingexcept Exception,e:child_conn.send(e) #將異常通過管道送出if __name__=='__main__''''main function'''try:parent_conn, child_conn = multiprocessing.Pipe()hild_process = multiprocessing.Process(target=heavy_load_func, args=(10, child_conn))child_process.start()child_process.join()child_return = parent_conn.recv()print child_returnexcept Exception,e:logger.error(e)多進程異常處理
但是如果heavy_load_func在執行過程中拋出異常就比較麻煩了,當然我們可以通過Pipe將捕捉到的異常信息傳到父進程,但是這樣父進程只是得到了一條返回值,并沒有觸發父進程的異常機制,如何把子進程的異常拋出給父進程進行處理呢?
本文提供一種方法,通過引入一個代理類Process對multiprocessing.Process進行重載,Process中重寫multiprocessing.Process的run方法,并且加入exception屬性,通過exception來判斷子進程是否觸發異常。
class Process(multiprocessing.Process):def __init__(self, *args, **kwargs):multiprocessing.Process.__init__(self, *args, **kwargs)self._pconn, self._cconn = multiprocessing.Pipe()self._exception = Nonedef run(self):try:multiprocessing.Process.run(self)self._cconn.send(None)except Exception as e:tb = traceback.format_exc()self._cconn.send((e, tb))@propertydef exception(self):if self._pconn.poll():self._exception = self._pconn.recv()return self._exception這樣我們的代碼就可以寫成這樣:
''' 學習中遇到問題沒人解答?小編創建了一個Python學習交流QQ群:725638078 尋找有志同道合的小伙伴,互幫互助,群里還有不錯的視頻學習教程和PDF電子書! ''' if __name__=='__main__':'''main function'''try:parent_conn, child_conn = multiprocessing.Pipe()#child_process = multiprocessing.Process(target=heavy_load_func, args=(10, child_conn))child_process = Process(target=heavy_load_func, args=(10, child_conn))child_process.start()child_process.join()if child_process.exception:error, traceback = child_process.exceptionprint errorchild_process.terminate()else:child_return = parent_conn.recv() #如果不子進程不拋出異常就接受值,否則主進程退出,避免主進程被管道阻塞!print child_returnexcept Exception, e:print e總結
本文主要介紹了一種Python多進程異常處理的方法,通過引入代理類來進行異常的轉發。文章介紹的比較簡單,其實里面有很多東西。
總結
以上是生活随笔為你收集整理的Python 多进程异常处理的方法,你会吗的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: python中5个json库的速度对比,
- 下一篇: Django中提供了6种缓存方式,你会几