python多线程加锁异步处理装饰器
2019獨角獸企業(yè)重金招聘Python工程師標準>>>
前言:
????????雖談python多線程帶有全局鎖PIL,似乎對性能提升沒什么意義,一般考慮多進程或者協程,但PIL沒有被去掉還是應該有它的用意的,一來不用考慮線程安全問題,在者處理小事務,多線程還是有一定程序上的便利性的,以下將簡單描述一下應用業(yè)務上的多線程技術。
問題描述:
1.對于web請求,需要某些api需要做異步處理,例如:對于一個web請求,數據校驗通過了,然后進行保存,對于用戶來說,需要得到一個快速的響應才是很好的體驗,檢驗成功的數據,也沒必要讓用戶作無謂的保存等待。
2.對于保存的數據,需要異常的拋出邏輯異常讓上層捕捉。
3.對于異步處理,需要加入隊列(加鎖),防止數據保存混亂。
4.開發(fā)使用需要簡單,只需要加入裝飾器即可。
5.被裝飾的函數,有獨立的鎖,互不影響浪費時間。
見代碼:
# encoding:utf-8 # usr/bin/python import time import hashlib import pickle import threading from functools import wrapslock_dict = {}class MyThread(threading.Thread):def __init__(self, func, args=None, kwargs=None):super(MyThread, self).__init__()self.func = funcself.args = argsself.kwargs = kwargsself.key = hashlib.sha1(pickle.dumps((self.func.func_name,))).hexdigest()self.result = None@propertydef lock(self):lock = lock_dict.get(self.key)if not lock:lock = threading.RLock()lock_dict[self.key] = lockreturn lockdef run(self):""""重寫start方法,加鎖,邏輯處理異常拋出異常,這里可以拓展結果返回"""try:if self.lock.acquire():self.result = self.func(*self.args)except:raisefinally:self.lock.release()def get_result(self):try:return self.result # 獲取時候需要t.join(), 不然主線程比子線程跑的快,會拿不到結果except:raisedef thread_function(function):"""多線程路由函數獨立鎖(函數名作為唯一識別,保證函數線程安全)"""@wraps(function)def run(*args, **kwargs):try:t = MyThread(function, args=args, kwargs=kwargs)t.start()except:raisereturn rundef thread_lock(function):"""多線程路由函數獨立鎖(函數名作為唯一識別,保證函數線程安全)"""@wraps(function)def run(*args, **kwargs):try:key = hashlib.sha1(pickle.dumps((function.func_name,))).hexdigest()lock = lock_dict.get(key)if not lock:lock = threading.RLock()lock_dict[key] = lockif lock.acquire():function(*args, **kwargs)except:raisefinally:lock.release()return runa = 0@thread_function def test(j, k=1):global atime.sleep(5)a += 1print "a{},j{},k{}".format(a, j, k)b = 0@thread_lock def test2(j, k=1):global btime.sleep(5)b += 1print "b{},j{},k{}".format(b, j, k)def run_1():for ca in range(10):print "a"test(1, 2)def run2():for ca in range(10):print "b"t = threading.Thread(target=test2, args=(1,), kwargs={"k": 2}) # 異步處理數據避免阻塞t.start()if __name__ == "__main__":run_1()run2()輸出:
a
a
a
a
a
a
a
a
a
a
b
b
b
b
b
b
b
b
b
b
a1,j1,k2
b1,j1,k2
a2,j1,k2
b2,j1,k2
a3,j1,k2
b3,j1,k2
a4,j1,k2
b4,j1,k2
a5,j1,k2
b5,j1,k2
a6,j1,k2
b6,j1,k2
a7,j1,k2
b7,j1,k2
a8,j1,k2
b8,j1,k2
a9,j1,k2
b9,j1,k2
a10,j1,k2
b10,j1,k2
?
轉載于:https://my.oschina.net/yves175/blog/1579727
《新程序員》:云原生和全面數字化實踐50位技術專家共同創(chuàng)作,文字、視頻、音頻交互閱讀總結
以上是生活随笔為你收集整理的python多线程加锁异步处理装饰器的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Angular 4 辅助路由
- 下一篇: 【Python】从文件中读取数据