python异步asy_Python 异步编程之asyncio【转载】
一、協程的認識
協程(Coroutine),也可以被稱為微線程,是一種用戶態內的上下文切換技術。
簡而言之,其實就是通過一個線程實現代碼塊相互切換執行。例如:deffunc1():print(1)
...print(2)deffunc2():print(3)
...print(4)
func1()
func2()
上面代碼可以看出來,是串行的,如果有一個函數阻塞,則其它函要等待,導致時間浪費,這個就是協程存在的原因。
二、操作協程的模塊有哪些呢?
在Python中有多種方式可以實現協程,例如:
1、greenlet,是一個第三方模塊,用于實現協程代碼(Gevent協程就是基于greenlet實現)2、yield,生成器,借助生成器的特點也可以實現協程代碼。
3、asyncio,在Python3.4中引入的模塊用于編寫協程代碼。
4、async& awiat,在Python3.5中引入的兩個關鍵字,結合asyncio模塊可以更方便的編寫協程代碼。
1、greenlet示例
from greenlet importgreenletdeffunc1():print(1) #第1步:輸出 1
gr2.switch() #第3步:切換到 func2 函數
print(2) #第6步:輸出 2
gr2.switch() #第7步:切換到 func2 函數,從上一次執行的位置繼續向后執行
deffunc2():print(3) #第4步:輸出 3
gr1.switch() #第5步:切換到 func1 函數,從上一次執行的位置繼續向后執行
print(4) #第8步:輸出 4
if __name__ == '__main__':
gr1=greenlet(func1)
gr2=greenlet(func2)
gr1.switch()#第1步:去執行 func1 函數
#輸出結果
#1
#3
#2
#4
注意:switch中也可以傳遞參數用于在切換執行時相互傳遞值。
greenlet示例
2、yield示例
deffunc1():yield 1
yield fromfunc2()yield 2
deffunc2():yield 3
yield 4
if __name__ == '__main__':
f1=func1()for item inf1:print(item)#輸出結果
#1
#3
#4
#2
注意:yield form關鍵字是在Python3.3中引入的
yield示例
3、asyncio示例
importasyncio
@asyncio.coroutinedeffunc1():print(1)yield from asyncio.sleep(2) #遇到IO耗時操作,自動化切換到tasks中的其他任務
print(2)
@asyncio.coroutinedeffunc2():print(3)yield from asyncio.sleep(2) #遇到IO耗時操作,自動化切換到tasks中的其他任務
print(4)if __name__ == '__main__':
tasks=[
asyncio.ensure_future(func1()),
asyncio.ensure_future(func2())
]
loop=asyncio.get_event_loop()
loop.run_until_complete(asyncio.wait(tasks))
注意:
基于asyncio模塊實現的協程比之前的要更厲害,因為他的內部還集成了遇到IO耗時操作自動切花的功能。
在Python3.4之前官方未提供協程的類庫,一般大家都是使用greenlet等其他來實現。在Python3.4發布后官方正式支持協程,即:asyncio模塊。
asyncio示例
4、async & await示例
importasyncio
asyncdeffunc1():print(1)
await asyncio.sleep(2)print(2)
asyncdeffunc2():print(3)
await asyncio.sleep(2)print(4)if __name__ == '__main__':
tasks=[
asyncio.ensure_future(func1()),
asyncio.ensure_future(func2())
]
loop=asyncio.get_event_loop()
loop.run_until_complete(asyncio.wait(tasks))#輸出結果
#1
#3
#2
#4
注意:
async&awit 關鍵字在Python3.5版本中正式引入,基于他編寫的協程代碼其實就是 上一示例 的加強版,讓代碼可以更加簡便。
Python3.8之后 @asyncio.coroutine 裝飾器就會被移除,推薦使用async& awit 關鍵字實現協程代碼。
async & await示例
5、小結
關于協程有多種實現方式,目前主流使用是Python官方推薦的asyncio模塊和async&await關鍵字的方式,
例如:在tonado、sanic、fastapi、django3 中均已支持。
三、協程的意義
通過學習,我們已經了解到協程可以通過一個線程在多個上下文中進行來回切換執行。
但是,協程來回切換執行的意義何在呢?
(1)、計算型的操作,利用協程來回切換執行,沒有任何意義,來回切換并保存狀態 反倒會降低性能。
(2)、IO型的操作,利用協程在IO等待時間就去切換執行其他任務,當IO操作結束后再自動回調,那么就會大大節省資源并提供性能,
從而實現異步編程(不等待任務結束就可以去執行其他代碼)。
1、爬蟲案例
1.1、同步爬蟲案例
importrequestsdefdownload_image(url):print("開始下載:", url)#發送網絡請求,下載圖片
response =requests.get(url)print("下載完成")#圖片保存到本地文件
file_name = url.rsplit('_')[-1]
with open(file_name, mode='wb') as file_object:
file_object.write(response.content)if __name__ == '__main__':
url_list=['https://www3.autoimg.cn/newsdfs/g26/M02/35/A9/120x90_0_autohomecar__ChsEe12AXQ6AOOH_AAFocMs8nzU621.jpg','https://www2.autoimg.cn/newsdfs/g30/M01/3C/E2/120x90_0_autohomecar__ChcCSV2BBICAUntfAADjJFd6800429.jpg','https://www3.autoimg.cn/newsdfs/g26/M0B/3C/65/120x90_0_autohomecar__ChcCP12BFCmAIO83AAGq7vK0sGY193.jpg']for item inurl_list:
download_image(item)
注意:請提前安裝:pip3 install requests
同步爬蟲案例
1.2、異步爬蟲案例
importaiohttpimportasyncio
asyncdeffetch(session, url):print("發送請求:", url)
async with session.get(url, verify_ssl=False) as response:
content=await response.content.read()
file_name= url.rsplit('_')[-1]
with open(file_name, mode='wb') as file_object:
file_object.write(content)
asyncdefmain():
async with aiohttp.ClientSession() as session:
url_list=['https://www3.autoimg.cn/newsdfs/g26/M02/35/A9/120x90_0_autohomecar__ChsEe12AXQ6AOOH_AAFocMs8nzU621.jpg','https://www2.autoimg.cn/newsdfs/g30/M01/3C/E2/120x90_0_autohomecar__ChcCSV2BBICAUntfAADjJFd6800429.jpg','https://www3.autoimg.cn/newsdfs/g26/M0B/3C/65/120x90_0_autohomecar__ChcCP12BFCmAIO83AAGq7vK0sGY193.jpg']
tasks= [asyncio.create_task(fetch(session, url)) for url inurl_list]
await asyncio.wait(tasks)if __name__ == '__main__':
asyncio.run(main())
注意:請提前安裝:pip3 install aiohttp
異步爬蟲案例
1.3、同步編程和異常編程的對比
上述兩種的執行對比之后會發現,基于協程的異步編程 要比 同步編程的效率高了很多。因為:
同步編程,按照順序逐一排隊執行,如果圖片下載時間為2分鐘,那么全部執行完則需要6分鐘。
異步編程,幾乎同時發出了3個下載任務的請求(遇到IO請求自動切換去發送其他任務請求),如果圖片下載時間為2分鐘,那么全部執行完畢也大概需要2分鐘左右就可以了。
1.4、總結
協程一般應用在有IO操作的程序中,因為協程可以利用IO等待的時間去執行一些其他的代碼,從而提升代碼執行效率。
生活中不也是這樣的么,假設 你是一家制造汽車的老板,員工點擊設備的【開始】按鈕之后,在設備前需等待30分鐘,
然后點擊【結束】按鈕,此時作為老板的你一定希望這個員工在等待的那30分鐘的時間去做點其他的工作。
四、異步編程
基于async &await關鍵字的協程可以實現異步編程,這也是目前python異步相關的主流技術。
想要真正的了解Python中內置的異步編程,根據下文的順序一點點來看。
1、事件循環的概述
事件循環,可以把他當做是一個while循環,這個while循環在周期性的運行并執行一些任務,在特定條件下終止循環。在編寫程序時候可以通過如下代碼來獲取和創建事件循環。importasyncio
loop= asyncio.get_event_loop()
#偽代碼
任務列表 =[ 任務1, 任務2, 任務3,... ]whileTrue:
可執行的任務列表,已完成的任務列表= 去任務列表中檢查所有的任務,將'可執行'和'已完成'的任務返回for 就緒任務 in已準備就緒的任務列表:
執行已就緒的任務for 已完成的任務 in已完成的任務列表:
在任務列表中移除 已完成的任務
如果 任務列表 中的任務都已完成,則終止循環
偽代碼
2、基本應用的示例
程序中,如果想要執行協程函數的內部代碼,需要 事件循環 和 協程對象 配合才能實現,如:
2.1、方式一、手動創建事件循環
importasyncio
asyncdeffunc():print("協程內部代碼")if __name__ == '__main__':#調用協程函數,返回一個協程對象。
result =func()
loop= asyncio.get_event_loop() #創建一個事件循環
loop.run_until_complete(result) #將協程當做任務提交到事件循環的任務列表中,協程執行完成之后終止。
get_event_loop獲取事件循環
2.2、方式二、async.run創建 事件循環
importasyncio
asyncdeffunc():print("協程內部代碼")if __name__ == '__main__':#調用協程函數,返回一個協程對象。
result =func()#本質上方式一是一樣的,內部先 創建事件循環 然后執行 run_until_complete,一個簡便的寫法。
#asyncio.run 函數在 Python 3.7 中加入 asyncio 模塊,
asyncio.run(result)
async.run創建 事件循環
3、await
await是一個只能在協程函數中使用的關鍵字,用于遇到IO操作時掛起 當前協程(任務),當前協程(任務)掛起過程中 事件循環可以去執行其他的協程(任務),
當前協程IO處理完成時,可以再次切換回來執行await之后的代碼。代碼如下:
3.1、示例1、單任務等待IO再運行
importasyncio
asyncdeffunc():print("執行協程函數內部代碼")#遇到IO操作掛起當前協程(任務),等IO操作完成之后再繼續往下執行。
#當前協程掛起時,事件循環可以去執行其他協程(任務)。
response = await asyncio.sleep(2)print("IO請求結束,結果為:", response)
result=func()
asyncio.run(result)
示例1
3.2、示例2、遇到IO阻塞切至其它任務運行
importasyncio
asyncdefothers():print("start")
await asyncio.sleep(2)print('end')return '返回值'asyncdeffunc():print("執行協程函數內部代碼")#遇到IO操作掛起當前協程(任務),等IO操作完成之后再繼續往下執行。當前協程掛起時,事件循環可以去執行其他協程(任務)。
response =await others()print("IO請求結束,結果為:", response)
asyncio.run(func())
示例2
3.3、示例3、同一個協程函數可以調用多個協程函數
importasyncio
asyncdefothers():print("start")
await asyncio.sleep(2)print('end')return '返回值'asyncdeffunc():print("執行協程函數內部代碼")#遇到IO操作掛起當前協程(任務),等IO操作完成之后再繼續往下執行。當前協程掛起時,事件循環可以去執行其他協程(任務)。
response1 =await others()print("IO請求結束,結果為:", response1)
response2=await others()print("IO請求結束,結果為:", response2)
asyncio.run(func())
示例3
3.4、總結
上述的所有示例都只是創建了一個任務,即:事件循環的任務列表中只有一個任務,所以在IO等待時無法演示切換到其他任務效果。
在程序想要創建多個任務對象,需要使用Task對象來實現。
4、Task對象
官方文檔:
Tasks are used to schedule coroutines concurrently.
When a coroutineis wrapped into a Task with functions like asyncio.create_task() the coroutine isautomatically scheduled to run soon。
翻譯:
Tasks用于并發調度協程,通過asyncio.create_task(協程對象)的方式創建Task對象,這樣可以讓協程加入事件循環中等待被調度執行。
除了使用 asyncio.create_task() 函數以外,還可以用低層級的 loop.create_task() 或 ensure_future() 函數。不建議手動實例化 Task 對象。
本質上是將協程對象封裝成task對象,并將協程立即加入事件循環,同時追蹤協程的狀態。
注意:asyncio.create_task() 函數在 Python3.7 中被加入。在 Python 3.7 之前,可以改用低層級的 asyncio.ensure_future() 函數。
4.1、示例1、單個task單個task創建的示例
importasyncio
asyncdeffunc():print(1)
await asyncio.sleep(2)print(2)return "返回值"asyncdefmain():print("main開始")#創建協程,將協程封裝到一個Task對象中并立即添加到事件循環的任務列表中,等待事件循環去執行(默認是就緒狀態)。
task1 =asyncio.create_task(func())#創建協程,將協程封裝到一個Task對象中并立即添加到事件循環的任務列表中,等待事件循環去執行(默認是就緒狀態)。
task2 =asyncio.create_task(func())print("main結束")#當執行某協程遇到IO操作時,會自動化切換執行其他任務。
#此處的await是等待相對應的協程全都執行完畢并獲取結果
ret1 =await task1
ret2=await task2print(ret1, ret2)
asyncio.run(main())
示例1
4.2、示例2、將多個create_task任務放在列表中執行
importasyncio
asyncdeffunc():print(1)
await asyncio.sleep(2)print(2)return "返回值"asyncdefmain():print("main開始")#創建協程,將協程封裝到Task對象中并添加到事件循環的任務列表中,等待事件循環去執行(默認是就緒狀態)。
#在調用
task_list =[
asyncio.create_task(func()),
asyncio.create_task(func())
]print("main結束")#當執行某協程遇到IO操作時,會自動化切換執行其他任務。
#此處的await是等待所有協程執行完畢,并將所有協程的返回值保存到done
#如果設置了timeout值,則意味著此處最多等待的秒,完成的協程返回值寫入到done中,未完成則寫到pending中。
done, pending = await asyncio.wait(task_list, timeout=None)print(done, pending)
asyncio.run(main())
示例2
注意:asyncio.wait 源碼內部會對列表中的每個協程執行ensure_future從而封裝為Task對象,所以在和wait配合使用時task_list的值為[func(),func()] 也是可以的
4.3、示例3、將多個任務直接放在列表中執行
importasyncio
asyncdeffunc():print("執行協程函數內部代碼")#遇到IO操作掛起當前協程(任務),等IO操作完成之后再繼續往下執行。當前協程掛起時,事件循環可以去執行其他協程(任務)。
response = await asyncio.sleep(2)print("IO請求結束,結果為:", response)
coroutine_list=[func(), func()]#錯誤:coroutine_list = [ asyncio.create_task(func()), asyncio.create_task(func()) ]#此處不能直接 asyncio.create_task,因為將Task立即加入到事件循環的任務列表,#但此時事件循環還未創建,所以會報錯。#使用asyncio.wait將列表封裝為一個協程,并調用asyncio.run實現執行兩個協程#asyncio.wait內部會對列表中的每個協程執行ensure_future,封裝為Task對象。
done, pending = asyncio.run(asyncio.wait(coroutine_list))
示例3
5、asyncio.Future對象
官文描述:
A Futureis a special low-level awaitable object that represents an eventual result of an asynchronous operation.
翻譯:
asyncio中的Future對象是一個相對更偏向底層的可對象,通常我們不會直接用到這個對象,而是直接使用Task對象來完成任務的并和狀態的追蹤。( Task 是 Futrue的子類 )
Future為我們提供了異步編程中的 最終結果 的處理(Task類也具備狀態處理的功能)。
5.1、示例1、不跑任何任務運行Future
importasyncio
asyncdefmain():#獲取當前事件循環
loop =asyncio.get_running_loop()## 創建一個任務(Future對象),這個任務什么都不干。
fut =loop.create_future()#等待任務最終結果(Future對象),沒有結果則會一直等下去。
await fut
asyncio.run(main())
示例1
5.2、示例2、 給Future設置任務運行
importasyncio
asyncdefset_after(fut):
await asyncio.sleep(2)
fut.set_result("666")
asyncdefmain():#獲取當前事件循環
loop =asyncio.get_running_loop()#創建一個任務(Future對象),沒綁定任何行為,則這個任務永遠不知道什么時候結束。
fut =loop.create_future()#創建一個任務(Task對象),綁定了set_after函數,函數內部在2s之后,會給fut賦值。
#即手動設置future任務的最終結果,那么fut就可以結束了。
await loop.create_task(set_after(fut))#等待 Future對象獲取 最終結果,否則一直等下去
data =await futprint(data)
asyncio.run(main())
示例2
5.3、總結
Future對象本身函數進行綁定,所以想要讓事件循環獲取Future的結果,則需要手動設置。而Task對象繼承了Future對象,
其實就對Future進行擴展,他可以實現在對應綁定的函數執行完成之后,自動執行set_result,從而實現自動結束。
雖然,平時使用的是Task對象,但對于結果的處理本質是基于Future對象來實現的。
擴展:支持 await 對象語 法的對象課成為可等待對象,所以 協程對象、Task對象、Future對象 都可以被成為可等待對象。
6、futures.Future對象
在Python的concurrent.futures模塊中也有一個Future對象,這個對象是基于線程池和進程池實現異步操作時使用的對象。
importtimefrom concurrent.futures importFuturefrom concurrent.futures.thread importThreadPoolExecutorfrom concurrent.futures.process importProcessPoolExecutordeffunc(value):
time.sleep(1)print(value)
pool= ThreadPoolExecutor(max_workers=5)#或 pool = ProcessPoolExecutor(max_workers=5)
for i in range(10):
fut=pool.submit(func, i)print(fut)"""運行結果:
0
2
1
4
3
7
6
9
8
5"""
Future對象的示例
兩個Future對象是不同的,他們是為不同的應用場景而設計,例如:concurrent.futures.Future不支持await語法 等。
官方提示兩對象之間不同:
unlike asyncio Futures, concurrent.futures.Future instances cannot be awaited.
asyncio.Future.result()and asyncio.Future.exception() do notaccept the timeout argument.
asyncio.Future.result()and asyncio.Future.exception() raise an InvalidStateError exception when the Future is notdone.
Callbacks registered with asyncio.Future.add_done_callback() arenotcalled immediately. They are scheduled with loop.call_soon() instead.
asyncio Futureis not compatible with the concurrent.futures.wait() andconcurrent.futures.as_completed() functions.
在Python提供了一個將futures.Future 對象包裝成asyncio.Future對象的函數 asynic.wrap_future。
一般在程序開發中我們要么統一使用 asycio 的協程實現異步操作、要么都使用進程池和線程池實現異步操作。
但如果協程的異步和進程池/線程池的異步混搭時,那么就會用到此功能了。
6.1、利用asyncio/futures.ThreadPoolExecutor/futures.ProcessPoolExecutor 將非協程函數轉為Future對象,再給事件循環異步
importtimeimportasyncioimportconcurrent.futuresdeffunc1():#某個耗時操作
time.sleep(2)return "SB"asyncdefmain():
loop=asyncio.get_running_loop()#1. Run in the default loop's executor ( 默認ThreadPoolExecutor )
#第一步:內部會先調用 ThreadPoolExecutor 的 submit 方法去線程池中申請一個線程去執行func1函數,并返回一個concurrent.futures.Future對象
#第二步:調用asyncio.wrap_future將concurrent.futures.Future對象包裝為asycio.Future對象。
#因為concurrent.futures.Future對象不支持await語法,所以需要包裝為 asycio.Future對象 才能使用。
fut =loop.run_in_executor(None, func1)
result=await futprint('default thread pool', result)#2. Run in a custom thread pool:
#with concurrent.futures.ThreadPoolExecutor() as pool:
#result = await loop.run_in_executor(
#pool, func1)
#print('custom thread pool', result)
#3. Run in a custom process pool:
#with concurrent.futures.ProcessPoolExecutor() as pool:
#result = await loop.run_in_executor(
#pool, func1)
#print('custom process pool', result)
asyncio.run(main())
普通函數轉Future對象的三種方法示例
6.2、應用的示例,當遇到模塊不支持協程時的轉換示例
importasyncioimportrequests
asyncdefdownload_image(url):#發送網絡請求,下載圖片(遇到網絡下載圖片的IO請求,自動化切換到其他任務)
print("開始下載:", url)
loop=asyncio.get_event_loop()#requests模塊默認不支持異步操作,所以就使用線程池來配合實現了。
future =loop.run_in_executor(None, requests.get, url)
response=await futureprint('下載完成')#圖片保存到本地文件
file_name = url.rsplit('_')[-1]
with open(file_name, mode='wb') as file_object:
file_object.write(response.content)if __name__ == '__main__':
url_list=['https://www3.autoimg.cn/newsdfs/g26/M02/35/A9/120x90_0_autohomecar__ChsEe12AXQ6AOOH_AAFocMs8nzU621.jpg','https://www2.autoimg.cn/newsdfs/g30/M01/3C/E2/120x90_0_autohomecar__ChcCSV2BBICAUntfAADjJFd6800429.jpg','https://www3.autoimg.cn/newsdfs/g26/M0B/3C/65/120x90_0_autohomecar__ChcCP12BFCmAIO83AAGq7vK0sGY193.jpg']
tasks= [download_image(url) for url inurl_list]
loop=asyncio.get_event_loop()
loop.run_until_complete(asyncio.wait(tasks))
requests模塊轉為異步的運行示例
7、異步迭代器
7.1、什么是異步迭代器?
實現了 __aiter__() 和 __anext__() 方法的對象。__anext__ 必須返回一個 awaitable 對象。async for 會處理異步迭代器的 __anext__() 方法所返回的可等待對象,
直到其引發一個 StopAsyncIteration 異常。由 PEP 492 引入。
7.2、什么是異步可迭代對象?
可在 async for 語句中被使用的對象。必須通過它的 __aiter__() 方法返回一個
asynchronous iterator。由 PEP 492 引入。
importasyncioclassReader(object):"""自定義異步迭代器(同時也是異步可迭代對象)"""
def __init__(self):
self.count=0
asyncdefreadline(self):#await asyncio.sleep(1)
self.count += 1
if self.count == 100:returnNonereturnself.countdef __aiter__(self):returnself
asyncdef __anext__(self):
val=await self.readline()if val ==None:raiseStopAsyncIterationreturnval
asyncdeffunc():#創建異步可迭代對象
async_iter =Reader()#async for 必須要放在async def函數內,否則語法錯誤。
async for item inasync_iter:print(item)
asyncio.run(func())
注意:異步迭代器其實沒什么太大的作用,只是支持了async for語法而已。
異步迭代器的示例
7.3、異步上下文管理器
此種對象通過定義 __aenter__() 和 __aexit__() 方法來對 async with 語句中的環境進行控制。由 PEP 492 引入。
importasyncioclassAsyncContextManager:def __init__(self, conn):
self.conn=conn
asyncdefdo_something(self):#異步操作數據庫
return 666asyncdef __aenter__(self):#異步鏈接數據庫
self.conn = await asyncio.sleep(1)returnself
asyncdef __aexit__(self, exc_type, exc, tb):#異步關閉數據庫鏈接
await asyncio.sleep(1)
asyncdeffunc():
conn=None
async with AsyncContextManager(conn) as f:
result=await f.do_something()print(result)
asyncio.run(func())
異步上下文管理器的示例
注意:這個異步的上下文管理器還是比較有用的,平時在開發過程中 打開、處理、關閉 操作時,就可以用這種方式來處理。
7.4、總結
在程序中只要看到async和await關鍵字,其內部就是基于協程實現的異步編程,這種異步編程是通過一個線程在IO等待時間去執行其他任務,從而實現并發。
8、uvloop
Python標準庫中提供了asyncio模塊,用于支持基于協程的異步編程。
uvloop是 asyncio 中的事件循環的替代方案,替換后可以使得asyncio性能提高。
事實上,uvloop要比nodejs、gevent等其他python異步框架至少要快2倍,性能可以比肩Go語言。
8.1、安裝uvloop
pip3 install uvloop
項目中想要使用uvloop替換asyncio的事件循環也非常簡單,只要在代碼中這么做就行
importasyncioimportuvloop
asyncio.set_event_loop_policy(uvloop.EventLoopPolicy())#編寫asyncio的代碼,與之前寫的代碼一致。#內部的事件循環自動化會變為uvloop
asyncio.run(...)
注意:知名的asgi uvicorn內部就是使用的uvloop的事件循環。
uvloop的使用示例
五、實戰
為了更好理解,下面所有示例的IO情況都是以 asyncio.sleep 為例,而真實的項目開發中會用到很多IO的情況。
1、異步Redis
當通過python去操作redis時,鏈接、設置值、獲取值 這些都涉及網絡IO請求,使用asycio異步的方式可以在IO等待時去做一些其他任務,從而提升性能。
安裝Python異步操作redis模塊
pip3 install aioredis
1.1、示例1:異步操作redis
#!/usr/bin/env python#-*- coding:utf-8 -*-
importasyncioimportaioredis
asyncdefexecute(address, password):print("開始執行", address)#網絡IO操作:創建redis連接
redis = await aioredis.create_redis(address, password=password, db=3)#網絡IO操作:在redis中設置哈希值car,內部在設三個鍵值對,即: redis = { car:{key1:1,key2:2,key3:3}}
await redis.hmset_dict('car', key1=1, key2=2, key3=3)#網絡IO操作:去redis中獲取值
result = await redis.hgetall('car', encoding='utf-8')print(result)
redis.close()#網絡IO操作:關閉redis連接
await redis.wait_closed()print("結束", address)
asyncio.run(execute('redis://192.168.2.129:6379', "redis"))
異步操作redis的示例
1.2、示例2:連接多個redis做操作(遇到IO會切換其他任務,提供了性能)
#!/usr/bin/env python#-*- coding:utf-8 -*-
importasyncioimportaioredis
asyncdefexecute(address, password):print("開始執行", address)#網絡IO操作:先去連接 47.93.4.197:6379,遇到IO則自動切換任務,去連接47.93.4.198:6379
redis = await aioredis.create_redis_pool(address, password=password)#網絡IO操作:遇到IO會自動切換任務
await redis.hmset_dict('car', key1=1, key2=2, key3=3)#網絡IO操作:遇到IO會自動切換任務
result = await redis.hgetall('car', encoding='utf-8')print(result)
redis.close()#網絡IO操作:遇到IO會自動切換任務
await redis.wait_closed()print("結束", address)
task_list=[
execute('redis://47.93.4.197:6379', "root!2345"),
execute('redis://47.93.4.198:6379', "root!2345")
]
asyncio.run(asyncio.wait(task_list))
異步多鏈接操作redis示例
2、異步MySQL
當通過python去操作MySQL時,連接、執行SQL、關閉都涉及網絡IO請求,使用asycio異步的方式可以在IO等待時去做一些其他任務,從而提升性能。
安裝Python異步操作redis模塊
pip3 install aiomysql
2.1、示例1:連接數據庫,發送一條查詢語句查詢數據
#!/usr/bin/env python#-*- coding:utf-8 -*-
importasyncioimportaiomysql
asyncdefexecute():#網絡IO操作:連接MySQL
conn = await aiomysql.connect(host='127.0.0.1', port=3306, user='root', password='123', db='mysql', )#網絡IO操作:創建CURSOR
cur =await conn.cursor()#網絡IO操作:執行SQL
await cur.execute("SELECT Host,User FROM user")#網絡IO操作:獲取SQL結果
result =await cur.fetchall()print(result)#網絡IO操作:關閉鏈接
await cur.close()
conn.close()
asyncio.run(execute())
示例一
2.2、示例2:多連接數據庫 ,查詢數據庫
#!/usr/bin/env python#-*- coding:utf-8 -*-
importasyncioimportaiomysql
asyncdefexecute(host, password):print("開始", host)#網絡IO操作:先去連接 47.93.40.197,遇到IO則自動切換任務,去連接47.93.40.198:6379
conn = await aiomysql.connect(host=host, port=3306, user='root', password=password, db='mysql')#網絡IO操作:遇到IO會自動切換任務
cur =await conn.cursor()#網絡IO操作:遇到IO會自動切換任務
await cur.execute("SELECT Host,User FROM user")#網絡IO操作:遇到IO會自動切換任務
result =await cur.fetchall()print(result)#網絡IO操作:遇到IO會自動切換任務
await cur.close()
conn.close()print("結束", host)
task_list=[
execute('47.93.40.197', "root!2345"),
execute('47.93.40.197', "root!2345")
]
asyncio.run(asyncio.wait(task_list))
示例二
3、FastAPI框架
FastAPI是一款用于構建API的高性能web框架,框架基于Python3.6+的 type hints搭建。
接下里的異步示例以FastAPI和uvicorn來講解(uvicorn是一個支持異步的asgi)。
安裝FastAPI web 框架
pip3 install fastapi
安裝uvicorn,本質上為web提供socket server的支持的asgi(一般支持異步稱asgi、不支持異步稱wsgi)
pip3 install uvicorn
3.1、FastAPI + aioredis示例
#!/usr/bin/env python#-*- coding:utf-8 -*-
importasyncioimportuvicornimportaioredisfrom aioredis importRedisfrom fastapi importFastAPI
app=FastAPI()
REDIS_POOL= aioredis.ConnectionsPool('redis://47.193.14.198:6379', password="root123", minsize=1, maxsize=10)
@app.get("/")defindex():"""普通操作接口"""
return {"message": "Hello World"}
@app.get("/red")
asyncdefred():"""異步操作接口"""
print("請求來了")
await asyncio.sleep(3)#連接池獲取一個連接
conn =await REDIS_POOL.acquire()
redis=Redis(conn)#設置值
await redis.hmset_dict('car', key1=1, key2=2, key3=3)#讀取值
result = await redis.hgetall('car', encoding='utf-8')print(result)#連接歸還連接池
REDIS_POOL.release(conn)returnresultif __name__ == '__main__':
uvicorn.run("luffy:app", host="127.0.0.1", port=5000, log_level="info")
示例
在有多個用戶并發請求的情況下,異步方式來編寫的接口可以在IO等待過程中去處理其他的請求,提供性能。
例如:同時有兩個用戶并發來向接口 http://127.0.0.1:5000/red 發送請求,服務端只有一個線程,同一時刻只有一個請求被處理。
異步處理可以提供并發是因為:當視圖函數在處理第一個請求時,第二個請求此時是等待被處理的狀態,當第一個請求遇到IO等待時,會自動切換去接收并處理第二個請求,當遇到IO時自動化切換至其他請求,
一旦有請求IO執行完畢,則會再次回到指定請求向下繼續執行其功能代碼。
4、爬蟲
在編寫爬蟲應用時,需要通過網絡IO去請求目標數據,這種情況適合使用異步編程來提升性能,接下來我們使用支持異步編程的aiohttp模塊來實現。
安裝aiohttp模塊
pip3 install aiohttp
#!/usr/bin/env python#-*- coding:utf-8 -*-
importaiohttpimportasyncio
asyncdeffetch(session, url):print("發送請求:", url)
async with session.get(url, verify_ssl=False) as response:
text=await response.text()print("得到結果:", url, len(text))
asyncdefmain():
async with aiohttp.ClientSession() as session:
url_list=['https://python.org','https://www.baidu.com','https://www.pythonav.com']
tasks= [asyncio.create_task(fetch(session, url)) for url inurl_list]
await asyncio.wait(tasks)if __name__ == '__main__':
asyncio.run(main())
aiohttp爬蟲示例
六、總結
為了提升性能越來越多的框架都在向異步編程靠攏,例如:sanic、tornado、django3.0、django channels組件 等,
用更少資源可以做處理更多的事,何樂而不為呢。
轉載地址:https://www.cnblogs.com/wupeiqi/p/12834355.html
總結
以上是生活随笔為你收集整理的python异步asy_Python 异步编程之asyncio【转载】的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 中国石油大学(华东)计算机科学与技术,2
- 下一篇: 字符串左侧补0_(48)C++面试之最长