python- generator生成器
什么是生成器?
通過列表生成式,我們可以直接創建一個列表,但是,受到內存限制,列表容量肯定是有限的,而且創建一個包含100萬個元素的列表,不僅占用很大的存儲空間,如果我們僅僅需要訪問前面幾個元素,那后面絕大多數元素占用的空間都白白浪費了。
所以,如果列表元素可以按照某種算法推算出來,那我們是否可以在循環的過程中不斷推算出后續的元素呢?這樣就不必創建完整的list,從而節省大量的空間,在Python中,這種一邊循環一邊計算的機制,稱為生成器:generator
生成器是一個特殊的程序,可以被用作控制循環的迭代行為,python中生成器是迭代器的一種,使用yield返回值函數,每次調用yield會暫停,而可以使用next()函數和send()函數恢復生成器。
生成器類似于返回值為數組的一個函數,這個函數可以接受參數,可以被調用,但是,不同于一般的函數會一次性返回包括了所有數值的數組,生成器一次只能產生一個值,這樣消耗的內存數量將大大減小,而且允許調用函數可以很快的處理前幾個返回值,因此生成器看起來像是一個函數,但是表現得卻像是迭代器
python中的生成器
要創建一個generator,有很多種方法,第一種方法很簡單,只有把一個列表生成式的[]中括號改為()小括號,就創建一個generator
舉例說明:
# 列表生成式
lis = [x * x for x in range(10)]
print(lis)
# 生成器
generator_ex = (x * x for x in range(10))
print(generator_ex)
結果:
[0, 1, 4, 9, 16, 25, 36, 49, 64, 81]
<generator object <genexpr> at 0x0000024C407E4570>
那么創建list和generator_ex,的區別是什么呢?從表面看就是[ ]和(),但是結果卻不一樣,一個打印出來是列表(因為是列表生成式),而第二個打印出來卻是<generator object at 0x000002A4CBF9EBA0>,那么如何打印出來generator_ex的每一個元素呢?
如果要一個個打印出來,可以通過next()函數獲得generator的下一個返回值:
生成器
generator_ex = (x * x for x in range(10))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
print(next(generator_ex))
結果:
0
1
4
9
16
25
36
49
64
81
print(next(generator_ex))
StopIteration
[Finished in 0.1s]
大家可以看到,generator保存的是算法,每次調用next(generaotr_ex)就計算出他的下一個元素的值,直到計算出最后一個元素,沒有更多的元素時,拋出StopIteration的錯誤,而且上面這樣不斷調用是一個不好的習慣,正確的方法是使用for循環,因為generator也是可迭代對象:
# 生成器
generator_ex = (x * x for x in range(10))
for i in generator_ex:
print(i)
以我們創建一個generator后,基本上永遠不會調用next(),而是通過for循環來迭代,并且不需要關心StopIteration的錯誤,generator非常強大,如果推算的算法比較復雜,用類似列表生成式的for循環無法實現的時候,還可以用函數來實現。
比如著名的斐波那契數列,除第一個和第二個數外,任何一個數都可以由前兩個相加得到:
1,1,2,3,5,8,12,21,34.....
斐波那契數列用列表生成式寫不出來,但是,用函數把它打印出來卻很容易:
# fibonacci數列
def fib(max):
n, a, b = 0, 0, 1
while n < max:
a, b = b, a + b
n = n + 1
print(a)
return 'done'
a = fib(10)
print(a)
a,b = b ,a+b 其實相當于 t =a+b ,a =b ,b =t ,所以不必寫顯示寫出臨時變量t,就可以輸出斐波那契數列的前N個數字。上面輸出的結果如下:
1
1
2
3
5
8
13
21
34
55
done
仔細觀察,可以看出,fib函數實際上是定義了斐波拉契數列的推算規則,可以從第一個元素開始,推算出后續任意的元素,這種邏輯其實非常類似generator。
def fib(max):
n, a, b = 0, 0, 1
while n < max:
yield b
a, b = b, a + b
n = n + 1
return 'done'
a = fib(10)
print(a)
但是返回的不再是一個值,而是一個生成器,和上面的例子一樣,大家可以看一下結果:
<generator object fib at 0x000001C03AC34FC0>
那么這樣就不占內存了,這里說一下generator和函數的執行流程,函數是順序執行的,遇到return語句或者最后一行函數語句就返回。而變成generator的函數,在每次調用next()的時候執行,遇到yield語句返回,再次被next()調用時候從上次的返回yield語句處急需執行,也就是用多少,取多少,不占內存。
把函數改成generator后,我們基本上從來不會用next()來獲取下一個返回值,而是直接使用for循環來迭代:
def fib(max):
n, a, b = 0, 0, 1
while n < max:
yield b
a, b = b, a + b
n = n + 1
return 'done'
a = fib(10)
# print(a)
for i in a:
print(i)
但是用for循環調用generator時,發現拿不到generator的return語句的返回值。如果拿不到返回值,那么就會報錯,所以為了不讓報錯,就要進行異常處理,拿到返回值,如果想要拿到返回值,必須捕獲StopIteration錯誤,返回值包含在StopIteration的value中:
def fib(max):
n, a, b = 0, 0, 1
while n < max:
yield b
a, b = b, a + b
n = n + 1
return 'done'
g = fib(6)
while True:
try:
x = next(g)
print('generator: ', x)
except StopIteration as e:
print("生成器返回值:", e.value)
break
結果:
generator: 1
generator: 1
generator: 2
generator: 3
generator: 5
generator: 8
生成器返回值: done
還可以通過yield實現在單線程的情況下實現并發運算的效果
import time
def consumer(name):
print("%s 準備學習啦!" %name)
while True:
lesson = yield
print("開始[%s]了,[%s]老師來講課了!" %(lesson,name))
def producer(name):
c = consumer('A')
c2 = consumer('B')
c.__next__()
c2.__next__()
print("同學們開始上課 了!")
for i in range(10):
time.sleep(1)
print("到了兩個同學!")
c.send(i)
c2.send(i)
由上面的例子我么可以發現,python提供了兩種基本的方式
生成器函數:也是用def定義的,利用關鍵字yield一次性返回一個結果,阻塞,重新開始
生成器表達式:返回一個對象,這個對象只有在需要的時候才產生結果
——生成器函數
為什么叫生成器函數?因為它隨著時間的推移生成了一個數值隊列。一般的函數在執行完畢之后會返回一個值然后退出,但是生成器函數會自動掛起,然后重新拾起急需執行,他會利用yield關鍵字關起函數,給調用者返回一個值,同時保留了當前的足夠多的狀態,可以使函數繼續執行,生成器和迭代協議是密切相關的,迭代器都有一個__next__()__成員方法,這個方法要么返回迭代的下一項,要么引起異常結束迭代。
def create_counter(n):
print("create_counter")
while True:
yield n
print("increment n")
n += 1
gen = create_counter(2)
print(gen)
print(next(gen))
print(next(gen))
——生成器表達式
生成器表達式來源于迭代和列表解析的組合,生成器和列表解析類似,但是它使用尖括號而不是方括號
# 列表解析生成列表
x=[ x ** 3 for x in range(5)]
print(x)
結果:
[0, 1, 8, 27, 64]
# 生成器表達式
x=(x ** 3 for x in range(5))
print(x)
結果:
<generator object <genexpr> at 0x000000000315F678>
# 兩者之間轉換
x=list(x ** 3 for x in range(5))
print(x)
結果:
[0, 1, 8, 27, 64]
一個迭代既可以被寫成生成器函數,也可以被協程生成器表達式,均支持自動和手動迭代。而且這些生成器只支持一個active迭代,也就是說生成器的迭代器就是生成器本身。
迭代器(迭代就是循環)
迭代器包含有next方法的實現,在正確的范圍內返回期待的數據以及超出范圍后能夠拋出StopIteration的錯誤停止迭代。
我們已經知道,可以直接作用于for循環的數據類型有以下幾種:
一類是集合數據類型,如list,tuple,dict,set,str等
一類是generator,包括生成器和帶yield的generator function
這些可以直接作用于for 循環的對象統稱為可迭代對象:Iterable
可以使用isinstance()判斷一個對象是否為可Iterable對象
from collections import Iterable
isinstance([], Iterable)
opIteration錯誤表示無法繼續返回下一個值了。
所以這里講一下迭代器
一個實現了iter方法的對象時可迭代的,一個實現next方法的對象是迭代器
可以被next()函數調用并不斷返回下一個值的對象稱為迭代器:Iterator。
可以使用isinstance()判斷一個對象是否是Iterator對象:
生成器都是Iterator對象,但list、dict、str雖然是Iterable(可迭代對象),卻不是Iterator(迭代器)。
把list、dict、str等Iterable變成Iterator可以使用iter()函數:
isinstance(iter([]), Iterator)
True
isinstance(iter('abc'), Iterator)
True
你可能會問,為什么list、dict、str等數據類型不是Iterator?
這是因為Python的Iterator對象表示的是一個數據流,Iterator對象可以被next()函數調用并不斷返回下一個數據,直到沒有數據時拋出StopIteration錯誤。可以把這個數據流看做是一個有序序列,但我們卻不能提前知道序列的長度,只能不斷通過next()函數實現按需計算下一個數據,所以Iterator的計算是惰性的,只有在需要返回下一個數據時它才會計算。
Iterator甚至可以表示一個無限大的數據流,例如全體自然數。而使用list是永遠不可能存儲全體自然數的。
總結
以上是生活随笔為你收集整理的python- generator生成器的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: JUnit测试,获取Spring MVC
- 下一篇: hdu_5139 概率问题