查看: 135|回复: 0

Python—迭代器和生成器

[复制链接]
发表于 2020-2-16 00:56:13 | 显示全部楼层 |阅读模式
楔子

假如我现在有一个列表l=['a','b','c','d','e'],我想取列表中的内容,有几种方式?
起首,我可以通过索引取值l[0],其次我们是不是还可以用for循环来取值呀?
你有没有细致思考过,用索引取值和for循环取值是有着玄妙区别的。
如果用索引取值,你可以取到任意位置的值,条件是你要知道这个值在什么位置。
如果用for循环来取值,我们把每一个值都取到,不必要关心每一个值的位置,因为只能顺序的取值,并不能跳过任何一个直接去取其他位置的值。
但你有没有想过,我们为什么可以利用for循环来取值?
for循环内部是怎么工作的呢?
迭代器

python中的for循环

要了解python中的for循环是怎么回事儿,咱们还是要从代码的角度出发。
起首,我们对一个列表进行for循环。
  1. for i in [1,2,3,4]:      print(i)
复制代码
上面这段代码肯定是没有问题的,但是我们换一种情况,来循环一个数字1234试试
  1. for i in 1234    print(i) 结果:Traceback (most recent call last):  File "test.py", line 4, in     for i in 1234:TypeError: 'int' object is not iterable
复制代码
看,报错了!报了什么错呢?“TypeError: 'int' object is not iterable”,说int类型不是一个iterable,那这个iterable是个啥?

假如你不知道什么是iterable,我们可以翻翻词典,起首得到一个中文的解释,只管翻译过来了你可能也不知道,但是没关系,我会带着你一步一步来分析。
迭代和可迭代协议

什么叫迭代

现在,我们已经获得了一个新线索,有一个叫做“可迭代的”概念
起首,我们从报错来分析,好像之所以1234不可以for循环,是因为它不可迭代。那么如果“可迭代”,就应该可以被for循环了。
这个我们知道呀,字符串、列表、元组、字典、集合都可以被for循环,阐明他们都是可迭代的
我们怎么来证明这一点呢?
  1. from collections import Iterable                             l = [1,2,3,4]                t = (1,2,3,4)                d = {1:2,3:4}                s = {1,2,3,4}                                             print(isinstance(l,Iterable))print(isinstance(t,Iterable))print(isinstance(d,Iterable))print(isinstance(s,Iterable))
复制代码
结合我们利用for循环取值的征象,再从字面上理解一下,其实迭代就是我们刚刚说的,可以将某个数据集内的数据“一个挨着一个的取出来”,就叫做迭代
可迭代协议

我们现在是从结果分析原因,能被for循环的就是“可迭代的”,但是如果正着想,for怎么知道谁是可迭代的呢?
假如我们自己写了一个数据类型,希望这个数据类型里的东西也可以利用for被一个一个的取出来,那我们就必须满足for的要求。这个要求就叫做“协议”。
可以被迭代要满足的要求就叫做可迭代协议。可迭代协议的界说非常简单,就是内部实现了__iter__方法。
接下来我们就来验证一下:
  1. print(dir([1,2]))print(dir((2,3)))print(dir({1:2}))print(dir({1,2}))
复制代码
  1. ['__add__', '__class__', '__contains__', '__delattr__', '__delitem__', '__dir__', '__doc__', '__eq__', '__format__', '__ge__', '__getattribute__', '__getitem__', '__gt__', '__hash__', '__iadd__', '__imul__', '__init__', '__iter__', '__le__', '__len__', '__lt__', '__mul__', '__ne__', '__new__', '__reduce__', '__reduce_ex__', '__repr__', '__reversed__', '__rmul__', '__setattr__', '__setitem__', '__sizeof__', '__str__', '__subclasshook__', 'append', 'clear', 'copy', 'count', 'extend', 'index', 'insert', 'pop', 'remove', 'reverse', 'sort']['__add__', '__class__', '__contains__', '__delattr__', '__dir__', '__doc__', '__eq__', '__format__', '__ge__', '__getattribute__', '__getitem__', '__getnewargs__', '__gt__', '__hash__', '__init__', '__iter__', '__le__', '__len__', '__lt__', '__mul__', '__ne__', '__new__', '__reduce__', '__reduce_ex__', '__repr__', '__rmul__', '__setattr__', '__sizeof__', '__str__', '__subclasshook__', 'count', 'index']['__class__', '__contains__', '__delattr__', '__delitem__', '__dir__', '__doc__', '__eq__', '__format__', '__ge__', '__getattribute__', '__getitem__', '__gt__', '__hash__', '__init__', '__iter__', '__le__', '__len__', '__lt__', '__ne__', '__new__', '__reduce__', '__reduce_ex__', '__repr__', '__setattr__', '__setitem__', '__sizeof__', '__str__', '__subclasshook__', 'clear', 'copy', 'fromkeys', 'get', 'items', 'keys', 'pop', 'popitem', 'setdefault', 'update', 'values']['__and__', '__class__', '__contains__', '__delattr__', '__dir__', '__doc__', '__eq__', '__format__', '__ge__', '__getattribute__', '__gt__', '__hash__', '__iand__', '__init__', '__ior__', '__isub__', '__iter__', '__ixor__', '__le__', '__len__', '__lt__', '__ne__', '__new__', '__or__', '__rand__', '__reduce__', '__reduce_ex__', '__repr__', '__ror__', '__rsub__', '__rxor__', '__setattr__', '__sizeof__', '__str__', '__sub__', '__subclasshook__', '__xor__', 'add', 'clear', 'copy', 'difference', 'difference_update', 'discard', 'intersection', 'intersection_update', 'isdisjoint', 'issubset', 'issuperset', 'pop', 'remove', 'symmetric_difference', 'symmetric_difference_update', 'union', 'update']
复制代码
结果总结一下我们现在所知道的:可以被for循环的都是可迭代的,要想可迭代,内部必须有一个__iter__方法。
接着分析,__iter__方法做了什么变乱呢?
  1. print([1,2].__iter__())结果
复制代码
实行了list([1,2])的__iter__方法,我们好像得到了一个list_iterator,现在我们又得到了一个新名词——iterator。

iterator,这里给我们标出来了,是一个计算机中的专属名词,叫做迭代器。
迭代器协议

既什么叫“可迭代”之后,又一个汗青新难题,什么叫“迭代器”?
虽然我们不知道什么叫迭代器,但是我们现在已经有一个迭代器了,这个迭代器是一个列表的迭代器。
我们来看看这个列表的迭代器比起列表来说实现了哪些新方法,这样就能揭开迭代器的神秘面纱了吧?
  1. '''dir([1,2].__iter__())是列表迭代器中实现的全部方法,dir([1,2])是列表中实现的全部方法,都是以列表的形式返回给我们的,为了看的更清晰,我们分别把他们转换成集合,
  2. 然后取差集。'''#print(dir([1,2].__iter__()))#print(dir([1,2]))print(set(dir([1,2].__iter__()))-set(dir([1,2])))结果:{'__length_hint__', '__next__', '__setstate__'}
复制代码
我们看到在列表迭代器中多了三个方法,那么这三个方法都分别做了什么事呢?
  1. iter_l = [1,2,3,4,5,6].__iter__()#获取迭代器中元素的长度print(iter_l.__length_hint__())#根据索引值指定从哪里开始迭代print('*',iter_l.__setstate__(4))#一个一个的取值print('**',iter_l.__next__())print('***',iter_l.__next__())
复制代码
这三个方法中,能让我们一个一个取值的神奇方法是谁?
没错!就是__next__
在for循环中,就是在内部调用了__next__方法才能取到一个一个的值。
那接下来我们就用迭代器的next方法来写一个不依赖for的遍历。
  1. l = [1,2,3,4]l_iter = l.__iter__()item = l_iter.__next__()print(item)item = l_iter.__next__()print(item)item = l_iter.__next__()print(item)item = l_iter.__next__()print(item)item = l_iter.__next__()print(item)
复制代码
这是一段会报错的代码,如果我们一直取next取到迭代器里已经没有元素了,就会抛出一个非常StopIteration,告诉我们,列表中已经没有有效的元素了。
这个时间,我们就要利用非常处理机制来把这个非常处理掉。
  1. l = [1,2,3,4]l_iter = l.__iter__()while True:    try:        item = l_iter.__next__()        print(item)    except StopIteration:        break
复制代码
那现在我们就利用while循环实现了原本for循环做的变乱,我们是从谁那儿获取一个一个的值呀?是不是就是l_iter?好了,这个l_iter就是一个迭代器。
迭代器遵照迭代器协议:必须拥有__iter__方法和__next__方法。
还账:next和iter方法
如此一来,关于迭代器和生成器的方法我们就还清了两个,末了我们来看看range()是个啥。起首,它肯定是一个可迭代的对象,但是它是否是一个迭代器?我们来测试一下
  1. print('__next__' in dir(range(12)))  #查看'__next__'是不是在range()方法实行之后内部是否有__next__print('__iter__' in dir(range(12)))  #查看'__next__'是不是在range()方法实行之后内部是否有__next__from collections import Iteratorprint(isinstance(range(100000000),Iterator))  #验证range实行之后得到的结果不是一个迭代器
  2. # range的返回值是一个可迭代对象
复制代码
为什么要有for循环

基于上面讲的列表这一大堆遍历方式,聪明的你立马看除了端倪,于是你不知死活高声喊道,你这不逗我玩呢么,有了下标的访问方式,我可以这样遍历一个列表啊
  1. l=[1,2,3]index=0while index < len(l):    print(l[index])    index+=1#要毛线for循环,要毛线可迭代,要毛线迭代器
复制代码
没错,序列类型字符串,列表,元组都有下标,你用上述的方式访问,perfect!但是你可曾想过非序列类型像字典,集合,文件对象的感受,所以嘛,年轻人,for循环就是基于迭代器协议提供了一个统一的可以遍历全部对象的方法,即在遍历之前,先调用对象的__iter__方法将其转换成一个迭代器,然后利用迭代器协议去实现循环访问,这样全部的对象就都可以通过for循环来遍历了,而且你看到的效果也确实如此,这就是无所不能的for循环,觉悟吧,年轻人
生成器

初识生成器

我们知道的迭代器有两种:一种是调用方法直接返回的,一种是可迭代对象通过实行iter方法得到的,迭代器有的好处是可以节流内存。
如果在某些情况下,我们也必要节流内存,就只能自己写。我们自己写的这个能实现迭代器功能的东西就叫生成器。
Python中提供的生成器:
1.生成器函数:常规函数界说,但是,利用yield语句而不是return语句返回结果。yield语句一次返回一个结果,在每个结果中间,挂起函数的状态,以便下次重它离开的地方继续实行
2.生成器表达式:类似于列表推导,但是,生成器返回按需产生结果的一个对象,而不是一次构建一个结果列表
生成器Generator:
  本质:迭代器(所以自带了__iter__方法和__next__方法,不必要我们去实现)
  特点:惰性运算,开发者自界说
生成器函数

一个包含yield关键字的函数就是一个生成器函数。yield可以为我们从函数中返回值,但是yield又差异于return,return的实行意味着程序的竣事,调用生成器函数不会得到返回的具体的值,而是得到一个可迭代的对象。每一次获取这个可迭代对象的值,就能推动函数的实行,获取新的返回值。直到函数实行竣事。
  1. # 初识生成器一
  2. import timedef genrator_fun1():    a = 1    print('现在界说了a变量')    yield a    b = 2    print('现在又界说了b变量')    yield bg1 = genrator_fun1()print('g1 : ',g1)       #打印g1可以发现g1就是一个生成器print('-'*20)   #我是富丽的分割线print(next(g1))time.sleep(1)   #sleep一秒看清实行过程print(next(g1))
复制代码
生成器有什么好处呢?就是不会一下子在内存中生成太多数据

假如我想让工厂给学生做校服,生产2000000件衣服,我和工厂一说,工厂应该是先允许下来,然后再去生产,我可以一件一件的要,也可以根据学生一批一批的找工厂拿。
而不能是一说要生产2000000件衣服,工厂就先去做生产2000000件衣服,等返来做好了,学生都毕业了。。。
  1. #初识生成器二def produce():    """生产衣服"""    for i in range(2000000):        yield "生产了第%s件衣服"%iproduct_g = produce()print(product_g.__next__()) #要一件衣服print(product_g.__next__()) #再要一件衣服print(product_g.__next__()) #再要一件衣服num = 0for i in product_g:         #要一批衣服,比如5件    print(i)    num +=1    if num == 5:        break#到这里我们找工厂拿了8件衣服,我一共让我的生产函数(也就是produce生成器函数)生产2000000件衣服。#剩下的还有很多衣服,我们可以一直拿,也可以放着等想拿的时间再拿
复制代码
更多应用

生成器监听文件输入的例子
  1. import timedef tail(filename):    f = open(filename)    f.seek(0, 2) #从文件末尾算起    while True:        line = f.readline()  # 读取文件中新的文本行        if not line:            time.sleep(0.1)            continue        yield linetail_g = tail('tmp')for line in tail_g:    print(line)
复制代码
send
  1. def generator():    print(123)    content = yield 1    print('=======',content)    print(456)    yield2g = generator()ret = g.__next__()print('***',ret)ret = g.send('hello')   #send的效果和next一样print('***',ret)#send 获取下一个值的效果和next基本同等#只是在获取下一个值的时间,给上一yield的位置传递一个数据#利用send的注意事项    # 第一次利用生成器的时间 是用next获取下一个值    # 末了一个yield不能接受外部的值
复制代码
  1. def averager():    total = 0.0    count = 0    average = None    while True:        term = yield average        total += term        count += 1        average = total/countg_avg = averager()next(g_avg)print(g_avg.send(10))print(g_avg.send(30))print(g_avg.send(5))
复制代码
计算移动平均值(1)
计算移动平均值(2)_预激协程的装饰器yield from
  1. def gen1():    for c in 'AB':        yield c    for i in range(3):        yield iprint(list(gen1()))def gen2():    yield from 'AB'    yield from range(3)print(list(gen2()))
复制代码
列表推导式和生成器表达式
  1. #老男孩由于峰哥的强势加盟很快走上了上市之路,alex思来想去决定下几个鸡蛋来报答峰哥egg_list=['鸡蛋%s' %i for i in range(10)] #列表剖析#峰哥瞅着alex下的一筐鸡蛋,捂住了鼻子,说了句:哥,你还是给我只母鸡吧,我自己回家下laomuji=('鸡蛋%s' %i for i in range(10))#生成器表达式print(laomuji)print(next(laomuji)) #next本质就是调用__next__print(laomuji.__next__())print(next(laomuji))
复制代码
总结:
1.把列表剖析的[]换成()得到的就是生成器表达式
2.列表剖析与生成器表达式都是一种便利的编程方式,只不过生成器表达式更节流内存
3.Python不但利用迭代器协议,让for循环变得更加通用。大部分内置函数,也是利用迭代器协议访问对象的。例如, sum函数是Python的内置函数,该函数利用迭代器协议访问对象,而生成器实现了迭代器协议,所以,我们可以直接这样计算一系列值的和:
  1. sum(x ** 2 for x in range(4))
复制代码
而不用多此一举的先构造一个列表:
  1. sum([x ** 2 for x in range(4)])
复制代码
  1. 更多精彩请见——迭代器生成器专题:[url=http://www.cnblogs.com/Eva-J/articles/7276796.html]http://www.cnblogs.com/Eva-J/articles/7276796.html[/url]
复制代码
本章小结

可迭代对象:
  拥有__iter__方法
  特点:惰性运算
  例如:range(),str,list,tuple,dict,set
迭代器Iterator:
  拥有__iter__方法和__next__方法
  例如:iter(range()),iter(str),iter(list),iter(tuple),iter(dict),iter(set),reversed(list_o),map(func,list_o),filter(func,list_o),file_o
生成器Generator:
  本质:迭代器,所以拥有__iter__方法和__next__方法
  特点:惰性运算,开发者自界说
利用生成器的优点:
1.延迟计算,一次返回一个结果。也就是说,它不会一次生成全部的结果,这对于大数据量处理,将会非常有用。
  1. #列表剖析sum([i for i in range(100000000)])#内存占用大,呆板容易卡死 #生成器表达式sum(i for i in range(100000000))#几乎不占内存
复制代码
2.提高代码可读性
生成器相干的面试题

生成器在编程中发生了很多的作用,善用生成器可以资助我们解决很多复杂的问题
除此之外,生成器也是面试题中的重点,在完成一些功能之外,人们也想出了很多魔性的面试题。
接下来我们就来看一看~
  1. def demo():    for i in range(4):        yield ig=demo()g1=(i for i in g)g2=(i for i in g1)print(list(g1))print(list(g2))
复制代码
  1. def add(n,i):    return n+idef test():    for i in range(4):        yield ig=test()for n in [1,10]:    g=(add(n,i) for i in g)print(list(g))
复制代码
  1. import osdef init(func):    def wrapper(*args,**kwargs):        g=func(*args,**kwargs)        next(g)        return g    return [email protected] list_files(target):    while 1:        dir_to_search=yield        for top_dir,dir,files in os.walk(dir_to_search):            for file in files:                target.send(os.path.join(top_dir,file))@initdef opener(target):    while 1:        file=yield        fn=open(file)        target.send((file,fn))@initdef cat(target):    while 1:        file,fn=yield        for line in fn:            target.send((file,line))@initdef grep(pattern,target):    while 1:        file,line=yield        if pattern in line:            target.send(file)@initdef printer():    while 1:        file=yield        if file:            print(file)g=list_files(opener(cat(grep('python',printer()))))g.send('/test1')协程应用:grep -rl /dir
复制代码

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?用户注册

x

相关技术服务需求,请联系管理员和客服QQ:2753533861或QQ:619920289
您需要登录后才可以回帖 登录 | 用户注册

本版积分规则

帖子推荐:
客服咨询

QQ:2753533861

服务时间 9:00-22:00

快速回复 返回顶部 返回列表