7th，Python基础4——迭代器、生成器、装饰器、Json&pickle数据序列化、软件目录结构规范

1、列表生成式，迭代器&生成器

要求把列表[0,1,2,3,4,5,6,7,8,9]里面的每个值都加1，如何实现？

匿名函数实现：

a = map(lambda x:x+1, a)
for i in a:
    print(i)

列表生成式实现：

a = [i+1 for i in range(10)]

生成器

通过列表生成式，可以直接创建一个列表。但是，受到内存限制，列表容量肯定是有限的。而且，创建一个包含100万个元素的列表，不仅占用很大的存储空间，如果我们仅仅需要访问前面几个元素，那后面绝大多数元素占用的空间都白白浪费了。

所以，如果列表元素可以按照某种算法推算出来，那我们是否可以在循环的过程中不断推算出后续的元素呢？这样就不必创建完整的list，从而节省大量的空间。

在Python中，这种一边循环一边计算的机制，称为生成器：generator

要创建一个generator，有很多种方法。

第一种方法：只要把一个列表生成式的[ ]改成( )，就创建了一个generator：

L = [x * x for x in range(10)]

g = (x * x for x in range(10))

创建L和g的区别仅在于最外层的[ ]和( )，L是一个list，而g是一个generator。

要一个一个打印出来generator的元素，可以通过next( )函数获得generator的下一个返回值：

next(g)

generator保存的是算法，每次调用next(g)，就计算出g的下一个元素的值，直到计算到最后一个元素，没有更多的元素时，抛出StopIteration的错误。

正确的调用方法使用for循环，因为generator也是可迭代对象：

g = (x * x for x in range(10))
for n in g:
    print(n)

所以，创建了一个generator后，基本上永远不会调用next( )，而是通过for循Iter的c环来迭代它，并且不需要关心StopIteration的错误。

generator非常强大。

如果推算的算法比较复杂，用类似列表生成式的for循环无法实现的时候，还可以用函数来显示。

例如：

著名的菲波那切数列，除第一个和第二个数外，任意一个数都可由前两个数相加得到：

1,1,2,3,5,8,13,21,34

用函数打印斐波那契数列：

def fib(max):
    n, a, b = 0, 0, 1
    while n < max:
        print(b)
        a, b = b, a + b
        n = n + 1
    return 'done'

此处的赋值语句：

a, b = b, a + b
#相当于：
t = (b, a + b)
a = t[0]
b = t[1]

不必显式写出临时变量t就可以赋值。

上面的函数可以输出菲波那切数列的前N个数：

fib(10)

fib函数实际上是定义了斐波那契额数列的推算规则，可以从第一个元素开始，推算出后续任意的元素，这种逻辑其实非常类似generator。

也就是说，上面的函数和generator仅差一步。要不fib函数变为generator，只需要把print(b)改为yield b即可：

def fib(max):
    n, a, b = 0, 0, 1

    while n < max:
        yield b
        a, b = b, a+b

        n += 1

    return 'done'

如果一个函数定义中包含yield关键字，那么这个函数就不再是一个普通函数，而是一个generator。

注意：gener和函数的执行流程不一样。

函数是顺序执行，遇到return语句或者最后一行函数语句就返回。

变为generator的函数，在每次调用next( )的时候执行，遇到yield语句返回，再次执行时从上次返回的yield语句处继续执行。

data = fib(10)
print(data)

print(data.__next__())
print(data.__next__())
print("干点别的事")
print(data.__next__())
print(data.__next__())
print(data.__next__())
print(data.__next__())
print(data.__next__())

#输出
<generator object fib at 0x101be02b0>
1
干点别的事
3
8

在上面fib的例子，在循环过程中不断调用yield，就会不断中断。当然要给循环设置一个条件来退出循环，不然就会产生一个无限数列出来。

同样的，把函数改成generator后，我们基本上从来不会用next()来获取下一个返回值，而是直接使用for循环来迭代：

for n in fib(6):
    print(n)

但是用for循环调用generator时，发现拿不到generator的return语句的返回值。如果想要拿到返回值，必须捕获StopIteration错误，返回值包含在StopIteration的value中：

g = fib(6)
while True:
    try:
        x = next(g)
        print('g:', x)
    except StopIteration as e:
        print("Generator return value:", e.value)
        break

还可通过yield实现在单线程的情况下实现并发运算的效果

#_*_coding:utf-8_*_
__author__ = 'Alex Li'

import time
def consumer(name):
    print("%s 准备吃包子啦!" %name)
    while True:
       baozi = yield

       print("包子[%s]来了,被[%s]吃了!" %(baozi,name))

def producer(name):
    c = consumer('A')
    c2 = consumer('B')
    c.__next__()
    c2.__next__()
    print("老子开始准备做包子啦!")
    for i in range(10):
        time.sleep(1)
        print("做了2个包子!")
        c.send(i)
        c2.send(i)

producer("alex")

迭代器

可以直接作用于for循环的数据类型有以下几种：

1、集合数据类型，如list、tuple、dict、set、str等；

2、generator，包括生成器和带yield的generator function

这些可以直接作用于for循环的对象统称为可迭代对象：Iterable。

可以使用isinstance()判断一个对象是否是Iterable对象：

>>> from collections import Iterable
>>> isinstance([], Iterable)
True
>>> isinstance({}, Iterable)
True
>>> isinstance('abc', Iterable)
True
>>> isinstance((x for x in range(10)), Iterable)
True
>>> isinstance(100, Iterable)
False

而生成器不但可以用于for循环，还可以被next( )函数不断调用并返回下一个值，直到最后抛出StopIteration错误表示无法继续返回下一个值了。

可以被next( )函数调用并不断返回下一个值的对象称为迭代器：Iterator。

可以使用isinstance( )判断一个对象是否是Iterator对象：

>>> from collections import Iterator
>>> isinstance((x for x in range(10)), Iterator)
True
>>> isinstance([], Iterator)
False
>>> isinstance({}, Iterator)
False
>>> isinstance('abc', Iterator)
False

生成器都是Iterator对象，但list、dict、str虽然是Iterable，却不是Iterator。

把list、dict、str等Iterable变成Iterator可以使用iter( )函数：

>>> isinstance(iter([]), Iterator)
True
>>> isinstance(iter('abc'), Iterator)
True

为什么list、dict、str等数据类型不是Iterator?

因为Python的Iter对象表示的是一个数据流，Iterator对象可以被next( )函数调用并不断返回下一个数据，直到没有数据时抛出StopIteration错误。可以把这个数据流看做是一个有序序列，但我们却不能提前知道序列的长度，只能不断通过next( )函数实现按需计算下一个数据，所以Iterator的计算是惰性的，只有在需要返回下一个数据时它才会计算。

Iterator甚至可以表示一个无限大的数据流，例如全体自然数。而使用list是永远不可能存储全体自然数的。

小结

凡是可作用于for循环的对象都是Iterable类型；

凡是可作用于next( )函数的对象都是Iterator类型，他们表示一个惰性计算的序列；

集合数据类型如list、dict、str等是Iterable但不是Iterator，不过可以通过iter( )函数获得一个Iterator对象。

Python的for循环，本质上就是通过不断调用next( )函数实现的，例如：

for x in [1, 2, 3, 4, 5]:
    pass

###完全等价于###

# 首先获得Iterator对象:
it = iter([1, 2, 3, 4, 5])
# 循环:
while True:
    try:
        # 获得下一个值:
        x = next(it)
    except StopIteration:
        # 遇到StopIteration就退出循环
        break

2、装饰器

软件开发原则：“开放-封闭”原则

封闭：已实现的功能代码块不应该被修改；

开放：对现有功能的扩展开放。

 2.1函数调用顺序

Python类似其他高级语言，不允许在函数为声明之前，对其进行引用或者调用

#正确示范
#Python为解释执行，函数foo在调用前已经声明了bar和foo，所以bar和foo无顺序之分
def bar():
    print "in the bar"
def foo():
    print "in the foo"
    bar()
foo()

def foo():
    print "in the foo"
    bar()
def bar():
    print "in the bar"
foo()

2.2高阶函数

满足下列条件之一就可以称函数为高阶函数

1、某一函数当做参数传入另一个函数中；

2、函数的返回值包含n个函数，n>0.

#高阶函数示范
def bar():
    print "in the bar"
def foo(func):
    res = func()
    return res
foo(bar)

#高阶函数的牛逼之处：
def foo(func):
    return func

print "Function body is %s" %(foo(bar))
print "Function name is %s" %(foo(bar).func_name)
foo(bar)()
#foo(bar)()等同于bar=foo(bar)然后bar()
bar=foo(bar)
bar()

2.3内嵌函数和变量作用域

定义：在一个函数内创建另外一个函数，这种函数就叫做内嵌函数（基于Python支持静态嵌套域）

#函数嵌套示范：
def foo():
    def bar():
        print "in the bar"

    bar()

foo()

#局部作用域和全局作用域的访问顺序
x = 0
def grandpa():
    # x=1
    def dad():
        x=2
        def son():
            x=3
            print(x)
         son()
    dad()
grandpa()

#局部变量修改对全局变量的影响
y=10
#def test():
#    y+=1
#    print(y)

def test():
    #global y
    y=2
    print(y)

test()
print(y)

def dad():
    m=1
    def son():
        n=2
        print "--->", m + n
    print "-->", m
    son()
dad()

2.4闭包

如果在一个内部函数里，对在外部作用域（但不是在全局作用域）的变量进行引用，那么内部函数就被认为是 closure

def counter(start_num=0):
    count=[start_num]
    def incr():
        count[0]+=1
        return count[0]
    return incr

print(counter())
print(counter()())

c=counter()
print(c())

2.5装饰器 = 内嵌函数+高阶函数+闭包

####例一：函数参数固定####
def decorartor(func):
    def wrapper(n):
        print("starting")
        func(n)
        print("stopping")
    return wrapper

def test(n):
    print("in the test arg is %s", %n)

decorartor(test)("alex")

####例二：函数参数不固定####
def decorartor(func):
    def wrapper(*args, **kwargs):
        print("starting")
        func(*args, **kwargs)
        print("stopping")
    return wrapper

def test(n, x=1):
    print("in the test arg is %s" %n)

decorartor(test)("alex", x=2)

2.5.1无参装饰器

import time
def decorator(func):
    def wrapper(*args, **kwargs):
        start=time.time()
        func(*args, **kwargs)
        stop=time.time()
        print("run time is %s"%(stop-start))
        print("timeout")
    return wrapper

@decorator
def test(list_test):
    for i in list_test:
        time.sleep(0.1)
        print("-"*20,i)

#decorator(test)(range(10))
test(range(10))

2.5.2有参装饰器

import time
def timer(timeout=0):
    def wrapper(*args, **kwargs):
        start=time.time()
        func(*args, **kwargs)
        stop=time.time()
        print("run time is %s"%(stop-start))
        print(timeout)
    return wrapper
return decorator

@timer(2)
def test(list_test):
    for i in list_test:
        time.sleep(0.1)
        print("-"*20,i)

#timer(timeout=10)(test)(range(10))
test(range(10))

3、软件目录结构规范

为什么要设计好目录结构？

设计一个层次清晰的目录结构，可以达到以下两点：

（1）可读性高：不熟悉这个项目代码的人，一眼就能看懂目录结构，知道程序启动脚本是哪个，测试目录在哪，配置文件在哪等等。从而非常快速的了解这个项目；

（2）可维护性高：定义好组织规则后，维护者就能很明确地知道，新增的哪个文件和代码应该放在什么目录下。这个好处是，随着时间的推移，代码/配置的规则增加，项目结构不会混乱，仍然能够组织良好。

目录组织方式

假设项目名为foo，最方便快捷的目录结构这样就足够了：

Foo/
|-- bin/
|   |-- foo
|
|-- foo/
|   |-- tests/
|   |   |-- __init__.py
|   |   |-- test_main.py
|   |
|   |-- __init__.py
|   |-- main.py
|
|-- docs/
|   |-- conf.py
|   |-- abc.rst
|
|-- setup.py
|-- requirements.txt
|-- README

解释如下：

（1）bin/:存放项目的一些可执行文件，当然你可以起名script/之类的也行；

（2）foo/:存放项目的所有源代码。

　　1）源代码中的所有模块、包都应该放在此目录。不要置于顶层目录

　　2）其子目录tests/存放单元测试代码

　　3）程序的入口最好命名为main.py

（3）docs/：存放一些文档

（4）setup.py：安装、部署、打包的脚本

（5）requirement.txt存放软件以来的外部Python包列表

（6）README：项目说明文件

此外，有一些方案给出了更加多的内容。比如LICEBSE.txt，Changelog.txt文件等，这些东西主要是项目开源的时候需要用到。

各个目录的阐述

README内容

每个项目都应该有的一个文件，目的是简要描述该项目信息，让读者快速了解这个项目。

其需要说明以下几项：

（1）软件定位，软件基本功能；

（2）运行代码的方法：安装环境、启动命令等；

（3）简要的使用说明；

（4）代码目录结构说明，更详细点可以说明软件的基本原理；

（5）常见问题说明。

requirements.txt和setup.py

setup.py

一般，用setup.py来管理代码的打包、安装部署问题。业界标准的写法是用Python流行的打包工具setuptools来管理这些事情。这种方式普遍应用于开源项目中。不过这里的核心思想不是用标准化的工具来解决这些问题，而是说，一个项目一定要有一个安装部署工具，能快速便捷的在一台新机器上讲环境装好、代码部署好和讲程序运行起来。

例如：安装环境、部署代码、运行程序这个过程全是手动完成，就会遇到过以下问题:

1. 安装环境时经常忘了最近又添加了一个新的Python包，结果一到线上运行，程序就出错了。
2. Python包的版本依赖问题，有时候我们程序中使用的是一个版本的Python包，但是官方的已经是最新的包了，通过手动安装就可能装错了。
3. 如果依赖的包很多的话，一个一个安装这些依赖是很费时的事情。
4. 新同学开始写项目的时候，将程序跑起来非常麻烦，因为可能经常忘了要怎么安装各种依赖。

setup.py可以将这些事情自动化起来，提高效率、减少出错的概率。"复杂的东西自动化，能自动化的东西一定要自动化。"是一个非常好的习惯。

requirements.txt

这个文件存在的目的是：

　　（1）方便开发者维护软件的包依赖。将开发过程中新增的包添加进这个列表中，避免在setup.py安装依赖时漏掉软件包；

　　（2）方便读者明确项目使用了哪些Python包。

这个文件的格式是每一行包含一个包依赖的说明，通常是flask>=0.10这种格式。

配置文件的使用方法

很多项目对配置文件的使用做法是：

　　（1）模块的配置都是可以灵活配置的，不受外部配置文件的影响；

　　（2）程序的配置也是可以灵活控制的