1、列表生成式,迭代器&生成器

要求把列表[0,1,2,3,4,5,6,7,8,9]里面的每个值都加1,如何实现?

匿名函数实现:

a = map(lambda x:x+1, a)
for i in a:
    print(i)

列表生成式实现:

a = [i+1 for i in range(10)]

生成器

通过列表生成式,可以直接创建一个列表。但是,受到内存限制,列表容量肯定是有限的。而且,创建一个包含100万个元素的列表,不仅占用很大的存储空间,如果我们仅仅需要访问前面几个元素,那后面绝大多数元素占用的空间都白白浪费了。

所以,如果列表元素可以按照某种算法推算出来,那我们是否可以在循环的过程中不断推算出后续的元素呢?这样就不必创建完整的list,从而节省大量的空间。

在Python中,这种一边循环一边计算的机制,称为生成器:generator

要创建一个generator,有很多种方法。

第一种方法:只要把一个列表生成式的[ ]改成( ),就创建了一个generator:

L = [x * x for x in range(10)]

g = (x * x for x in range(10))

创建L和g的区别仅在于最外层的[ ]和( ),L是一个list,而g是一个generator。

要一个一个打印出来generator的元素,可以通过next( )函数获得generator的下一个返回值:

next(g)

generator保存的是算法,每次调用next(g),就计算出g的下一个元素的值,直到计算到最后一个元素,没有更多的元素时,抛出StopIteration的错误。

正确的调用方法使用for循环,因为generator也是可迭代对象:

g = (x * x for x in range(10))
for n in g:
    print(n)

所以,创建了一个generator后,基本上永远不会调用next( ),而是通过for循Iter的c环来迭代它,并且不需要关心StopIteration的错误。

generator非常强大。

如果推算的算法比较复杂,用类似列表生成式的for循环无法实现的时候,还可以用函数来显示。

例如:

著名的菲波那切数列,除第一个和第二个数外,任意一个数都可由前两个数相加得到:

1,1,2,3,5,8,13,21,34

用函数打印斐波那契数列:

def fib(max):
    n, a, b = 0, 0, 1
    while n < max:
        print(b)
        a, b = b, a + b
        n = n + 1
    return 'done'

此处的赋值语句:

a, b = b, a + b
#相当于:
t = (b, a + b)
a = t[0]
b = t[1]

不必显式写出临时变量t就可以赋值。

上面的函数可以输出菲波那切数列的前N个数:

fib(10)

fib函数实际上是定义了斐波那契额数列的推算规则,可以从第一个元素开始,推算出后续任意的元素,这种逻辑其实非常类似generator。

也就是说,上面的函数和generator仅差一步。要不fib函数变为generator,只需要把print(b)改为yield b即可:

def fib(max):
    n, a, b = 0, 0, 1

    while n < max:
        yield b
        a, b = b, a+b

        n += 1

    return 'done'

如果一个函数定义中包含yield关键字,那么这个函数就不再是一个普通函数,而是一个generator。

注意:gener和函数的执行流程不一样。

函数是顺序执行,遇到return语句或者最后一行函数语句就返回。

变为generator的函数,在每次调用next( )的时候执行,遇到yield语句返回,再次执行时从上次返回的yield语句处继续执行。

data = fib(10)
print(data)

print(data.__next__())
print(data.__next__())
print("干点别的事")
print(data.__next__())
print(data.__next__())
print(data.__next__())
print(data.__next__())
print(data.__next__())

#输出
<generator object fib at 0x101be02b0>
1
干点别的事
3
8

在上面fib的例子,在循环过程中不断调用yield,就会不断中断。当然要给循环设置一个条件来退出循环,不然就会产生一个无限数列出来。

同样的,把函数改成generator后,我们基本上从来不会用next()来获取下一个返回值,而是直接使用for循环来迭代:

for n in fib(6):
    print(n)

但是用for循环调用generator时,发现拿不到generator的return语句的返回值。如果想要拿到返回值,必须捕获StopIteration错误,返回值包含在StopIteration的value中:

g = fib(6)
while True:
    try:
        x = next(g)
        print('g:', x)
    except StopIteration as e:
        print("Generator return value:", e.value)
        break

还可通过yield实现在单线程的情况下实现并发运算的效果

#_*_coding:utf-8_*_
__author__ = 'Alex Li'

import time
def consumer(name):
    print("%s 准备吃包子啦!" %name)
    while True:
       baozi = yield

       print("包子[%s]来了,被[%s]吃了!" %(baozi,name))

def producer(name):
    c = consumer('A')
    c2 = consumer('B')
    c.__next__()
    c2.__next__()
    print("老子开始准备做包子啦!")
    for i in range(10):
        time.sleep(1)
        print("做了2个包子!")
        c.send(i)
        c2.send(i)

producer("alex")

迭代器

可以直接作用于for循环的数据类型有以下几种:

1、集合数据类型,如list、tuple、dict、set、str等;

2、generator,包括生成器和带yield的generator function

这些可以直接作用于for循环的对象统称为可迭代对象:Iterable。

可以使用isinstance()判断一个对象是否是Iterable对象:

>>> from collections import Iterable
>>> isinstance([], Iterable)
True
>>> isinstance({}, Iterable)
True
>>> isinstance('abc', Iterable)
True
>>> isinstance((x for x in range(10)), Iterable)
True
>>> isinstance(100, Iterable)
False

而生成器不但可以用于for循环,还可以被next( )函数不断调用并返回下一个值,直到最后抛出StopIteration错误表示无法继续返回下一个值了。

可以被next( )函数调用并不断返回下一个值的对象称为迭代器:Iterator。

可以使用isinstance( )判断一个对象是否是Iterator对象:

>>> from collections import Iterator
>>> isinstance((x for x in range(10)), Iterator)
True
>>> isinstance([], Iterator)
False
>>> isinstance({}, Iterator)
False
>>> isinstance('abc', Iterator)
False

生成器都是Iterator对象,但list、dict、str虽然是Iterable,却不是Iterator。

把list、dict、str等Iterable变成Iterator可以使用iter( )函数:

>>> isinstance(iter([]), Iterator)
True
>>> isinstance(iter('abc'), Iterator)
True

为什么list、dict、str等数据类型不是Iterator?

因为Python的Iter对象表示的是一个数据流,Iterator对象可以被next( )函数调用并不断返回下一个数据,直到没有数据时抛出StopIteration错误。可以把这个数据流看做是一个有序序列,但我们却不能提前知道序列的长度,只能不断通过next( )函数实现按需计算下一个数据,所以Iterator的计算是惰性的,只有在需要返回下一个数据时它才会计算。

Iterator甚至可以表示一个无限大的数据流,例如全体自然数。而使用list是永远不可能存储全体自然数的。

小结

凡是可作用于for循环的对象都是Iterable类型;

凡是可作用于next( )函数的对象都是Iterator类型,他们表示一个惰性计算的序列;

集合数据类型如list、dict、str等是Iterable但不是Iterator,不过可以通过iter( )函数获得一个Iterator对象。

Python的for循环,本质上就是通过不断调用next( )函数实现的,例如:

for x in [1, 2, 3, 4, 5]:
    pass

###完全等价于###

# 首先获得Iterator对象:
it = iter([1, 2, 3, 4, 5])
# 循环:
while True:
    try:
        # 获得下一个值:
        x = next(it)
    except StopIteration:
        # 遇到StopIteration就退出循环
        break

2、装饰器

软件开发原则:“开放-封闭”原则

封闭:已实现的功能代码块不应该被修改;

开放:对现有功能的扩展开放。

 2.1函数调用顺序

Python类似其他高级语言,不允许在函数为声明之前,对其进行引用或者调用

#正确示范
#Python为解释执行,函数foo在调用前已经声明了bar和foo,所以bar和foo无顺序之分
def bar():
    print "in the bar"
def foo():
    print "in the foo"
    bar()
foo()

def foo():
    print "in the foo"
    bar()
def bar():
    print "in the bar"
foo()

2.2高阶函数

满足下列条件之一就可以称函数为高阶函数

1、某一函数当做参数传入另一个函数中;

2、函数的返回值包含n个函数,n>0.

#高阶函数示范
def bar():
    print "in the bar"
def foo(func):
    res = func()
    return res
foo(bar)
#高阶函数的牛逼之处:
def foo(func):
    return func

print "Function body is %s" %(foo(bar))
print "Function name is %s" %(foo(bar).func_name)
foo(bar)()
#foo(bar)()等同于bar=foo(bar)然后bar()
bar=foo(bar)
bar()

2.3内嵌函数和变量作用域

定义:在一个函数内创建另外一个函数,这种函数就叫做内嵌函数(基于Python支持静态嵌套域)

#函数嵌套示范:
def foo():
    def bar():
        print "in the bar"

    bar()

foo()
#局部作用域和全局作用域的访问顺序
x = 0
def grandpa():
    # x=1
    def dad():
        x=2
        def son():
            x=3
            print(x)
         son()
    dad()
grandpa()
#局部变量修改对全局变量的影响
y=10
#def test():
#    y+=1
#    print(y)

def test():
    #global y
    y=2
    print(y)

test()
print(y)

def dad():
    m=1
    def son():
        n=2
        print "--->", m + n
    print "-->", m
    son()
dad()

2.4闭包

如果在一个内部函数里,对在外部作用域(但不是在全局作用域)的变量进行引用,那么内部函数就被认为是 closure

def counter(start_num=0):
    count=[start_num]
    def incr():
        count[0]+=1
        return count[0]
    return incr

print(counter())
print(counter()())

c=counter()
print(c())

2.5装饰器 = 内嵌函数+高阶函数+闭包

####例一:函数参数固定####
def decorartor(func):
    def wrapper(n):
        print("starting")
        func(n)
        print("stopping")
    return wrapper

def test(n):
    print("in the test arg is %s", %n)

decorartor(test)("alex")
####例二:函数参数不固定####
def decorartor(func):
    def wrapper(*args, **kwargs):
        print("starting")
        func(*args, **kwargs)
        print("stopping")
    return wrapper

def test(n, x=1):
    print("in the test arg is %s" %n)

decorartor(test)("alex", x=2)

2.5.1无参装饰器

import time
def decorator(func):
    def wrapper(*args, **kwargs):
        start=time.time()
        func(*args, **kwargs)
        stop=time.time()
        print("run time is %s"%(stop-start))
        print("timeout")
    return wrapper

@decorator
def test(list_test):
    for i in list_test:
        time.sleep(0.1)
        print("-"*20,i)

#decorator(test)(range(10))
test(range(10))

2.5.2有参装饰器

import time
def timer(timeout=0):
    def wrapper(*args, **kwargs):
        start=time.time()
        func(*args, **kwargs)
        stop=time.time()
        print("run time is %s"%(stop-start))
        print(timeout)
    return wrapper
return decorator

@timer(2)
def test(list_test):
    for i in list_test:
        time.sleep(0.1)
        print("-"*20,i)

#timer(timeout=10)(test)(range(10))
test(range(10))

3、软件目录结构规范

为什么要设计好目录结构?

设计一个层次清晰的目录结构,可以达到以下两点:

(1)可读性高:不熟悉这个项目代码的人,一眼就能看懂目录结构,知道程序启动脚本是哪个,测试目录在哪,配置文件在哪等等。从而非常快速的了解这个项目;

(2)可维护性高:定义好组织规则后,维护者就能很明确地知道,新增的哪个文件和代码应该放在什么目录下。这个好处是,随着时间的推移,代码/配置的规则增加,项目结构不会混乱,仍然能够组织良好。

目录组织方式

假设项目名为foo,最方便快捷的目录结构这样就足够了:

Foo/
|-- bin/
|   |-- foo
|
|-- foo/
|   |-- tests/
|   |   |-- __init__.py
|   |   |-- test_main.py
|   |
|   |-- __init__.py
|   |-- main.py
|
|-- docs/
|   |-- conf.py
|   |-- abc.rst
|
|-- setup.py
|-- requirements.txt
|-- README

解释如下:

(1)bin/:存放项目的一些可执行文件,当然你可以起名script/之类的也行;

(2)foo/:存放项目的所有源代码。

  1)源代码中的所有模块、包都应该放在此目录。不要置于顶层目录

  2)其子目录tests/存放单元测试代码

  3)程序的入口最好命名为main.py

(3)docs/:存放一些文档

(4)setup.py:安装、部署、打包的脚本

(5)requirement.txt存放软件以来的外部Python包列表

(6)README:项目说明文件

此外,有一些方案给出了更加多的内容。比如LICEBSE.txt,Changelog.txt文件等,这些东西主要是项目开源的时候需要用到。

各个目录的阐述

README内容

每个项目都应该有的一个文件,目的是简要描述该项目信息,让读者快速了解这个项目。

其需要说明以下几项:

(1)软件定位,软件基本功能;

(2)运行代码的方法:安装环境、启动命令等;

(3)简要的使用说明;

(4)代码目录结构说明,更详细点可以说明软件的基本原理;

(5)常见问题说明。

requirements.txt和setup.py

setup.py

一般,用setup.py来管理代码的打包、安装部署问题。业界标准的写法是用Python流行的打包工具setuptools来管理这些事情。这种方式普遍应用于开源项目中。不过这里的核心思想不是用标准化的工具来解决这些问题,而是说,一个项目一定要有一个安装部署工具,能快速便捷的在一台新机器上讲环境装好、代码部署好和讲程序运行起来。

例如:安装环境、部署代码、运行程序这个过程全是手动完成,就会遇到过以下问题:

  1. 安装环境时经常忘了最近又添加了一个新的Python包,结果一到线上运行,程序就出错了。
  2. Python包的版本依赖问题,有时候我们程序中使用的是一个版本的Python包,但是官方的已经是最新的包了,通过手动安装就可能装错了。
  3. 如果依赖的包很多的话,一个一个安装这些依赖是很费时的事情。
  4. 新同学开始写项目的时候,将程序跑起来非常麻烦,因为可能经常忘了要怎么安装各种依赖。

setup.py可以将这些事情自动化起来,提高效率、减少出错的概率。"复杂的东西自动化,能自动化的东西一定要自动化。"是一个非常好的习惯。

requirements.txt

这个文件存在的目的是:

  (1)方便开发者维护软件的包依赖。将开发过程中新增的包添加进这个列表中,避免在setup.py安装依赖时漏掉软件包;

  (2)方便读者明确项目使用了哪些Python包。

这个文件的格式是每一行包含一个包依赖的说明,通常是flask>=0.10这种格式。

配置文件的使用方法

很多项目对配置文件的使用做法是:

  (1)模块的配置都是可以灵活配置的,不受外部配置文件的影响;

  (2)程序的配置也是可以灵活控制的

7th,Python基础4——迭代器、生成器、装饰器、Json&pickle数据序列化、软件目录结构规范的更多相关文章

  1. 迭代器/生成器/装饰器 /Json & pickle 数据序列化

    本节内容 迭代器&生成器 装饰器 Json & pickle 数据序列化 软件目录结构规范 作业:ATM项目开发 1.列表生成式,迭代器&生成器 列表生成式 孩子,我现在有个需 ...

  2. Python-Day4 Python基础进阶之生成器/迭代器/装饰器/Json & pickle 数据序列化

    一.生成器 通过列表生成式,我们可以直接创建一个列表.但是,受到内存限制,列表容量肯定是有限的.而且,创建一个包含100万个元素的列表,不仅占用很大的存储空间,如果我们仅仅需要访问前面几个元素,那后面 ...

  3. Day4 - Python基础4 迭代器、装饰器、软件开发规范

    Python之路,Day4 - Python基础4 (new版)   本节内容 迭代器&生成器 装饰器 Json & pickle 数据序列化 软件目录结构规范 作业:ATM项目开发 ...

  4. Python基础4 迭代器、装饰器、软件开发规范

    本节内容 迭代器&生成器 装饰器 Json & pickle 数据序列化 软件目录结构规范 作业:ATM项目开发 1.列表生成式,迭代器&生成器 列表生成式 孩子,我现在有个需 ...

  5. python基础之迭代器、装饰器、软件开发目录结构规范

    生成器 通过列表生成式,我们可以直接创建一个列表.但是,受到内存限制,列表容量肯定是有限的.而且,创建一个包含100万个元素的列表,不仅占用很大的存储空间,如果我们仅仅需要访问前面几个元素,那后面绝大 ...

  6. Python基础-迭代器&生成器&装饰器

    本节内容 迭代器&生成器 装饰器 Json & pickle 数据序列化 软件目录结构规范 作业:ATM项目开发 1.列表生成式,迭代器&生成器 列表生成式 我现在有个需求,看 ...

  7. python中的迭代器&&生成器&&装饰器

    迭代器iterator 迭代器是访问集合元素的一种方式.迭代器对象从集合的第一个元素开始访问,直到所有的元素被访问完结束. 迭代器只能往前不会后退,不过这也没什么,因为人们很少在迭代途中往后退.另外, ...

  8. python中的迭代器 生成器 装饰器

    什么迭代器呢?它是一个带状态的对象,他能在你调用next()方法的时候返回容器中的下一个值,任何实现了__iter__和__next__()(python2中实现next())方法的对象都是迭代器,_ ...

  9. python基础之迭代器生成装饰器

    基本概念 1.容器(container) 容器是一种把多个元素组织在一起的数据结构,容器中的元素可以逐个地迭代获取,可以用in, not in关键字判断元素是否包含在容器中.通常这类数据结构把所有的元 ...

  10. python学习之路-day4-装饰器&json&pickle

    本节内容 迭代器&生成器 装饰器 Json & pickle 数据序列化 一.生成器 1.列表生成式 >>> L = [x * x for x in range(10 ...

随机推荐

  1. python 第三方扩展库的安装

    主要就是采用 easy_install 和pip安装,一定要把这两个东西安装好.http://peak.telecommunity.com/DevCenter/EasyInstall下载ez_setu ...

  2. super方法 调用父类的方法

    描述 super() 函数是用于调用父类(超类)的一个方法. super 是用来解决多重继承问题的,直接用类名调用父类方法在使用单继承的时候没问题,但是如果使用多继承,会涉及到查找顺序(MRO).重复 ...

  3. ifcfg命令

    ifcfg命令是一个bash脚本程序,用来设置Linux中的网络接口参数. 语法 ifcfg(参数) 参数 网络接口:指定要操作的网络接口: add/del:添加或删除网络接口上的地址: ip地址:指 ...

  4. 下载频道--IT资源关东煮第二期[申明:来源于网络]

    下载频道–IT资源关东煮第二期[申明:来源于网络] 地址:http://geek.csdn.net/news/detail/129509?ref=myread

  5. SpringMVC访问静态资源的三种方式

    如何你的DispatcherServlet拦截 *.do这样的URL,就不存在访问不到静态资源的问题.如果你的DispatcherServlet拦截“/”,拦截了所有的请求,同时对*.js,*.jpg ...

  6. java的几种对象(PO,VO,DAO,BO,POJO,DTO)解释

    一.PO:persistant object 持久对象,可以看成是与数据库中的表相映射的java对象.最简单的PO就是对应数据库中某个表中的一条记录,多个记录可以用PO的集合.PO中应该不包含任何对数 ...

  7. [daily] 比端口转发更高级的ssh device tunnel转发

    没有什么能够阻挡,你对自由的向往. 场景: 我有一台设备Server100,在某一个f复杂的内网里,需要多次ssh跳转可以访问到.但是它不能直接访问internet. 我现在需要在我的ssh路径上,搭 ...

  8. Fiddler (进阶)内置命令与断点

    Fiddler 内置命令与断点 命令 对应请求项 介绍 示例 ? All 问号后边跟一个字符串,可以匹配出包含这个字符串的请求 ?google > Body 大于号后面跟一个数字,可以匹配出请求 ...

  9. php 与mysql 数据库

    新手上路,php刚学,数据库刚学,花了两天终于读到数据库的数据了. 一路上的坎坷我在这里吐槽吐槽: <?php $mysql_server_name='localhost'; //改成自己的my ...

  10. numactl 修改 非统一内存访问架构 NUMA(Non Uniform Memory Access Architecture)模式

    当今数据计算领域的主要应用程序和模型可大致分为三大类: (1)联机事务处理(OLTP). (2)决策支持系统(DSS) (3)企业信息通讯(BusinessCommunications) 上述三类系统 ...