7th,Python基础4——迭代器、生成器、装饰器、Json&pickle数据序列化、软件目录结构规范
1、列表生成式,迭代器&生成器
要求把列表[0,1,2,3,4,5,6,7,8,9]里面的每个值都加1,如何实现?
匿名函数实现:
a = map(lambda x:x+1, a) for i in a: print(i)
列表生成式实现:
a = [i+1 for i in range(10)]
生成器
通过列表生成式,可以直接创建一个列表。但是,受到内存限制,列表容量肯定是有限的。而且,创建一个包含100万个元素的列表,不仅占用很大的存储空间,如果我们仅仅需要访问前面几个元素,那后面绝大多数元素占用的空间都白白浪费了。
所以,如果列表元素可以按照某种算法推算出来,那我们是否可以在循环的过程中不断推算出后续的元素呢?这样就不必创建完整的list,从而节省大量的空间。
在Python中,这种一边循环一边计算的机制,称为生成器:generator
要创建一个generator,有很多种方法。
第一种方法:只要把一个列表生成式的[ ]改成( ),就创建了一个generator:
L = [x * x for x in range(10)] g = (x * x for x in range(10))
创建L和g的区别仅在于最外层的[ ]和( ),L是一个list,而g是一个generator。
要一个一个打印出来generator的元素,可以通过next( )函数获得generator的下一个返回值:
next(g)
generator保存的是算法,每次调用next(g),就计算出g的下一个元素的值,直到计算到最后一个元素,没有更多的元素时,抛出StopIteration的错误。
正确的调用方法使用for循环,因为generator也是可迭代对象:
g = (x * x for x in range(10)) for n in g: print(n)
所以,创建了一个generator后,基本上永远不会调用next( ),而是通过for循Iter的c环来迭代它,并且不需要关心StopIteration的错误。
generator非常强大。
如果推算的算法比较复杂,用类似列表生成式的for循环无法实现的时候,还可以用函数来显示。
例如:
著名的菲波那切数列,除第一个和第二个数外,任意一个数都可由前两个数相加得到:
1,1,2,3,5,8,13,21,34
用函数打印斐波那契数列:
def fib(max): n, a, b = 0, 0, 1 while n < max: print(b) a, b = b, a + b n = n + 1 return 'done'
此处的赋值语句:
a, b = b, a + b #相当于: t = (b, a + b) a = t[0] b = t[1]
不必显式写出临时变量t就可以赋值。
上面的函数可以输出菲波那切数列的前N个数:
fib(10)
fib函数实际上是定义了斐波那契额数列的推算规则,可以从第一个元素开始,推算出后续任意的元素,这种逻辑其实非常类似generator。
也就是说,上面的函数和generator仅差一步。要不fib函数变为generator,只需要把print(b)改为yield b即可:
def fib(max): n, a, b = 0, 0, 1 while n < max: yield b a, b = b, a+b n += 1 return 'done'
如果一个函数定义中包含yield关键字,那么这个函数就不再是一个普通函数,而是一个generator。
注意:gener和函数的执行流程不一样。
函数是顺序执行,遇到return语句或者最后一行函数语句就返回。
变为generator的函数,在每次调用next( )的时候执行,遇到yield语句返回,再次执行时从上次返回的yield语句处继续执行。
data = fib(10) print(data) print(data.__next__()) print(data.__next__()) print("干点别的事") print(data.__next__()) print(data.__next__()) print(data.__next__()) print(data.__next__()) print(data.__next__()) #输出 <generator object fib at 0x101be02b0> 1 干点别的事 3 8
在上面fib的例子,在循环过程中不断调用yield,就会不断中断。当然要给循环设置一个条件来退出循环,不然就会产生一个无限数列出来。
同样的,把函数改成generator后,我们基本上从来不会用next()来获取下一个返回值,而是直接使用for循环来迭代:
for n in fib(6): print(n)
但是用for循环调用generator时,发现拿不到generator的return语句的返回值。如果想要拿到返回值,必须捕获StopIteration错误,返回值包含在StopIteration的value中:
g = fib(6) while True: try: x = next(g) print('g:', x) except StopIteration as e: print("Generator return value:", e.value) break
还可通过yield实现在单线程的情况下实现并发运算的效果
#_*_coding:utf-8_*_ __author__ = 'Alex Li' import time def consumer(name): print("%s 准备吃包子啦!" %name) while True: baozi = yield print("包子[%s]来了,被[%s]吃了!" %(baozi,name)) def producer(name): c = consumer('A') c2 = consumer('B') c.__next__() c2.__next__() print("老子开始准备做包子啦!") for i in range(10): time.sleep(1) print("做了2个包子!") c.send(i) c2.send(i) producer("alex")
迭代器
可以直接作用于for循环的数据类型有以下几种:
1、集合数据类型,如list、tuple、dict、set、str等;
2、generator,包括生成器和带yield的generator function
这些可以直接作用于for循环的对象统称为可迭代对象:Iterable。
可以使用isinstance()判断一个对象是否是Iterable对象:
>>> from collections import Iterable >>> isinstance([], Iterable) True >>> isinstance({}, Iterable) True >>> isinstance('abc', Iterable) True >>> isinstance((x for x in range(10)), Iterable) True >>> isinstance(100, Iterable) False
而生成器不但可以用于for循环,还可以被next( )函数不断调用并返回下一个值,直到最后抛出StopIteration错误表示无法继续返回下一个值了。
可以被next( )函数调用并不断返回下一个值的对象称为迭代器:Iterator。
可以使用isinstance( )判断一个对象是否是Iterator对象:
>>> from collections import Iterator >>> isinstance((x for x in range(10)), Iterator) True >>> isinstance([], Iterator) False >>> isinstance({}, Iterator) False >>> isinstance('abc', Iterator) False
生成器都是Iterator对象,但list、dict、str虽然是Iterable,却不是Iterator。
把list、dict、str等Iterable变成Iterator可以使用iter( )函数:
>>> isinstance(iter([]), Iterator) True >>> isinstance(iter('abc'), Iterator) True
为什么list、dict、str等数据类型不是Iterator?
因为Python的Iter对象表示的是一个数据流,Iterator对象可以被next( )函数调用并不断返回下一个数据,直到没有数据时抛出StopIteration错误。可以把这个数据流看做是一个有序序列,但我们却不能提前知道序列的长度,只能不断通过next( )函数实现按需计算下一个数据,所以Iterator的计算是惰性的,只有在需要返回下一个数据时它才会计算。
Iterator甚至可以表示一个无限大的数据流,例如全体自然数。而使用list是永远不可能存储全体自然数的。
小结
凡是可作用于for循环的对象都是Iterable类型;
凡是可作用于next( )函数的对象都是Iterator类型,他们表示一个惰性计算的序列;
集合数据类型如list、dict、str等是Iterable但不是Iterator,不过可以通过iter( )函数获得一个Iterator对象。
Python的for循环,本质上就是通过不断调用next( )函数实现的,例如:
for x in [1, 2, 3, 4, 5]: pass ###完全等价于### # 首先获得Iterator对象: it = iter([1, 2, 3, 4, 5]) # 循环: while True: try: # 获得下一个值: x = next(it) except StopIteration: # 遇到StopIteration就退出循环 break
2、装饰器
软件开发原则:“开放-封闭”原则
封闭:已实现的功能代码块不应该被修改;
开放:对现有功能的扩展开放。
2.1函数调用顺序
Python类似其他高级语言,不允许在函数为声明之前,对其进行引用或者调用
#正确示范 #Python为解释执行,函数foo在调用前已经声明了bar和foo,所以bar和foo无顺序之分 def bar(): print "in the bar" def foo(): print "in the foo" bar() foo() def foo(): print "in the foo" bar() def bar(): print "in the bar" foo()
2.2高阶函数
满足下列条件之一就可以称函数为高阶函数
1、某一函数当做参数传入另一个函数中;
2、函数的返回值包含n个函数,n>0.
#高阶函数示范 def bar(): print "in the bar" def foo(func): res = func() return res foo(bar)
#高阶函数的牛逼之处: def foo(func): return func print "Function body is %s" %(foo(bar)) print "Function name is %s" %(foo(bar).func_name) foo(bar)() #foo(bar)()等同于bar=foo(bar)然后bar() bar=foo(bar) bar()
2.3内嵌函数和变量作用域
定义:在一个函数内创建另外一个函数,这种函数就叫做内嵌函数(基于Python支持静态嵌套域)
#函数嵌套示范: def foo(): def bar(): print "in the bar" bar() foo()
#局部作用域和全局作用域的访问顺序 x = 0 def grandpa(): # x=1 def dad(): x=2 def son(): x=3 print(x) son() dad() grandpa()
#局部变量修改对全局变量的影响 y=10 #def test(): # y+=1 # print(y) def test(): #global y y=2 print(y) test() print(y) def dad(): m=1 def son(): n=2 print "--->", m + n print "-->", m son() dad()
2.4闭包
如果在一个内部函数里,对在外部作用域(但不是在全局作用域)的变量进行引用,那么内部函数就被认为是 closure
def counter(start_num=0): count=[start_num] def incr(): count[0]+=1 return count[0] return incr print(counter()) print(counter()()) c=counter() print(c())
2.5装饰器 = 内嵌函数+高阶函数+闭包
####例一:函数参数固定#### def decorartor(func): def wrapper(n): print("starting") func(n) print("stopping") return wrapper def test(n): print("in the test arg is %s", %n) decorartor(test)("alex")
####例二:函数参数不固定#### def decorartor(func): def wrapper(*args, **kwargs): print("starting") func(*args, **kwargs) print("stopping") return wrapper def test(n, x=1): print("in the test arg is %s" %n) decorartor(test)("alex", x=2)
2.5.1无参装饰器
import time def decorator(func): def wrapper(*args, **kwargs): start=time.time() func(*args, **kwargs) stop=time.time() print("run time is %s"%(stop-start)) print("timeout") return wrapper @decorator def test(list_test): for i in list_test: time.sleep(0.1) print("-"*20,i) #decorator(test)(range(10)) test(range(10))
2.5.2有参装饰器
import time def timer(timeout=0): def wrapper(*args, **kwargs): start=time.time() func(*args, **kwargs) stop=time.time() print("run time is %s"%(stop-start)) print(timeout) return wrapper return decorator @timer(2) def test(list_test): for i in list_test: time.sleep(0.1) print("-"*20,i) #timer(timeout=10)(test)(range(10)) test(range(10))
3、软件目录结构规范
为什么要设计好目录结构?
设计一个层次清晰的目录结构,可以达到以下两点:
(1)可读性高:不熟悉这个项目代码的人,一眼就能看懂目录结构,知道程序启动脚本是哪个,测试目录在哪,配置文件在哪等等。从而非常快速的了解这个项目;
(2)可维护性高:定义好组织规则后,维护者就能很明确地知道,新增的哪个文件和代码应该放在什么目录下。这个好处是,随着时间的推移,代码/配置的规则增加,项目结构不会混乱,仍然能够组织良好。
目录组织方式
假设项目名为foo,最方便快捷的目录结构这样就足够了:
Foo/
|-- bin/
| |-- foo
|
|-- foo/
| |-- tests/
| | |-- __init__.py
| | |-- test_main.py
| |
| |-- __init__.py
| |-- main.py
|
|-- docs/
| |-- conf.py
| |-- abc.rst
|
|-- setup.py
|-- requirements.txt
|-- README
解释如下:
(1)bin/:存放项目的一些可执行文件,当然你可以起名script/之类的也行;
(2)foo/:存放项目的所有源代码。
1)源代码中的所有模块、包都应该放在此目录。不要置于顶层目录
2)其子目录tests/存放单元测试代码
3)程序的入口最好命名为main.py
(3)docs/:存放一些文档
(4)setup.py:安装、部署、打包的脚本
(5)requirement.txt存放软件以来的外部Python包列表
(6)README:项目说明文件
此外,有一些方案给出了更加多的内容。比如LICEBSE.txt,Changelog.txt文件等,这些东西主要是项目开源的时候需要用到。
各个目录的阐述
README内容
每个项目都应该有的一个文件,目的是简要描述该项目信息,让读者快速了解这个项目。
其需要说明以下几项:
(1)软件定位,软件基本功能;
(2)运行代码的方法:安装环境、启动命令等;
(3)简要的使用说明;
(4)代码目录结构说明,更详细点可以说明软件的基本原理;
(5)常见问题说明。
requirements.txt和setup.py
setup.py
一般,用setup.py来管理代码的打包、安装部署问题。业界标准的写法是用Python流行的打包工具setuptools来管理这些事情。这种方式普遍应用于开源项目中。不过这里的核心思想不是用标准化的工具来解决这些问题,而是说,一个项目一定要有一个安装部署工具,能快速便捷的在一台新机器上讲环境装好、代码部署好和讲程序运行起来。
例如:安装环境、部署代码、运行程序这个过程全是手动完成,就会遇到过以下问题:
- 安装环境时经常忘了最近又添加了一个新的Python包,结果一到线上运行,程序就出错了。
- Python包的版本依赖问题,有时候我们程序中使用的是一个版本的Python包,但是官方的已经是最新的包了,通过手动安装就可能装错了。
- 如果依赖的包很多的话,一个一个安装这些依赖是很费时的事情。
- 新同学开始写项目的时候,将程序跑起来非常麻烦,因为可能经常忘了要怎么安装各种依赖。
setup.py
可以将这些事情自动化起来,提高效率、减少出错的概率。"复杂的东西自动化,能自动化的东西一定要自动化。"是一个非常好的习惯。
requirements.txt
这个文件存在的目的是:
(1)方便开发者维护软件的包依赖。将开发过程中新增的包添加进这个列表中,避免在setup.py安装依赖时漏掉软件包;
(2)方便读者明确项目使用了哪些Python包。
这个文件的格式是每一行包含一个包依赖的说明,通常是flask>=0.10这种格式。
配置文件的使用方法
很多项目对配置文件的使用做法是:
(1)模块的配置都是可以灵活配置的,不受外部配置文件的影响;
(2)程序的配置也是可以灵活控制的
7th,Python基础4——迭代器、生成器、装饰器、Json&pickle数据序列化、软件目录结构规范的更多相关文章
- 迭代器/生成器/装饰器 /Json & pickle 数据序列化
本节内容 迭代器&生成器 装饰器 Json & pickle 数据序列化 软件目录结构规范 作业:ATM项目开发 1.列表生成式,迭代器&生成器 列表生成式 孩子,我现在有个需 ...
- Python-Day4 Python基础进阶之生成器/迭代器/装饰器/Json & pickle 数据序列化
一.生成器 通过列表生成式,我们可以直接创建一个列表.但是,受到内存限制,列表容量肯定是有限的.而且,创建一个包含100万个元素的列表,不仅占用很大的存储空间,如果我们仅仅需要访问前面几个元素,那后面 ...
- Day4 - Python基础4 迭代器、装饰器、软件开发规范
Python之路,Day4 - Python基础4 (new版) 本节内容 迭代器&生成器 装饰器 Json & pickle 数据序列化 软件目录结构规范 作业:ATM项目开发 ...
- Python基础4 迭代器、装饰器、软件开发规范
本节内容 迭代器&生成器 装饰器 Json & pickle 数据序列化 软件目录结构规范 作业:ATM项目开发 1.列表生成式,迭代器&生成器 列表生成式 孩子,我现在有个需 ...
- python基础之迭代器、装饰器、软件开发目录结构规范
生成器 通过列表生成式,我们可以直接创建一个列表.但是,受到内存限制,列表容量肯定是有限的.而且,创建一个包含100万个元素的列表,不仅占用很大的存储空间,如果我们仅仅需要访问前面几个元素,那后面绝大 ...
- Python基础-迭代器&生成器&装饰器
本节内容 迭代器&生成器 装饰器 Json & pickle 数据序列化 软件目录结构规范 作业:ATM项目开发 1.列表生成式,迭代器&生成器 列表生成式 我现在有个需求,看 ...
- python中的迭代器&&生成器&&装饰器
迭代器iterator 迭代器是访问集合元素的一种方式.迭代器对象从集合的第一个元素开始访问,直到所有的元素被访问完结束. 迭代器只能往前不会后退,不过这也没什么,因为人们很少在迭代途中往后退.另外, ...
- python中的迭代器 生成器 装饰器
什么迭代器呢?它是一个带状态的对象,他能在你调用next()方法的时候返回容器中的下一个值,任何实现了__iter__和__next__()(python2中实现next())方法的对象都是迭代器,_ ...
- python基础之迭代器生成装饰器
基本概念 1.容器(container) 容器是一种把多个元素组织在一起的数据结构,容器中的元素可以逐个地迭代获取,可以用in, not in关键字判断元素是否包含在容器中.通常这类数据结构把所有的元 ...
- python学习之路-day4-装饰器&json&pickle
本节内容 迭代器&生成器 装饰器 Json & pickle 数据序列化 一.生成器 1.列表生成式 >>> L = [x * x for x in range(10 ...
随机推荐
- python 第三方扩展库的安装
主要就是采用 easy_install 和pip安装,一定要把这两个东西安装好.http://peak.telecommunity.com/DevCenter/EasyInstall下载ez_setu ...
- super方法 调用父类的方法
描述 super() 函数是用于调用父类(超类)的一个方法. super 是用来解决多重继承问题的,直接用类名调用父类方法在使用单继承的时候没问题,但是如果使用多继承,会涉及到查找顺序(MRO).重复 ...
- ifcfg命令
ifcfg命令是一个bash脚本程序,用来设置Linux中的网络接口参数. 语法 ifcfg(参数) 参数 网络接口:指定要操作的网络接口: add/del:添加或删除网络接口上的地址: ip地址:指 ...
- 下载频道--IT资源关东煮第二期[申明:来源于网络]
下载频道–IT资源关东煮第二期[申明:来源于网络] 地址:http://geek.csdn.net/news/detail/129509?ref=myread
- SpringMVC访问静态资源的三种方式
如何你的DispatcherServlet拦截 *.do这样的URL,就不存在访问不到静态资源的问题.如果你的DispatcherServlet拦截“/”,拦截了所有的请求,同时对*.js,*.jpg ...
- java的几种对象(PO,VO,DAO,BO,POJO,DTO)解释
一.PO:persistant object 持久对象,可以看成是与数据库中的表相映射的java对象.最简单的PO就是对应数据库中某个表中的一条记录,多个记录可以用PO的集合.PO中应该不包含任何对数 ...
- [daily] 比端口转发更高级的ssh device tunnel转发
没有什么能够阻挡,你对自由的向往. 场景: 我有一台设备Server100,在某一个f复杂的内网里,需要多次ssh跳转可以访问到.但是它不能直接访问internet. 我现在需要在我的ssh路径上,搭 ...
- Fiddler (进阶)内置命令与断点
Fiddler 内置命令与断点 命令 对应请求项 介绍 示例 ? All 问号后边跟一个字符串,可以匹配出包含这个字符串的请求 ?google > Body 大于号后面跟一个数字,可以匹配出请求 ...
- php 与mysql 数据库
新手上路,php刚学,数据库刚学,花了两天终于读到数据库的数据了. 一路上的坎坷我在这里吐槽吐槽: <?php $mysql_server_name='localhost'; //改成自己的my ...
- numactl 修改 非统一内存访问架构 NUMA(Non Uniform Memory Access Architecture)模式
当今数据计算领域的主要应用程序和模型可大致分为三大类: (1)联机事务处理(OLTP). (2)决策支持系统(DSS) (3)企业信息通讯(BusinessCommunications) 上述三类系统 ...