python subprocess相关操作

python subprocess常用操作

1.subprocess模块的常用函数

函数	描述
subprocess.run()	Python 3.5中新增的函数。执行指定的命令，等待命令执行完成后返回一个包含执行结果的CompletedProcess类的实例。
subprocess.call()	执行指定的命令，返回命令执行状态，其功能类似于os.system(cmd)。
subprocess.check_call()	Python 2.5中新增的函数。执行指定的命令，如果执行成功则返回状态码，否则抛出异常。其功能等价于subprocess.run(..., check=True)。
subprocess.check_output()	Python 2.7中新增的的函数。执行指定的命令，如果执行状态码为0则返回命令执行结果，否则抛出异常。
subprocess.getoutput(cmd)	接收字符串格式的命令，执行命令并返回执行结果，其功能类似于os.popen(cmd).read()和commands.getoutput(cmd)。
subprocess.getstatusoutput(cmd)	执行cmd命令，返回一个元组(命令执行状态, 命令执行结果输出)，其功能类似于commands.getstatusoutput()。

说明

在Python 3.5之后的版本中，官方文档中提倡通过subprocess.run()函数替代其他函数来使用subproccess模块的功能；
在Python 3.5之前的版本中，我们可以通过subprocess.call()，subprocess.getoutput()等上面列出的其他函数来使用subprocess模块的功能；
subprocess.run()、subprocess.call()、subprocess.check_call()和subprocess.check_output()都是通过对subprocess.Popen的封装来实现的高级函数，因此如果我们需要更复杂功能时，可以通过subprocess.Popen来完成。
subprocess.getoutput()和subprocess.getstatusoutput()函数是来自Python 2.x的commands模块的两个遗留函数。它们隐式的调用系统shell，并且不保证其他函数所具有的安全性和异常处理的一致性。另外，它们从Python 3.3.4开始才支持Windows平台。

2.各函数定义及参数说明

subprocess.run(args, *, stdin=None, input=None, stdout=None, stderr=None, shell=False, timeout=None, check=False, universal_newlines=False)

subprocess.call(args, *, stdin=None, stdout=None, stderr=None, shell=False, timeout=None)

subprocess.check_call(args, *, stdin=None, stdout=None, stderr=None, shell=False, timeout=None)

subprocess.check_output(args, *, stdin=None, stderr=None, shell=False, universal_newlines=False, timeout=None)

subprocess.getstatusoutput(cmd)

subprocess.getoutput(cmd)

args： 要执行的shell命令，默认应该是一个字符串序列，如['df', '-Th']或('df', '-Th')，也可以是一个字符串，如'df -Th'，但是此时需要把shell参数的值置为True。
shell： 如果shell为True，那么指定的命令将通过shell执行。如果我们需要访问某些shell的特性，如管道、文件名通配符、环境变量扩展功能，这将是非常有用的。当然，python本身也提供了许多类似shell的特性的实现，如glob、fnmatch、os.walk()、os.path.expandvars()、os.expanduser()和shutil等。
check： 如果check参数的值是True，且执行命令的进程以非0状态码退出，则会抛出一个CalledProcessError的异常，且该异常对象会包含参数、退出状态码、以及stdout和stderr(如果它们有被捕获的话)。
stdout, stderr：****input： 该参数是传递给Popen.communicate()，通常该参数的值必须是一个字节序列，如果universal_newlines=True，则其值应该是一个字符串。
- run()函数默认不会捕获命令执行结果的正常输出和错误输出，如果我们向获取这些内容需要传递subprocess.PIPE，然后可以通过返回的CompletedProcess类实例的stdout和stderr属性或捕获相应的内容；
- call()和check_call()函数返回的是命令执行的状态码，而不是CompletedProcess类实例，所以对于它们而言，stdout和stderr不适合赋值为subprocess.PIPE；
- check_output()函数默认就会返回命令执行结果，所以不用设置stdout的值，如果我们希望在结果中捕获错误信息，可以执行stderr=subprocess.STDOUT。
universal_newlines： 该参数影响的是输入与输出的数据格式，比如它的值默认为False，此时stdout和stderr的输出是字节序列；当该参数的值设置为True时，stdout和stderr的输出是字符串。

3. subprocess.CompletedProcess类介绍

需要说明的是，subprocess.run()函数是Python3.5中新增的一个高级函数，其返回值是一个subprocess.CompletedPorcess类的实例，因此，subprocess.completedPorcess类也是Python 3.5中才存在的。它表示的是一个已结束进程的状态信息，它所包含的属性如下：

args： 用于加载该进程的参数，这可能是一个列表或一个字符串
returncode： 子进程的退出状态码。通常情况下，退出状态码为0则表示进程成功运行了；一个负值-N表示这个子进程被信号N终止了
stdout： 从子进程捕获的stdout。这通常是一个字节序列，如果run()函数被调用时指定universal_newlines=True，则该属性值是一个字符串。如果run()函数被调用时指定stderr=subprocess.STDOUT，那么stdout和stderr将会被整合到这一个属性中，且stderr将会为None
stderr： 从子进程捕获的stderr。它的值与stdout一样，是一个字节序列或一个字符串。如果stderr灭有被捕获的话，它的值就为None
check_returncode()： 如果returncode是一个非0值，则该方法会抛出一个CalledProcessError异常。

4.实例

1.subprocess.run()

返回的是CompletedProcess类

subprocess.run("dir /b", shell=True, stdout=subprocess.PIPE, stderr=subprocess.PIPE)

subprocess.run(["adb","devices"])

2.subprocess.call()

相当于os.system(),直接返回结果

subprocess.call("dir /b", shell=True)

3.subprocess.check_call()

执行成功返回状态码，否则返回异常

subprocess.check_call("dir /b", shell=True)

4.subprocess.check_output()

执行成功会检查，执行成功则正常返回执行结果，否则抛出异常，默认返回的是字节，可以添加universal_newlines=True返回正常字符

subprocess.check_output("adb devices")

subprocess.check_output("adb devices", universal_newlines=True)

5.subprocess.getoutput()

获取命令的执行结果，相当于os.popen().read()，返回的是执行结果

subprocess.getoutput("adb devices")

os.popen("adb devices").read()

6.subprocess.getstatusoutput()

返回的是一个元组(执行状态码，执行结果)

subprocess.getstatusoutput("adb devices")

5.subprocess.Popen介绍

该类用于在一个新的进程中执行一个子程序。前面我们提到过，上面介绍的这些函数都是基于subprocess.Popen类实现的，通过使用这些被封装后的高级函数可以很方面的完成一些常见的需求。由于subprocess模块底层的进程创建和管理是由Popen类来处理的，因此，当我们无法通过上面哪些高级函数来实现一些不太常见的功能时就可以通过subprocess.Popen类提供的灵活的api来完成

1.subprocess.Popen的构造函数

def __init__(self, args, bufsize=-1, executable=None,

             stdin=None, stdout=None, stderr=None,

             preexec_fn=None, close_fds=_PLATFORM_DEFAULT_CLOSE_FDS,

             shell=False, cwd=None, env=None, universal_newlines=False,

             startupinfo=None, creationflags=0,

             restore_signals=True, start_new_session=False,

             pass_fds=(), *, encoding=None, errors=None):

args： 要执行的shell命令，可以是字符串，也可以是命令各个参数组成的序列。当该参数的值是一个字符串时，该命令的解释过程是与平台相关的，因此通常建议将args参数作为一个序列传递。
bufsize： 指定缓存策略，0表示不缓冲，1表示行缓冲，其他大于1的数字表示缓冲区大小，负数表示使用系统默认缓冲策略。
stdin, stdout, stderr： 分别表示程序标准输入、输出、错误句柄。
preexec_fn： 用于指定一个将在子进程运行之前被调用的可执行对象，只在Unix平台下有效
close_fds： 如果该参数的值为True，则除了0,1和2之外的所有文件描述符都将会在子进程执行之前被关闭。
shell： 该参数用于标识是否使用shell作为要执行的程序，如果shell值为True，则建议将args参数作为一个字符串传递而不要作为一个序列传递。
cwd： 如果该参数值不是None，则该函数将会在执行这个子进程之前改变当前工作目录。
env： 用于指定子进程的环境变量，如果env=None，那么子进程的环境变量将从父进程中继承。如果env!=None，它的值必须是一个映射对象。
universal_newlines： 如果该参数值为True，则该文件对象的stdin，stdout和stderr将会作为文本流被打开，否则他们将会被作为二进制流被打开。
startupinfo和creationflags： 这两个参数只在Windows下有效，它们将被传递给底层的CreateProcess()函数，用于设置子进程的一些属性，如主窗口的外观，进程优先级等。

2. subprocess.Popen类的实例可调用的方法

方法	描述
Popen.poll()	用于检查子进程（命令）是否已经执行结束，没结束返回None，结束后返回状态码。
Popen.wait(timeout=None)	等待子进程结束，并返回状态码；如果在timeout指定的秒数之后进程还没有结束，将会抛出一个TimeoutExpired异常。
Popen.communicate(input=None, timeout=None)	该方法可用来与进程进行交互，比如发送数据到stdin，从stdout和stderr读取数据，直到到达文件末尾。
Popen.send_signal(signal)	发送指定的信号给这个子进程。
Popen.terminate()	停止该子进程。
Popen.kill()	杀死该子进程。

关于communicate()方法的说明：

该方法中的可选参数 input 应该是将被发送给子进程的数据，或者如没有数据发送给子进程，该参数应该是None。input参数的数据类型必须是字节串，如果universal_newlines参数值为True，则input参数的数据类型必须是字符串。
该方法返回一个元组(stdout_data, stderr_data)，这些数据将会是字节穿或字符串（如果universal_newlines的值为True）。
如果在timeout指定的秒数后该进程还没有结束，将会抛出一个TimeoutExpired异常。捕获这个异常，然后重新尝试通信不会丢失任何输出的数据。但是超时之后子进程并没有被杀死，为了合理的清除相应的内容，一个好的应用应该手动杀死这个子进程来结束通信。
需要注意的是，这里读取的数据是缓冲在内存中的，所以，如果数据大小非常大或者是无限的，就不应该使用这个方法。

3.subprocess.Popen实例

1.正常执行命令并返回结果，默认返回的字节，需要decode转码，或者添加universal_newlines=True将返回变为字符串

obj = subprocess.Popen("adb devices", shell=True, stdout=subprocess.PIPE, stdin=subprocess.PIPE)

print(obj.stdout.read().decode("utf-8"))

obj = subprocess.Popen("adb devices", shell=True, stdout=subprocess.PIPE, stdin=subprocess.PIPE, universal_newlines=True)

print(obj.stdout.read())

2.管道内交互

需要添加管道输入 stdin=subprocess.PIPE，并且注意，管道内输入默认为字节，\n代表回车执行此行代码，默认返回也是字节，需要decode转码，或者添加universal_newlines=True将输入，返回变为字符串

obj = subprocess.Popen("python", shell=True, stdin=subprocess.PIPE, stdout=subprocess.PIPE)

obj.stdin.write(b'print(1) \n')

obj.stdin.write(b'print(2) \n')

obj.stdin.write(b'print(3) \n')

out, error = obj.communicate()

print(out.decode("utf-8"))

obj = subprocess.Popen("python", shell=True, stdin=subprocess.PIPE, stdout=subprocess.PIPE, universal_newlines=True)

obj.stdin.write('print(1) \n')

obj.stdin.write('print(2) \n')

obj.stdin.write('print(3) \n')

out, error = obj.communicate()

print(out)

obj = subprocess.Popen("python", shell=True, stdout=subprocess.PIPE, stdin=subprocess.PIPE)

out,error = obj.communicate(input=b"print(1) \n", timeout=4)

print(out.decode("utf-8"))

obj = subprocess.Popen("python", shell=True, stdout=subprocess.PIPE, stdin=subprocess.PIPE, universal_newlines=True)

out,error = obj.communicate(input="print(1) \n", timeout=4)

print(out)

3.管道共用

管道中实现 tasklist | findstr chrome功能

先执行tasklist 获取stdout输出，将输出作为 findstr chrome的输入，默认返回字节，需要decode转码，或者添加universal_newlines=True将输入，返回变为字符串

p1 = subprocess.Popen(["tasklist"], stdout=subprocess.PIPE)

p2 = subprocess.Popen("findstr chrome", shell=True, stdin=p1.stdout, stdout=subprocess.PIPE)

out, error = p2.communicate()

print(out.decode("utf-8"))

p1 = subprocess.Popen(["tasklist"], stdout=subprocess.PIPE)

p2 = subprocess.Popen("findstr chrome", shell=True, stdin=p1.stdout, stdout=subprocess.PIPE, universal_newlines=True)

out, error = p2.communicate()

print(out)

6.总结

那么我们到底该用哪个模块、哪个函数来执行命令与系统及系统进行交互呢？下面我们来做个总结：

首先应该知道的是，Python2.4版本引入了subprocess模块用来替换os.system()、os.popen()、os.spawn*()等函数以及commands模块；也就是说如果你使用的是Python 2.4及以上的版本就应该使用subprocess模块了。
如果你的应用使用的Python 2.4以上，但是是Python 3.5以下的版本，Python官方给出的建议是使用subprocess.call()函数。Python 2.5中新增了一个subprocess.check_call()函数，Python 2.7中新增了一个subprocess.check_output()函数，这两个函数也可以按照需求进行使用。
如果你的应用使用的是Python 3.5及以上的版本（目前应该还很少），Python官方给出的建议是尽量使用subprocess.run()函数。
当subprocess.call()、subprocess.check_call()、subprocess.check_output()和subprocess.run()这些高级函数无法满足需求时，我们可以使用subprocess.Popen类来实现我们需要的复杂功能。

7.遇到的问题及解决方法

1.出现returncode执行过程中卡住的情况，需要手动回车才行, 代码如下:

import  subprocess

return_ret = subprocess.Popen(

    "dir",

    shell=True,

    universal_newlines=True,

    bufsize=1

)

print(return_ret.returncode)

可能是由于没有returncode是从stdout中获取，然而却没有stdout，修改如下

import  subprocess

return_ret = subprocess.Popen(

    "dir",

    shell=True,

    stdout=subprocess.PIPE,

    universal_newlines=True,

    bufsize=1

)

print(return_ret.returncode)