android 热更新nuwa

简介

　　Nuwa是比较流行的一种Android热补丁方案的开源实现，它的特点是成功率高，实现简单。当然，热补丁的方案目前已经有很多了，AndFix, Dexposed, Tinker等，之所以要分析Nuwa，是因为它代表了一种热修复的思想，通过它可以窥探到很多这方面的知识，包括更进一步的插件化。

Nuwa工作原理

　　Nuwa的实现分为Gradle插件和SDK两部分。插件部分负责编译补丁包， SDK部分负责具体打补丁。概括起来看似就两句话，实现起来还是有一定难度的。在插件源码解析之前，我们来具体分析一下这两个部分的工作原理，以便对Nuwa有个技术上的认识。
　　
　　产生补丁首先需要知道你对哪些类做了修改，比如我们发布了2.8.1版本，然后在2.8.1的代码上修改了类：A, B和C， 那这三个类就应该打成一个补丁包。Nuwa plugin就是负责产生补丁包的，他是一个gradle插件, 插件被应用上去以后首先会找到gradle编译时的task链条，然后实现一个自定义的task，我们称作customTask, 将customTask插入到生成dex的task之前，接着将dexTask的依赖作为customTask的依赖，然后让dexTask依赖于customTask，为什么要把customTask插入到这个位置，我们通过分析编译流程知道，dexTask之前的task会把所有类都编译成字节码class，然后作为dexTask的输入。 dexTask负责将这些classes编译成一个或者多个dex以备后续生成apk. 插入到这个位置就能确保我们在生成dex之前拿到所有的class，以便我们分析所有class然后生成补丁dex，这个过程称作hook。
　　
　　有了上述hook这个基础，我们还需要做两件事情，1：对所有类插庄， 2：收集变动过的类打成dex包。
　　
　　解释1: 为什么要插庄，这里涉及到android类加载的机制，我们不展开讲，简单理解就是，android上替换类不是说替换就替换的，android会有校验机制，不合规是不行的，插庄就是用一种讨巧的方式绕过这个校验机制，具体就是通过修改字节码， 为每一个编译好的class插入一个无参的构造函数, 然后让这个构造函数引用一个单独的dex中的类（这个类没有任何意义，只是为了跨dex引用)。
　　
　　解释2: 如何收集变动过的类？ 我们在customTask里会给每个参与编译的类文件生成hash， 第二次执行这个任务时对比每个类的hash值，如果不一样就认为是修改过的，将这些类收集到文件夹，然后调用build tools里的工具生成dex.

　　步骤2中生成的dex就是我们的补丁了， 他可以发布到服务器，通过一些下载机制，下载到用户手机，然后就交给sdk部分去完成真正的“打”补丁的过程。

　　SDK: SDK是一个Android library，需要打在Apk里，程序运行的适当的时候调用其中的方法，它提供一个核心方法：loadPatch(String path). 负责将传入的补丁加载到内存，当启动应用时，Apk内的dex文件会被挨个通过ClassLoader加载到内存, 同时dex会按顺序维持一个列表，当程序需要加载一个类时，就去这个列表里查，一但查到就会使用对应dex具体的类，如果都没找到就会报ClassNotFound错误， 我们加载补丁的原理就是通过反射将我们的补丁dex插入到列表的最开始，这样当需要加载bug类时就会先在补丁dex里面找到，这样系统就会使用修复过的类，便达到了热修复的目的。要注意的是loadPatch一定要在bug类使用前调用，一旦bug类使用过了，本次修复就会没有效果，只能杀死进程再启动应用才会生效。

　　本次我们只会分析Gradle插件部分的代码，sdk的代码以后有机会另开一篇分析。
　　
　　下面开始结合工程来分析 Nuwa plugin的实现, 为了篇幅，我们只关注主流程

项目目录结构

代码分析

实现一个plugin首先要实现Plugin接口，重写apply函数。

 class NuwaPlugin implements Plugin<Project> {
     HashSet<String> includePackage
     HashSet<String> excludeClass
     def debugOn
     def patchList = []
     def beforeDexTasks = []
     private static final String NUWA_DIR = "NuwaDir"
     private static final String NUWA_PATCHES = "nuwaPatches"
     private static final String MAPPING_TXT = "mapping.txt"
     private static final String HASH_TXT = "hash.txt"
     private static final String DEBUG = "debug"

     @Override
     void apply(Project project) {
         project.extensions.create("nuwa", NuwaExtension, project)
         project.afterEvaluate {
             def extension = project.extensions.findByName("nuwa") as NuwaExtension
             includePackage = extension.includePackage
             excludeClass = extension.excludeClass
             debugOn = extension.debugOn
            }
       }
 }

apply会在build.gradle声明插件的时候执行，比如使用插件的module的build.gradle文件的最开始声明应用插件，则执行这个build.gradle的时候就会先执行插件内apply函数的内容。

 apply plugin: 'com.android.application'
 apply plugin: 'plugin.test'

apply函数一开始执行了：project.extensions.create(“nuwa”, NuwaExtension, project)，这一句的作用是根据NuwaExtension类创建一个扩展，后面就可以按照NuwaExtension既有字段在build.gradle声明属性了。

 class NuwaExtension {
     HashSet<String> includePackage = []
     HashSet<String> excludeClass = []
     boolean debugOn = true

     NuwaExtension(Project project) {
     }
 }

然后可以在build.gradle中声明:

     HashSet<String> includePackage
     HashSet<String> excludeClass
     def debugOn
     def patchList = []
     def beforeDexTasks = []

创建扩展的作用是方便我们动态的做一些配置。 
代码执行分为两个大的分支：混淆和不混淆，我们这里只分析不混淆的情况。

 def preDexTask =project.tasks.findByName("preDex${variant.name.capitalize()}”)

查找preDexTask，如果有就说明开启了混淆，我们这里没有。

 def dexTask = project.tasks.findByName("dex${variant.name.capitalize()}”)

查找dexTask， 这个是task非常关键，它的上一级task负责编译好了所有类，它的输入就是所有类的class文件（XXX.class)。

 // 创建打patch的task，这个task负责把对比出有差异的class文件打包成dex
 def nuwaPatch = "nuwa${variant.name.capitalize()}Patch”
 project.task(nuwaPatch) << {
     if (patchDir) {
         // 真正负责打包的函数, 函数实现下面会分析
         NuwaAndroidUtils.dex(project, patchDir)
     }
 }
 def nuwaPatchTask = project.tasks[nuwaPatch]
 if(preDexTask) {
 } else {
     //创建一个自定义task，负责遍历所有编译好的类，针对每一个class文件注入构造函数，构造函数中引用了一个独立的dex中的类，因为这个类不在当前dex,
     //所以会防止类被打上ISPREVERIFIED标志
     def nuwaJarBeforeDex = "nuwaJarBeforeDex${variant.name.capitalize()}”
     //创建一个自定义task，负责遍历所有编译好的类，针对每一个class文件注入构造函数，构造函数中引用了一个独立的dex中的类，因为这个类不在当前dex,
     //所以会防止类被打上ISPREVERIFIED标志
         Set<File> inputFiles = dexTask.inputs.files.files ≈
         inputFiles.each { inputFile ->
             // 这里它就能拿到所有编译好的jar包了(jar包不止一个，包括所有support的jar包和依赖的一些jar包还有项目源码打出的jar包,
             // 总之这些jar包包涵了这个apk中所有的class)。
             def path = inputFile.absolutePath
             if (path.endsWith(".jar")) {
                 // 真正做class注入的函数, 函数实现下面会分析
                 NuwaProcessor.processJar(hashFile, inputFile, patchDir, hashMap, includePackage, excludeClass)
             }
         }
     }
     // 因为上一步project.task(nuwaJarBeforeDex)已经创建了nuwaJarBeforeDex的task所以这里通过tasks这个系统成员变量可以拿到真正的task对象。
     def nuwaJarBeforeDexTask = project.tasks[nuwaJarBeforeDex]
     // 让自定义task依赖于dexTask的依赖
     nuwaJarBeforeDexTask.dependsOn dexTask.taskDependencies.getDependencies(dexTask)
  // 让dexTask依赖于我们的自定义task， 这样就相当于在原来的task链中插入了我们自己的task，在不影响原有流程的情况下可以做我们自己的事情
     dexTask.dependsOn nuwaJarBeforeDexTask
     // 让打patch的task依赖于class注入的task， 这样我们可以在控制台手动执行这个task，就可以打出patch文件了。
     nuwaPatchTask.dependsOn nuwaJarBeforeDexTask
 }

好了， 主流程就是这样的， 这里你可能还有几个问题，class注入究竟是怎么做的，在哪里对比的文件差异，又是在哪里把所有变动的文件打成patch呢。这里就到关键的两个工具函数了：
NuwaProcessor.processJar和 NuwaAndroidUtils.dex。 前者负责class注入，后者负责对比和打patch。源码如下:

 /**
    参数说明：
    hashFile: 本次编译所有类的“类名:hash”存放文件
    jarFile:  jar包, 调用这个函数的地方会遍历所有的jar包
    patchDir:  有变更的文件统一存放到这个目录里
    map:  上一次编译所有类的hash映射
    includePackage:  额外指定只需要注入这些包下的类
    excludeClass： 额外指定不参与注入的类
 */  

 public static processJar(File hashFile, File jarFile, File patchDir, Map map, HashSet<String> includePackage, HashSet<String> excludeClass) {
     if (jarFile) {
         // 先在原始jar同级目录下创建“同名.opt”文件，每注入完成一个类则打到这个opt文件中，
         // opt文件实际上也是一个jar包，所有类都处理完后将文件后缀opt改为jar替换掉原来的jar
         def optJar = new File(jarFile.getParent(), jarFile.name + ".opt”)
         def file = new JarFile(jarFile);
         Enumeration enumeration = file.entries();
         // 创建输入opt文件，实际也是一个jar包
         JarOutputStream jarOutputStream = new JarOutputStream(new FileOutputStream(optJar));
         while (enumeration.hasMoreElements()) {  // 遍历jar包中的每一个entry
             JarEntry jarEntry = (JarEntry) enumeration.nextElement();
             String entryName = jarEntry.getName();
             ZipEntry zipEntry = new ZipEntry(entryName);

             InputStream inputStream = file.getInputStream(jarEntry);
             jarOutputStream.putNextEntry(zipEntry);

             if (shouldProcessClassInJar(entryName, includePackage, excludeClass)) {  // 根据一些规则和includePackage与excludeClass判断这个类要不要处理
                 def bytes = referHackWhenInit(inputStream);  // 拿到这个类的输入流调用这个函数完成字节码注入
                 jarOutputStream.write(bytes);  // 将注入完成的字节码写入opt文件中

                 def hash = DigestUtils.shaHex(bytes)  // 生成文件hash
                 hashFile.append(NuwaMapUtils.format(entryName, hash))  将hash值以键值对的形式写入到hash文件中，以便下次对比

                 if (NuwaMapUtils.notSame(map, entryName, hash)) { // 如果这个类和map中上次生成的hash不一样，则认为是修改过的，拷贝到需要最终打包的文件夹中
                     NuwaFileUtils.copyBytesToFile(bytes, NuwaFileUtils.touchFile(patchDir, entryName))
                 }
             } else {
                 jarOutputStream.write(IOUtils.toByteArray(inputStream));  // 如果这个类不处理则直接写进opt文件
             }
             jarOutputStream.closeEntry();
         }
         jarOutputStream.close();
         file.close();

         if (jarFile.exists()) {
             jarFile.delete()
         }
         optJar.renameTo(jarFile)
     }

 }

 /**
    负责注入,这里用到了asm框架（asm框架用来修改java字节码文件，非常强大，感兴趣的同学可以搜一下，类似的框架还有Javassist和BCEL）.实际的动作就是给类注入一个无参的构造函数，构造函数里引用了“jiajixin/nuwa/Hack”类，这个类是另外一个dex中的，这个dex需要在application入口处加载，
    这样就能保证所有类在用到这个类之前它已经被夹在到内存了，这么做就是为了防止类被打上ISPREVERIFIED标记，从而绕过android对类的检查，保证补丁生效。
 */
 private static byte[] referHackWhenInit(InputStream inputStream) {
     ClassReader cr = new ClassReader(inputStream);
     ClassWriter cw = new ClassWriter(cr, 0);
     ClassVisitor cv = new ClassVisitor(Opcodes.ASM4, cw) {
         @Override
         public MethodVisitor visitMethod(int access, String name, String desc,
                                          String signature, String[] exceptions) {

             MethodVisitor mv = super.visitMethod(access, name, desc, signature, exceptions);
             mv = new MethodVisitor(Opcodes.ASM4, mv) {
                 @Override
                 void visitInsn(int opcode) {
                     if ("<init>".equals(name) && opcode == Opcodes.RETURN) {
                         super.visitLdcInsn(Type.getType("Lcn/jiajixin/nuwa/Hack;"));  // 引用另一个dex中的类
                     super.visitInsn(opcode);
                 }
             }
             return mv;
         }

     };
     cr.accept(cv, 0);
     return cw.toByteArray();
 ｝

 /**
    NuwaAndroidUtils.dex
    对NuwaProcessor.processJar中拷贝到patch文件夹的类执行打包   操作，这里用到了build-tools中的命令行。
    参数说明：
    project: 工程对象，从插件那里传过来的
    classDir:  包含需要打包的类的文件夹
 */

 public static dex(Project project, File classDir) {
     if (classDir.listFiles().size()) {
         def sdkDir

         Properties properties = new Properties()
         File localProps = project.rootProject.file("local.properties")
         if (localProps.exists()) {
             properties.load(localProps.newDataInputStream())
             sdkDir = properties.getProperty("sdk.dir")
         } else {
             sdkDir = System.getenv("ANDROID_HOME")
         }
         if (sdkDir) {
             def cmdExt = Os.isFamily(Os.FAMILY_WINDOWS) ? '.bat' : ''
             def stdout = new ByteArrayOutputStream()
             project.exec {
                 commandLine "${sdkDir}/build-tools/${project.android.buildToolsVersion}/dx${cmdExt}",
                         '--dex',
                         "--output=${new File(classDir.getParent(), PATCH_NAME).absolutePath}",
                         "${classDir.absolutePath}"
                 standardOutput = stdout
             }
             def error = stdout.toString().trim()
             if (error) {
                 println "dex error:" + error
             }
         } else {
             throw new InvalidUserDataException('$ANDROID_HOME is not defined')
         }
     }
 }

好了， 当我们出包时，生成的apk中的所有类都是自动被注入了的，打正式包的这一次一定要把生成的hash文件所在的文件夹保存起来，以便下次改动代码后对比用，
　　
　　如果线上发现bug， 就把代码切回到当时版本，然后执行命令，传入上次编译出的hash文件所在的文件夹目录，就会生成一个本次修复的patch包（实际上是一个dex)，包里只包含了我们需要修复的类。
命令如下：

 gradlew clean nuwaReleasePatch -P NuwaDir=/Users/GaoGao/nuwa

类被客户端下载下来后nuwa sdk部分会负责把补丁打上去。