Java服务假死后续之内存溢出

一、现象分析

　　上篇博客说到，Java服务假死的原因是使用了Guava缓存，30分钟的有效期导致Full GC无法回收内存。经过优化后，已经不再使用Guava缓存，实时查询数据。从短期效果来看，确实解决了无法回收内存的问题，但是服务运行几天后，发现内存又逐渐被占满，Full GC后只能回收一小部分。

从上图可以看出，一次Full GC后，老年代基本上没有回收多少内存，占比从99.86%降到99.70%。

二、原因排查

　　到底是什么对象占据这么大的内存，并且无法被JVM垃圾回收呢。在上一篇博客中已经移除了Guava缓存，按理说不应该有无法回收的对象了。那么，很明显这应该是代码问题导致了内存泄露，现在需要知道哪些对象无法被回收，从而定位出代码哪里有BUG。这里采用jmap -histo:live 201349|head -10命令打印出GC后存活的对象。

　　从上图可以看出，还是之前存在Guava缓存里面的对象占据着大部分内存，代码修改为实时查询后，每次用完数据都会从Map中剔除，按理不应该有强引用去引用这些对象。光看代码无法排查出哪里导致了内存泄露，只能将GC后的内存文件导出来进行分析。这里采用jmap -dump:format=b,file=/data/heap.hprof命令将内存文件导出来，用JDK自带的visualVM打开。

　　这里拿ECBug对象进行分析，从引用关系可以看出，ECBug对象被DataSetCenter引用，DataSetCenter就是实时查询数据进行存储的一个ConcurrentHashMap，但每次用完数据后都会进行remove操作，具体代码如下所示。

private List<BusinessBean> realTimeQueryBusinessModelData(IDataSetKey accessCacheDataSetKey,Set<IMapper> mappers, Set<IFilter> filters, Set<ISorter> sorters) throws DataNotFoundException, IllegalAccessException, CloneNotSupportedException, InstantiationException {
        List<BusinessBean> resultBeans = null;
        try {
            lock.lock();
            if (!dataSetCenter.containsKey(accessCacheDataSetKey)) {
                log.info("put DataSetKey into DataSetCenter,dataSetKey is {}",accessCacheDataSetKey);
                int count = businessModelQuery.count(accessCacheDataSetKey);
                if (count == 0) throw new DataNotFoundException();
                Class modelClass = businessModelCenter.getDataModelClass(accessCacheDataSetKey.getModelId());
                if (modelClass == null) {
                    throw new DataNotFoundException();
                }
                dataSetCenter.put(accessCacheDataSetKey, new DataSet(count, modelClass));
            }
            List<BusinessBean> cachedBeans = dataSetCenter.get(accessCacheDataSetKey).getData();
            resultBeans =  getModelDataInternal(accessCacheDataSetKey, businessModelQuery, mappers, filters, sorters, cachedBeans);
        }finally {
            lock.unlock();
            if(!lock.isLocked()){
                dataSetCenter.remove(accessCacheDataSetKey);
            }
        }
        return resultBeans;
    }

　　从代码来看，每次 dataSetCenter.put(accessCacheDataSetKey, new DataSet(count, modelClass))后，都会在finally里面调用dataSetCenter.remove(accessCacheDataSetKey)把key删除掉，这样在GC时会自动回收Value值。但是忽略了一个方法getModelDataInternal，该方法可能会递归调用realTimeQueryBusinessModelData方法，如果存在递归调用的话，那么由于可重入锁lock还没有完成解锁，所以无法进入if(!lock.isLocked())条件语句中进行删除key的操作，这样就造成了一部分数据无法被删除，随着时间的推移，内存中的数据会越来越多。

三、故障解决

　　基于上述的代码分析，改造如下所示。

private List<BusinessBean> realTimeQueryBusinessModelData(IDataSetKey accessCacheDataSetKey,Set<IMapper> mappers, Set<IFilter> filters, Set<ISorter> sorters) throws DataNotFoundException, IllegalAccessException, CloneNotSupportedException, InstantiationException {
        List<BusinessBean> resultBeans = null;
        try {
            queryLock.lock();
            modelQueryLock.lock();
            if (!dataSetCenter.containsKey(accessCacheDataSetKey)) {
                log.info("put DataSetKey into DataSetCenter,dataSetKey is {}",accessCacheDataSetKey);
                int count = businessModelQuery.count(accessCacheDataSetKey);
                if (count == 0) throw new DataNotFoundException();
                Class modelClass = businessModelCenter.getDataModelClass(accessCacheDataSetKey.getModelId());
                if (modelClass == null) {
                    throw new DataNotFoundException();
                }
                dataSetCenter.put(accessCacheDataSetKey, new DataSet(count, modelClass));
            }
            List<BusinessBean> cachedBeans = dataSetCenter.get(accessCacheDataSetKey).getData();
            resultBeans =  getModelDataInternal(accessCacheDataSetKey, businessModelQuery, mappers, filters, sorters, cachedBeans);
        }finally {
            modelQueryLock.unlock();
            if(!modelQueryLock.isLocked()){
                removeDataSetKeys();
            }
            queryLock.unlock();
        }
        return resultBeans;
    }

　　这里当modelQueryLock可重入锁完全解锁后，调用removeDataSetKeys方法，该方法会将dataSetCenter里面的key全部删除，这样在GC时就会回收不用的数据对象。这里采用两个可重入锁的目的是，如果只用一个modelQueryLock可重入锁，那么当modelQueryLock完全解锁后，正在执行removeDataSetKeys方法时，其他线程就可以进入该方法区，发现dataSetCenter里面还没有删除完全，从而获取里面的数据，即if (!dataSetCenter.containsKey(accessCacheDataSetKey))为false，从而通过List<BusinessBean> cachedBeans = dataSetCenter.get(accessCacheDataSetKey).getData()直接获取dataSetCenter里面的数据，但是下一刻dataSetCenter里面可能已经为空。因此，采用两个可重入锁，防止出现异常。