String的replace导致内存溢出
从一次内存溢出来看JDK的String应该怎么用
背景
JDK在String类中给我们提供的API,replace是个使用频率很高的的方法。因为他可以对字符串内容进行替换,只需要输入替换字符串和被替换字符串,就可以轻松得到你想要的字符串,功能非常强大。从JDK里的说明就能看出它有多方便了:
源码:
public String replace(CharSequence target, CharSequence replacement) {
return Pattern.compile(target.toString(), Pattern.LITERAL).matcher(
this).replaceAll(Matcher.quoteReplacement(replacement.toString()));
}
事故回放
好了,接下来描述的场景纯属虚构,如有雷同,那一定是你也踩过类似的坑!
今天产品MM找你实现一个功能,要求对你们网站上的一些不友好的评论使用“哔~”屏蔽掉,但是判断不友好的功能比较复杂,用到了NLP,所以用到了算法同事给你提供的接口判断,那么接下来事情就简单了:
我们只需要将NLP处理之后返回来的字符串作为String.replace(target, replacement)的入参target,"哔~"作为replacement就好了。相信熟练的你很快能噼里啪啦敲出以下代码:

// 调用NLP接口判断不友好的内容
List<String> waitForReplace = callRpcNLP(text);
if (waitForReplace == null || waitForReplace.size() == 0) {
return;
}
// 逐一进行替(和)换(谐)
for (String target : waitForReplace) {
if (target == null) {
continue;
}
text.replace(target, "哔~");
}
看起来很不错,各种校验也都有了,我的代码果然写得优美又健壮,你已经忍不住陶醉在自己的杰作中了,那么这样有没问题呢?
事实上,到了真正运行的时候,内存爆了!!!
案情分析
原因之一
那么到底发生了什么,debug之下,我们定位到replace方法,发现正是因为远程RPC接口返回了空字符串"",而空字符串作为replace的入参target时,会对任意字符串匹配多次匹配成功。我们用个简单点的字符串来做下实验:
String text = "hello";
System.out.println(text.replace("","*"));
打印:
哔!h哔!e哔!l哔!l哔!o哔!
大家能看到,替换后的字符串出现了6个“哔~”。也就是说,一个简简单单的"hello"字符串,在repalce运行之后,被""匹配出了6处需要替换的地方,那么如果不是一个"hello",而是一大段文本,一篇几千字的论文呢?到了这里,我们距离真相已经很近了,""会导致replace方法对字符串进行多次匹配。这是内存爆了的其中一个原因。
原因之二
至于另一个原因,就得说下replace的实现了,上面说到的字符串匹配,大家很容易想到正则表达式,实际上,replace内部也确实是通过调用正则表达式相关的API,来实现字符串匹配的。xxxxxxxxxx 原因之二至于另一个原因,就得说下replace的实现了,上面说到的字符串匹配,大家很容易想到正则表达式,实际上,replace内部也确实是通过调用正则表达式相关的API,来实现字符串匹配的。
而正则表达式实现字符串匹配,实际上是个很复杂的操作,replace(target, replacement)中的target,在正则表达式中称为"模式"(pattern),而匹配的过程,需要每次从字符串拿出一个字符和模式中的字符匹配。如果匹配成功,那么字符串拿出下一个字符,模式也拿出下一个字符,继续下一轮的匹配,但是我们知道,正则表达式支持使用点“.”匹配任意字符,星号"*"匹配任意数量的字符,所以整个匹配的过程需要递归进行,没法通过两个字符串简单地一对一移动指针来完成匹配。
总结
通过这次”事故“,我们知道了String.replace方法是有可能导致内存溢出的。总结下我们如何防止出现这类问题:
入参target不但需要做null校验,还要做""空字符串校验
防止直接输入大段文本进行匹配,可通过对文本分片实现
String的replace导致内存溢出的更多相关文章
- POI读写大数据量excel,解决超过几万行而导致内存溢出的问题
1. Excel2003与Excel2007 两个版本的最大行数和列数不同,2003版最大行数是65536行,最大列数是256列,2007版及以后的版本最大行数是1048576行,最大列数是16384 ...
- Restful规则及JPA导致内存溢出
HTTP动词 对于资源的具体操作类型,由HTTP动词表示. 常用的HTTP动词有下面五个(括号里是对应的SQL命令). GET(SELECT):从服务器取出资源(一项或多项). POST(CREATE ...
- WPF循环加载图片导致内存溢出的解决办法
程序场景:一系列的图片,从第一张到最后一张依次加载图片,形成“动画”. 生成BitmapImage的方法有多种: 1. var source=new BitmapImage(new Uri(" ...
- 图片--Android加载图片导致内存溢出(Out of Memory异常)
Android在加载大背景图或者大量图片时,经常导致内存溢出(Out of Memory Error),本文根据我处理这些问题的经历及其它开发者的经验,整理解决方案如下(部分代码及文字出处无法考证) ...
- 添加IFrame导致内存溢出的解决过程(IE浏览器,目前发现了原因,还未解决)
1. 现象 每次动态添加iframe时,iexplore.exe进程占据的内存都会增加(大概10M左右),不会自动释放,最终导致内存溢出 2. 解决过程 经过网络的一番搜索,基本上给出的解决方案是 ...
- php查询mysql返回大量数据结果集导致内存溢出的解决方法
web开发中如果遇到php查询mysql返回大量数据导致内存溢出.或者内存不够用的情况那就需要看下MySQL C API的关联,那么究竟是什么导致php查询mysql返回大量数据时内存不够用情况? 答 ...
- Android加载图片导致内存溢出(Out of Memory异常)
Android在加载大背景图或者大量图片时,经常导致内存溢出(Out of Memory Error),本文根据我处理这些问题的经历及其它开发者的经验,整理解决方案如下(部分代码及文字出处无法考证) ...
- 使用NPOI或POI 导出Excel大数据(百万级以上),导致内存溢出的解决方案(NPOI,POI)
使用工具:POI(JAVA),NPOI(.Net) 致谢博主 Crazy_Jeff 提供的思路 一.问题描述: 导出任务数据量近100W甚至更多,导出的项目就会内存溢出,挂掉. 二.原因分析: 1.每 ...
- go-处理字符串导致内存溢出
今日用go来做字符的“+”连接操作,每次连接的字符串大致有10M左右,循环连接100次,直接导致go内存溢出了. // Text project main.go package main import ...
随机推荐
- github命令大全
github是一种开源的版本控制工具,现在已经得到很多人的应用.所以想介绍一下github的一些使用. github安装 github提供了桌面客户端,我们也可以通过命令行的方式来进行控制. wind ...
- python常用函数 H
heapify(iterable) 堆排序. 例子: heappop(iterable) 弹出堆排序的第一个元素,即最小值. 例子: hasattr(object,attr) 用于确定对象是否有某个属 ...
- k8s阅读笔记2-k8s架构
前言 阅读地址 https://rootsongjc.gitbooks.io/kubernetes-handbook/content/concepts/ 架构 架构图说明: master 指服务端 1 ...
- Ehcahe spring
Ehcache系列二:Spring缓存注解@Cache使用 标签: CacheableCacheEvictCachePut 2016-06-06 16:37 2235人阅读 评论(0) 收藏 举报 ...
- Hadoop搭建完全分布式
ubuntu系统下: https://blog.csdn.net/u014636511/article/details/80171002 centos系统下: https://blog.csdn.ne ...
- 算法 识别有效ip地址和掩码并做统计
题目描述 请解析IP地址和对应的掩码,进行分类识别.要求按照A/B/C/D/E类地址归类,不合法的地址和掩码单独归类. 所有的IP地址划分为 A,B,C,D,E五类 A类地址1.0.0.0~126.2 ...
- Fiddler的详细介绍
Fiddler的详细介绍 一.Fiddler与其他抓包工具的区别 1.Firebug虽然可以抓包,但是对于分析http请求的详细信息,不够强大.模拟http请求的功能也不够,且firebug常常是需要 ...
- Zabbix微信报警脚本及写触发记录
一.Zabbix微信报警 默认路径:/usr/lib/zabbix/scripts/weixin.py #!/usr/bin/python # -*- coding: utf-8 -*- import ...
- linux学习-常用文本处理命令
1.文本处理命令 (1) tr 转换或删除字符 tr [OPTION]...SET1 SET2 选项: -c 取SET1字符串的补集 -d 删除属于SET1中的字符 -s 把连续重复出现的字符以单独一 ...
- 数据流:DataOutputStream与DataInputStream的使用
看这两个类的名字就不难猜测出它们的类关系图. DataOutputStream: 主要是一些writeXxx()操作,写出, 相当于序列化 DataInputStream: 主要是一些readXxx( ...