引入

  JAVA提供了一些分析DUMP的工具,比如jmap,visualvm 等

  JAVA还有寻找线程状态的工具,jstack等

  数据库也有检查连接数,连接状态的命令,status,processlist等

  代码中也可以添加一些时间的信息,对比信息发现可优化的地方

  但这些都不是今天要记录的内容,今天要做的是使用一个比较暴力的方式查找出高并发模式下运行缓慢的线程

正文

  写高并发的时候经常会遇到的问题:

    单独观察每个分支线程或者主线程时,都执行地非常快,但是总体上运行的TPS却并不高,没有达到期望的值

    更换环境,或者调大运行内存和CPU后,情况仍然不见好转

  这时候有个办法是,找出每个线程的运行过程,寻找出耗时较大的代码段,再对代码进行分析

  脚本我已经写好了:

#!/bin/bash
parseLog(){
##初始值
upLine="blank"
last_time_pre="blank"
last_time_post="blank"
cat "$1" | while read line
do
time_pre=`echo "$line" | awk '{print$1}'`
time_post=`echo "$line" | awk '{print$2}'`
if [[ `echo "$time_post" | grep ":"` != "" ]]
then
if [[ "$upLine" == "blank" ]]
then
upLine=${line}
last_time_pre=`echo "$line" | awk '{print$1}'`
last_time_post=`echo "$line" | awk '{print$2}'`
total2="$last_time_pre"" $last_time_post"
last_time_pre=`date +%s -d "$total2"`
last_time_pre=`expr "$last_time_pre" \* `
last_time_post=`echo ${last_time_post::}`
else
total="$time_pre"" $time_post"
time_pre=`date +%s -d "$total"`
time_pre=`expr "$time_pre" \* `
time_post=`echo ${time_post::}`
time_end=`expr "$time_pre" + "$time_post"`
time_begin=`expr "$last_time_pre" + "$last_time_post" + "$2"`
last_time_pre=${time_pre}
last_time_post=${time_post}
if [[ "$time_end" -gt "$time_begin" ]]
then
echo ${upLine} >> result.log
echo ${line} >> result.log
fi
upLine=${line}
fi
fi
done
} if [[ ! -n "$1" ]] || [[ ! -n "$2" ]] || [[ ! -n "$3" ]]
then
echo [log file] [interval millis] [key words]
exit
fi awk '{num[$4]++}
END{for(k in num)print k,"----",num[k]|"sort -k 3 -rn"}' "$1" |
head -n | awk '{str[$1]++} END{for (s in str)print s}'| grep "$3" > thread.log ##对上述输出的每一个线程做分析处理,调用parseLog
cat thread.log | while read line
do
grep "\""${line}"\"" "$1" > temp.log
parseLog temp.log $
done
exit

  这个脚本有个基础条件是,分析的日志必须得是按照一定规范输出的日志,输出字段中带有时间和线程名

  脚本传参:

  获得可以分析的所有线程,按照数量排序,并只获得前15个

  接下来对每一个过滤出来的线程做分析处理

  最后就是分析日志的方法了

  主要思路是,用下一行的时间减去上一行的时间,如果超过给定的值,就将两行都输出到指定文件。

  执行效果:

[utap@host145 logs]$ sh pick_thread.sh bb.log  timer
timerQ_3-service-#]
[utap@host145 logs]$ cat result.log
-- ::00.371 [DEBUG] [TaskRule:][printExpr] [timerQ_3-service-#] [] - TaskRule printExpr i-j=-, expr[i].elementAt(j).m_min=, m_max=
-- ::00.373 [DEBUG] [TaskRule:][printExpr] [timerQ_3-service-#] [] - TaskRule printExpr i-j=-, expr[i].elementAt(j).m_min=, m_max=^C

  方便再次使用到吧,地址在 https://github.com/garfieldcgf/notes/tree/master/operations/bin

JAVA优化篇 如何找到运行缓慢的线程的更多相关文章

  1. java中如何使正在运行中的线程退出

    终止线程的三种方法      有三种方法可以使终止线程.      1.  使用退出标志,使线程正常退出,也就是当run方法完成后线程终止.      2.  使用stop方法强行终止线程(这个方法不 ...

  2. Spring+SpringMVC+MyBatis+easyUI整合优化篇(一)Java语言中System.out.print与Log的比较

    作者:13 GitHub:https://github.com/ZHENFENG13 版权声明:本文为原创文章,未经允许不得转载. 前言 距离上一次更新博客有一段时间了,主要是因为最近有开发任务,另外 ...

  3. JAVA高级篇(二、JVM内存模型、内存管理之第二篇)

    本文转自https://zhuanlan.zhihu.com/p/25713880. JVM的基础概念 JVM的中文名称叫Java虚拟机,它是由软件技术模拟出计算机运行的一个虚拟的计算机. JVM也充 ...

  4. Java基础篇(JVM)——字节码详解

    这是Java基础篇(JVM)的第一篇文章,本来想先说说Java类加载机制的,后来想想,JVM的作用是加载编译器编译好的字节码,并解释成机器码,那么首先应该了解字节码,然后再谈加载字节码的类加载机制似乎 ...

  5. MySQL优化篇(一),我可以和面试官多聊几句吗?——SQL优化流程与优化数据库对象

    我可以和面试官多聊几句吗?只是想偷点技能过来.MySQL优化篇(基于MySQL8.0测试验证),上部分:优化SQL语句.数据库对象,MyISAM表锁和InnoDB锁问题. MyISAM表锁和InnoD ...

  6. MySQL优化篇系列文章(二)——MyISAM表锁与InnoDB锁问题

    我可以和面试官多聊几句吗?只是想... MySQL优化篇系列文章(基于MySQL8.0测试验证),上部分:优化SQL语句.数据库对象,MyISAM表锁和InnoDB锁问题. 面试官:咦,小伙子,又来啦 ...

  7. Netty实现高性能RPC服务器优化篇之消息序列化

    在本人写的前一篇文章中,谈及有关如何利用Netty开发实现,高性能RPC服务器的一些设计思路.设计原理,以及具体的实现方案(具体参见:谈谈如何使用Netty开发实现高性能的RPC服务器).在文章的最后 ...

  8. Java提高篇(三三)-----Map总结

    在前面LZ详细介绍了HashMap.HashTable.TreeMap的实现方法,从数据结构.实现原理.源码分析三个方面进行阐述,对这个三个类应该有了比较清晰的了解,下面LZ就Map做一个简单的总结. ...

  9. Java提高篇(二六)-----hashCode

          在前面三篇博文中LZ讲解了(HashMap.HashSet.HashTable),在其中LZ不断地讲解他们的put和get方法,在这两个方法中计算key的hashCode应该是最重要也是最 ...

随机推荐

  1. jenkins集成错误 标签: 发布 2016-01-10 20:45 747人阅读 评论(21) 收藏

    进入ITOO的项目以后,终于要将自己负责的模块在jenkins上面集成发布了.首先自己按照文档要求一步一步的将配置完成,然后构建,不错所料出错了,经过修改,终于构建成功!构建成功以后就没再管了,结果第 ...

  2. 详解Python中内置的NotImplemented类型的用法

    它是什么? ? 1 2 >>> type(NotImplemented) <type 'NotImplementedType'> NotImplemented 是Pyth ...

  3. 14海量日志提取出现次数最多的IP

    问题描述:现有某网站海量日志数据,提取出某日访问该网站次数最多的那个IP. 分析:IP地址是32位的二进制数,所以共有N=2^32=4G个不同的IP地址, 如果将每个IP地址看做是数组的索引的话,那么 ...

  4. python如何自动发送邮件

    #coding=utf-8 import smtplib from email.mime.text import MIMEText from email.mime.application import ...

  5. 使用jquery.form.js的ajaxsubmit方法提交数据的Bug

    周五同事遇到一个很奇怪的问题,调到下班,虽然问题解决了,但是不知道问题的具体原因,回来翻了翻代码,才发现症结所在,下面就分享出来,供遇到同样问题的同行们参考: 先把问题描述一下,做的功能是使用ajax ...

  6. laravel 学习笔记blog后台

    https://github.com/almasaeed2010/adminlte composer require "almasaeed2010/adminlte=~2.0"

  7. 浅谈Python Django框架

    1.Django简介 Python下有多款不同的 Web 框架,Django是最有代表性的一种.许多成功的网站和APP都基于Django. Django是一个开源的Web应用框架,由Python写成. ...

  8. python基础十五之递归函数

    递归函数,在函数中调用自身函数,就会形成一个递归函数.例如: def recursion(n): n += 1 print(n) recursion(n) 由于递归函数的结构,在函数调用时,它会一直调 ...

  9. webpack优化 -- compression-webpack-plugin 开启gzip

    webpack优化 -- compression-webpack-plugin 开启gzip 打包的时候开启gzip可以大大减少体积,非常适合于上线部署.下面以vue-cli2.x项目为例,介绍如何在 ...

  10. P1101 走迷宫一

    题目描述 大魔王抓住了爱丽丝,将她丢进了一口枯井中,并堵住了井口. 爱丽丝在井底发现了一张地图,他发现他现在身处一个迷宫当中,从地图中可以发现,迷宫是一个N*M的矩形,爱丽丝身处迷宫的左上角,唯一的出 ...