Centos下分布式跟踪工具Pinpoint的完整部署记录

一、Pinpoint简单介绍
Pinpoint是一款对Java编写的大规模分布式系统的APM工具，有些人也喜欢称呼这类工具为调用链系统、分布式跟踪系统。一般来说，前端向后台发起一个查询请求，后台服务可能要调用多个服务，每个服务可能又会调用其它服务，最终将结果返回，汇总到页面上。如果某个环节发生异常，工程师很难准确定位这个问题到底是由哪个服务调用造成的，Pinpoint等相关工具的作用就是追踪每个请求的完整调用链路，收集调用链路上每个服务的性能数据，方便工程师能够快速定位问题。Pinpoint开源在了github上，可以用于大规模分布式系统监控。它对性能的影响最小（只增加约3％资源利用率），安装agent是无侵入式的，只需要在被测试的Tomcat中加上3句话，打下探针，就可以监控整套程序了。

二、Pinpoint使用原因
最重要的原因，对代码的零侵入，运用JavaAgent字节码增强技术，只需要加启动参数即可。

安装pinpoint需要用到的组件：Oracle JDK、HBase存储、Pinpoint Collector、Pinpoint Web 、Pinpoint Agent (attached上一个应用服务器做性能分析)、Tomcat。
Pinpoint架构图

Pinpoint提供了一种解决方案，通过在分布式应用程序中跟踪事务来帮助分析系统的整体结构以及它们中的组件之间的相互关系：
- Pinpoint-Collector：收集各种性能数据。
- Pinpoint-Agent：和自己运行的应用关联起来的探针。
- Pinpoint-Web：将收集到的数据显示成WEB网页形式。
- HBase Storage：收集到的数据存到HBase中。

类似于Pinpoint的同类工具有twitter的Zipkin、淘宝的鹰眼（EgleEye）、大众点评的CAT、Google的Dapper。

三、Pinpoint在Centos6.9系统下的安装配置记录

1）基础环境

IP                主机名              安装项                           描述
192.168.10.205    pinpoint-server   pinpoint，Hbase，zookeeper       pinpoint的web展示端，逻辑控制机，以及Hbase存储
192.168.10.206    pinpont-clinet    pinpoint-agent                  主要用来采集数据，发送给pinpoint端处理

下面操作在两台服务器上同样执行：
[root@pinpoint-server ~]# cat /etc/redhat-release
CentOS release 6.9 (Final)
[root@pinpoint-server ~]# /etc/init.d/iptables stop
[root@pinpoint-server ~]# setenforce 0
setenforce: SELinux is disabled
[root@pinpoint-server ~]# getenforce
Disabled
[root@pinpoint-server ~]# cat /etc/sysconfig/selinux |grep "SELINUX=disabled"
SELINUX=disabled

安装java8
下载地址：https://pan.baidu.com/s/1pLaAjPp
提取密码：x27s

卸载默认的java("rpm -qa|grep java",查找出来，使用rpm -e进行卸载。

[root@pinpoint-server ~]# cd /usr/local/src/
[root@pinpoint-server src]# ll jdk-8u131-linux-x64_.rpm
-rw-r--r--. 1 root root 169983496 Nov 19  2017 jdk-8u131-linux-x64_.rpm
[root@pinpoint-server src]# rpm -ivh jdk-8u131-linux-x64_.rpm
[root@pinpoint-server src]# vim /etc/profile
......
JAVA_HOME=/usr/java/jdk1.8.0_131
JAVA_BIN=/usr/java/jdk1.8.0_131/bin
PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin:/bin:/sbin/
CLASSPATH=.:/lib/dt.jar:/lib/tools.jar
export JAVA_HOME JAVA_BIN PATH CLASSPATH
[root@pinpoint-server src]# source /etc/profile
[root@pinpoint-server src]# java -version
java version "1.8.0_131"
Java(TM) SE Runtime Environment (build 1.8.0_131-b11)
Java HotSpot(TM) 64-Bit Server VM (build 25.131-b11, mixed mode)

2）安装zookeeper（在192.168.10.205，即pinpoint-server端安装）

需要注意：如果Hbase不是与pinpoint(pinpoint-collector和pinpoint-web)装在一台机器上，需要安装zookeeper。
本测试案例中，zookeeper、hbase和pinpoint(pinpoint-collector和pinpoint-web)都安装到一台服务器上。

下载安装zookeeper之前，要安装好java环境
[root@pinpoint-server ~]# cd /usr/local/src/
[root@pinpoint-server src]# wget http://mirrors.hust.edu.cn/apache/zookeeper/zookeeper-3.4.10/zookeeper-3.4.10.tar.gz
[root@pinpoint-server src]# tar -zvxf zookeeper-3.4.10.tar.gz -C /data/
[root@pinpoint-server src]# cd /data/zookeeper-3.4.10/
[root@pinpoint-server zookeeper-3.4.10]# mkdir data
[root@pinpoint-server zookeeper-3.4.10]# mkdir logs
[root@pinpoint-server zookeeper-3.4.10]# cd conf
[root@pinpoint-server conf]# cp zoo_sample.cfg zoo.cfg 

[root@pinpoint-server conf]# cat zoo.cfg
tickTime=2000
initLimit=10
syncLimit=5
dataDir=/data/zookeeper-3.4.10/data
dataLogDir=/data/zookeeper-3.4.10/logs
clientPort=2181
server.1=192.168.10.205:2888:3888

其中:
2888端口号是zookeeper服务之间通信的端口。
3888是zookeeper与其他应用程序通信的端口。

然后在/data/zookeeper-3.4.10/data目录下创建myid文件(编辑myid文件，并在对应的IP的机器上输入对应的编号。
如在zookeeper上，myid 文件内容就是1。如果只在单点上进行安装配置，那么只有一个server.1)
[root@pinpoint-server conf]# echo "1" > /data/zookeeper-3.4.10/data/myid

修改当前用户下的系统环境变量
[root@pinpoint-server conf]# vim /etc/profile
......
ZOOKEEPER_HOME=/hdata/zookeeper-3.4.10
PATH=$ZOOKEEPER_HOME/bin:$PATH
export PATH

[root@pinpoint-server conf]# source /etc/profile
[root@pinpoint-server conf]# echo $ZOOKEEPER_HOME
/hdata/zookeeper-3.4.10

启动zookeeper服务（如果启动后，发现2181端口不在，则启动失败，可以查看zookeeper.out分析启动失败的原因）
[root@pinpoint-server conf]# cd /data/zookeeper-3.4.10/bin
[root@pinpoint-server bin]# ./zkServer.sh start
ZooKeeper JMX enabled by default
Using config: /data/zookeeper-3.4.10/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED

[root@pinpoint-server bin]# ./zkServer.sh status
ZooKeeper JMX enabled by default
Using config: /data/zookeeper-3.4.10/bin/../conf/zoo.cfg
Mode: standalone

[root@pinpoint-server bin]# lsof -i:2181
COMMAND   PID USER   FD   TYPE DEVICE SIZE/OFF NODE NAME
java    23059 root   23u  IPv6 251073      0t0  TCP *:eforward (LISTEN)

查看zookeeper启动后的进程（使用jps命令即可）
[root@pinpoint-server bin]# jps
23059 QuorumPeerMain
23149 Jps

zookeeper服务输出信息
[root@pinpoint-server bin]# tail -500f zookeeper.out

停止zookeeper服务
[root@pinpoint-server bin]# ./zkServer.sh stop
ZooKeeper JMX enabled by default
Using config: /data/zookeeper-3.4.10/bin/../conf/zoo.cfg
Stopping zookeeper ... STOPPED
[root@pinpoint-server bin]# lsof -i:2181
[root@pinpoint-server bin]# jps
23246 Jps

设置zookeeper开机启动
[root@pinpoint-server bin]# cd /etc/rc.d/init.d
[root@pinpoint-server init.d]# touch zookeeper
[root@pinpoint-server init.d]# chmod +x zookeeper
[root@pinpoint-server init.d]# vim zookeeper
#!/bin/bash
#chkconfig:2345 20 90
#description:zookeeper
#processname:zookeeper
export JAVA_HOME=/usr/java/jdk1.8.0_131
export PATH=$JAVA_HOME/bin:$PATH
case $1 in
          start)su root /data/zookeeper-3.4.10/bin/zkServer.sh start;;
          stop)su root /data/zookeeper-3.4.10/bin/zkServer.sh stop;;
          status)su root /data/zookeeper-3.4.10/bin/zkServer.sh status;;
          restart)su root /data/zookeeper-3.4.10/bin/zkServer.sh restart;;
          *)  echo "require start|stop|status|restart"  ;;
esac

然后就可以使用/etc/init.d/zookeeper start/restart/stop来启动/重启/关闭zookeeper服务了
[root@pinpoint-server init.d]# /etc/init.d/zookeeper start
ZooKeeper JMX enabled by default
Using config: /data/zookeeper-3.4.10/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED

[root@pinpoint-server init.d]# service zookeeper status
ZooKeeper JMX enabled by default
Using config: /data/zookeeper-3.4.10/bin/../conf/zoo.cfg
Mode: standalone

[root@pinpoint-server init.d]# lsof -i:2181
COMMAND   PID USER   FD   TYPE DEVICE SIZE/OFF NODE NAME
java    23432 root   23u  IPv6 251180      0t0  TCP *:eforward (LISTEN)
[root@pinpoint-server init.d]# jps
23458 Jps
23432 QuorumPeerMain

把zookeeper添加到开机启动里面
[root@pinpoint-server init.d]# chkconfig zookeeper on
[root@pinpoint-server init.d]# chkconfig --list|grep zookeeper
zookeeper       0:off   1:off   2:on    3:on    4:on    5:on    6:off

3）安装Hbase（在192.168.10.205，即pinpoint-server端安装）

pinpoint收集来的测试数据，主要是存在Hbase数据库的。所以它可以收集大量的数据，可以进行更加详细的分析。

安装配置Hbase
[root@root@pinpoint-server ~]# cd /usr/local/src/
[root@root@pinpoint-server src]# curl -OL http://files.saas.hand-china.com/hitoa/1.0.0/hbase-1.2.4-bin.tar.gz
[root@root@pinpoint-server src]# tar -zvxf hbase-1.2.4-bin.tar.gz
[root@root@pinpoint-server src]# mv hbase-1.2.4 /data/

在/etc/profile文件末尾追加以下内容，设置hbase的系统环境变量
[root@root@pinpoint-server src]# vim /etc/profile
.......
export HBASE_HOME=/data/hbase-1.2.4

[root@root@pinpoint-server ~]# source /etc/profile
[root@root@pinpoint-server ~]# echo $HBASE_HOME
/data/hbase-1.2.4

配置HBase配置文件
[root@root@pinpoint-server ~]# cd /data/hbase-1.2.4/conf/
[root@root@pinpoint-server conf]# cp hbase-site.xml hbase-site.xml.bak

在hbase-site.xml中添加以下内容：
在结尾修改成如下，这里我指定Hbase本地来存储数据，生产环境将数据建议存入HDFS中。（修改相应参数）
[root@root@pinpoint-server conf]# vim hbase-site.xml
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<!--
/**
 *
 * Licensed to the Apache Software Foundation (ASF) under one
 * or more contributor license agreements.  See the NOTICE file
 * distributed with this work for additional information
 * regarding copyright ownership.  The ASF licenses this file
 * to you under the Apache License, Version 2.0 (the
 * "License"); you may not use this file except in compliance
 * with the License.  You may obtain a copy of the License at
 *
 *     http://www.apache.org/licenses/LICENSE-2.0
 *
 * Unless required by applicable law or agreed to in writing, software
 * distributed under the License is distributed on an "AS IS" BASIS,
 * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
 * See the License for the specific language governing permissions and
 * limitations under the License.
 */
-->
<configuration>
  <property>
    <name>hbase.rootdir</name>
    <value>file:/data/hbase-1.2.4/data</value>
  </property>
  <property>
    <name>hbase.cluster.distributed</name>
    <value>true</value>
  </property>
  <property>
    <name>hbase.regionserver.handler.count</name>
    <value>20</value>
  </property>
  <property>
    <name>hbase.zookeeper.quorum</name>
    <value>localhost</value>
  </property>
  <property>
    <name>hbase.zookeeper.property.clientPort</name>
    <value>2181</value>
  </property>
  <property>
    <name>zookeeper.session.timeout</name>
    <value>200000</value>
  </property>
</configuration>

温馨提示：
HBase支持HDFS存储，但是需要安装Hadoop等组件，这里为了方便，暂时先不使用HDFS。另外，生产环境建议搭HBase集群，这里暂时只搭HBase单节点。

修改hbase-env.sh，如下设置，表示使得HBase不使用内置Zookeeper，而使用前面安装好的外置Zookeeper
[root@root@pinpoint-server conf]# vim hbase-env.sh
.......
export HBASE_MANAGES_ZK=false

启动HBase（HBase日志文件位于/data/hbase-1.2.4/logs ，可以查看HBase启动日志。）
[root@root@pinpoint-server conf]# cd /data/hbase-1.2.4/bin/
[root@root@pinpoint-server bin]# ./start-hbase.sh
starting master, logging to /data/hbase-1.2.4/logs/hbase-root-master-root@pinpoint-server.out
Java HotSpot(TM) 64-Bit Server VM warning: ignoring option PermSize=128m; support was removed in 8.0
Java HotSpot(TM) 64-Bit Server VM warning: ignoring option MaxPermSize=128m; support was removed in 8.0
starting regionserver, logging to /data/hbase-1.2.4/logs/hbase-root-1-regionserver-root@pinpoint-server.out

查看hbase启动的进程
[root@root@pinpoint-server bin]# ps -ef|grep hbase

可以用jps命令查看Hbase是否启动成功，如果启动成功的会看到”HMaster”的进程
[root@root@pinpoint-server bin]# jps
24465 Jps
24146 HRegionServer
23432 QuorumPeerMain
24057 HMaster

查看hbase的服务端口
[root@root@pinpoint-server bin]# lsof -i:16010
COMMAND   PID USER   FD   TYPE DEVICE SIZE/OFF NODE NAME
java    24057 root  171u  IPv6 252331      0t0  TCP *:16010 (LISTEN)

在浏览器里输入http://192.168.10.239:16010/master-status  来访问hbase的web页面

===============hbase启动可能存在的问题=================
1）hbase启动之后使用jps命令查看没有hmaster进程
修改hbase-site.xml文件的"export HBASE_MANAGES_ZK=false"
集群配置为false,单机为true,修改为true之后就可以了

2）成功启动了HBase，但是却无法在浏览器中访问 http://ip:16010，这是因为默认开启了防火墙，可以先将防火墙关掉再尝试访问。

接着进行Pinpoint表结构的初始化操作

Pinpoint采用HBase作为底层存储，需要先在HBase中初始化表结构。

hbase-1.2.4-bin.tar.gz和pinpoint-hbase-create.hbase的下载地址：https://pan.baidu.com/s/16Eyhep01nxhkEgjTDOya9Q
提取密码：5ga9

首先确保HBase是正常启动状态
[root@root@pinpoint-server ~]# jps|grep HMaster
24057 HMaster
[root@root@pinpoint-server ~]# lsof -i:16010
COMMAND   PID USER   FD   TYPE DEVICE SIZE/OFF NODE NAME
java    24057 root  171u  IPv6 252331      0t0  TCP *:16010 (LISTEN)

接着如下Ｈｂａｓｅ初始化操作
[root@root@pinpoint-server ~]# cd /data/
[root@root@pinpoint-server data]# curl -OL http://files.saas.hand-china.com/hitoa/1.0.0/pinpoint-hbase-create.hbase
[root@root@pinpoint-server data]# cd /data/hbase-1.2.4/bin/
[root@root@pinpoint-server bin]# ./hbase shell /data/pinpoint-hbase-create.hbase
......
......

0 row(s) in 1.2310 seconds

0 row(s) in 1.2150 seconds

0 row(s) in 1.2150 seconds

TABLE
AgentEvent
AgentInfo
AgentLifeCycle
AgentStat
AgentStatV2
ApiMetaData
ApplicationIndex
ApplicationMapStatisticsCallee_Ver2
ApplicationMapStatisticsCaller_Ver2
ApplicationMapStatisticsSelf_Ver2
ApplicationTraceIndex
HostApplicationMap_Ver2
SqlMetaData_Ver2
StringMetaData
TraceV2
Traces
16 row(s) in 0.0340 seconds

如上可以看出，Hbase数据库初始化成功以后，会在HBase中创建16张表。

=======================================================================================
温馨提示：Hbase在初始化过程中，可能出现如下问题：
出现了问题，zookeeper未连接：client.ConnectionManager$HConnectionImplementation: Can’t get connection to ZooKeeper: KeeperErrorCode =
ConnectionLoss for /hbase
=======================================================================================

访问页面HbaseWeb：http://192.168.10.239:16010/master-status 如果成功在页面的tables标签下能看到导入的表。

4）安装Pinpoint（在192.168.10.205，即pinpoint-server端安装）

分别安装Pinpoint Collector和Pinpoint Web，这两者的部署都需要tomcat环境。
分别下载apache-tomcat-8.5.31.tar.gz、pinpoint-agent-1.7.3.tar.gz、pinpoint-collector-1.7.3.war、pinpoint-web-1.7.3.war四个包，
放到/usr/local/src目录下。
下载地址：https://pan.baidu.com/s/1wpEy09ISkKEkN2ufAd9gtQ
提取密码：b9pu

4.1）先安装pinpoint-collector

[root@pinpoint-server ~]# cd /usr/local/src/
[root@pinpoint-server src]# ll apache-tomcat-8.5.33.tar.gz
-rw-rw-r-- 1 root root 9621331 Aug 21 16:57 apache-tomcat-8.5.33.tar.gz
[root@pinpoint-server src]# tar -zvxf apache-tomcat-8.5.33.tar.gz
[root@pinpoint-server src]# mkdir -p /data/pinpoint
[root@pinpoint-server src]# mv apache-tomcat-8.5.33 /data/pinpoint/pp-col
[root@pinpoint-server src]# ls /data/pinpoint/pp-col
bin  BUILDING.txt  conf  CONTRIBUTING.md  lib  LICENSE  logs  NOTICE  README.md  RELEASE-NOTES  RUNNING.txt  temp  webapps  work

修改pp-col的Tomcat的配置，主要修改端口，避免与pp-web的Tomcat的端口冲突。我在原本默认的端口前都加了1，下面是替换的shell命令。

温馨提示：
最后一条是将tomcat的私有ip开放，需要将localhost替换成本机的ip，我本机的网卡是默认的，如果本机网卡不是eth0，需要进行相关的修改。
或者直接用"vi"进去，修改localhost

[root@pinpoint-server src]# cd /data/pinpoint/pp-col/conf/
[root@pinpoint-server conf]# sed -i 's/port="8005"/port="18005"/g' server.xml
[root@pinpoint-server conf]# sed -i 's/port="8080"/port="18080"/g' server.xml
[root@pinpoint-server conf]# sed -i 's/port="8443"/port="18443"/g' server.xml
[root@pinpoint-server conf]# sed -i 's/port="8009"/port="18009"/g' server.xml
[root@pinpoint-server conf]# sed -i 's/redirectPort="8443"/redirectPort="18443"/g' server.xml
[root@pinpoint-server conf]# sed -i "s/localhost/`ifconfig eth0 | grep 'inet addr' | awk '{print $2}' | awk -F: '{print $2}'`/g" server.xml

部署pinpoint-collector.war包
[root@pinpoint-server conf]# ll /usr/local/src/pinpoint-collector-1.7.3.war
-rw-rw-r-- 1 root root 48343632 Aug 21 18:03 /usr/local/src/pinpoint-collector-1.7.3.war
[root@pinpoint-server conf]# rm -rf /data/pinpoint/pp-col/webapps/*
[root@pinpoint-server conf]# mv /usr/local/src/pinpoint-collector-1.7.3.war /data/pinpoint/pp-col/webapps/
[root@pinpoint-server conf]# ll /data/pinpoint/pp-col/webapps/
total 47212
-rw-rw-r-- 1 root root 48343632 Aug 21 18:03 pinpoint-collector-1.7.3.war

[root@pinpoint-server conf]# cd /data/pinpoint/pp-col/webapps/
[root@pinpoint-server webapps]# ls
pinpoint-collector-1.7.3.war
[root@pinpoint-server webapps]# unzip pinpoint-collector-1.7.3.war -d /data/pinpoint/pp-col/webapps/ROOT
[root@pinpoint-server webapps]# ls
pinpoint-collector-1.7.3.war  ROOT

启动Tomcat
[root@pinpoint-server webapps]# cd /data/pinpoint/pp-col/bin/
[root@pinpoint-server bin]# ./startup.sh 

查看日志，是否成功启动
[root@pinpoint-server bin]# tail -f /data/pinpoint/pp-col/logs/catalina.out

[root@pinpoint-server bin]# ps -ef|grep tomcat
root     31043     1 21 08:13 pts/2    00:00:08 /usr/java/jdk1.8.0_131/bin/java -Djava.util.logging.config.file=/data/pinpoint/pp-col/conf/logging.properties -Djava.util.logging.manager=org.apache.juli.ClassLoaderLogManager -Djdk.tls.ephemeralDHKeySize=2048 -Djava.protocol.handler.pkgs=org.apache.catalina.webresources -Dorg.apache.catalina.security.SecurityListener.UMASK=0027 -Dignore.endorsed.dirs= -classpath /data/pinpoint/pp-col/bin/bootstrap.jar:/data/pinpoint/pp-col/bin/tomcat-juli.jar -Dcatalina.base=/data/pinpoint/pp-col -Dcatalina.home=/data/pinpoint/pp-col -Djava.io.tmpdir=/data/pinpoint/pp-col/temp org.apache.catalina.startup.Bootstrap start
root     31228 28329  0 08:14 pts/2    00:00:00 grep tomcat
[root@pinpoint-server bin]# lsof -i:18080
COMMAND   PID USER   FD   TYPE   DEVICE SIZE/OFF NODE NAME
java    31043 root   49u  IPv6 50719842      0t0  TCP *:18080 (LISTEN)

配置快速启动，启动文件pp-collector.init的下载地址：https://pan.baidu.com/s/1frjko9C5N84-SkqD-AQsGg     提取密码：4syp
下载到/usr/local/src目录下
[root@pinpoint-server ~]# cd /usr/local/src/
[root@pinpoint-server src]# ll pp-collector.init
-rwxr-xr-x 1 root root 3066 Aug 22 13:21 pp-collector.init
[root@pinpoint-server src]# vim pp-collector.init                        #主要修改下面三行内容，根据实际环境修改路径
......
export JAVA_HOME=/usr/java/jdk1.8.0_131
......
export CATALINA_HOME=/data/pinpoint/pp-col/
......
export CATALINA_BASE=/data/pinpoint/pp-col/

将文件赋予"执行"的权限，把它放到"init.d"中去。以后就可以restart快速重启了。
[root@pinpoint-server src]# chmod 755 pp-collector.init
[root@pinpoint-server src]# mv pp-collector.init /etc/init.d/pp-col

测试一下restart
[root@pinpoint-server src]# /etc/init.d/pp-col restart
Stoping Tomcat
Using CATALINA_BASE:   /data/pinpoint/pp-col/
Using CATALINA_HOME:   /data/pinpoint/pp-col/
Using CATALINA_TMPDIR: /data/pinpoint/pp-col//temp
Using JRE_HOME:        /usr/java/jdk1.8.0_131
Using CLASSPATH:       /data/pinpoint/pp-col//bin/bootstrap.jar:/data/pinpoint/pp-col//bin/tomcat-juli.jar

waiting for processes to exitStarting tomcat
Using CATALINA_BASE:   /data/pinpoint/pp-col/
Using CATALINA_HOME:   /data/pinpoint/pp-col/
Using CATALINA_TMPDIR: /data/pinpoint/pp-col//temp
Using JRE_HOME:        /usr/java/jdk1.8.0_131
Using CLASSPATH:       /data/pinpoint/pp-col//bin/bootstrap.jar:/data/pinpoint/pp-col//bin/tomcat-juli.jar
Tomcat started.
Tomcat is running with pid: 11469

[root@pinpoint-server src]#  /etc/init.d/pp-col status
Tomcat is running with pid: 11469

4.2）接着安装pinpoint-web

部署war包
解压Tomcat，将Tomcat重命名移动到指定位置
[root@pinpoint-server ~]# cd /usr/local/src/
[root@pinpoint-server src]# ll apache-tomcat-8.5.33.tar.gz
-rw-rw-r-- 1 root root 9621331 Aug 21 16:57 apache-tomcat-8.5.33.tar.gz
[root@pinpoint-server src]# tar -zvxf apache-tomcat-8.5.33.tar.gz
[root@pinpoint-server src]# mv apache-tomcat-8.5.33 /data/pinpoint/pp-web
[root@pinpoint-server src]# ll /data/pinpoint
total 8
drwxr-xr-x 9 root root 4096 Aug 22 08:05 pp-col
drwxr-xr-x 9 root root 4096 Aug 22 13:30 pp-web

修改pp-web的Tomcat的配置，主要修改端口，避免与pp-col的Tomcat的端口冲突。我在原本默认的端口前都加了2，下面是替换的shell命令

温馨提示：
最后一条是将tomcat的私有ip开放，需要将localhost替换成本机的ip，我本机的网卡是默认的，如果你本机的网卡不是eth0，需要进行相关的修改。
或者直接用"vi"进去，修改localhost
[root@pinpoint-server src]# cd /data/pinpoint/pp-web/conf/
[root@pinpoint-server conf]# sed -i 's/port="8005"/port="28005"/g' server.xml
[root@pinpoint-server conf]# sed -i 's/port="8080"/port="28080"/g' server.xml
[root@pinpoint-server conf]# sed -i 's/port="8443"/port="28443"/g' server.xml
[root@pinpoint-server conf]# sed -i 's/port="8009"/port="28009"/g' server.xml
[root@pinpoint-server conf]# sed -i 's/redirectPort="8443"/redirectPort="28443"/g' server.xml
[root@pinpoint-server conf]# sed -i "s/localhost/`ifconfig eth0 | grep 'inet addr' | awk '{print $2}' | awk -F: '{print $2}'`/g" server.xml

部署pinpoint-collector.war包
[root@pinpoint-server conf]# ll /usr/local/src/pinpoint-web-1.7.3.war
-rw-rw-r-- 1 root root 78999706 Aug 21 18:02 /usr/local/src/pinpoint-web-1.7.3.war
[root@pinpoint-server conf]# rm -rf /data/pinpoint/pp-web/webapps/*
[root@pinpoint-server conf]# mv /usr/local/src/pinpoint-web-1.7.3.war /data/pinpoint/pp-web/webapps/
[root@pinpoint-server conf]# cd /data/pinpoint/pp-web/webapps/
[root@pinpoint-server webapps]# ll
total 77156
-rw-rw-r-- 1 root root 78999706 Aug 21 18:02 pinpoint-web-1.7.3.war
[root@pinpoint-server webapps]# unzip pinpoint-web-1.7.3.war -d /data/pinpoint/pp-web/webapps/ROOT
[root@pinpoint-server webapps]# ls
pinpoint-web-1.7.3.war  ROOT

查看war包是否解压成功
[root@pinpoint-server webapps]# ll /data/pinpoint/pp-web/webapps/ROOT/WEB-INF/classes/
total 96
-rw-r--r-- 1 root root   907 May  3 15:20 applicationContext-cache.xml
-rw-r--r-- 1 root root  3684 May  3 15:20 applicationContext-dao-config.xml
-rw-r--r-- 1 root root  2820 May  3 15:20 applicationContext-datasource.xml
-rw-r--r-- 1 root root  8472 May  3 15:20 applicationContext-hbase.xml
-rw-r--r-- 1 root root   495 May  3 15:20 applicationContext-web-namespace.xml
-rw-r--r-- 1 root root   969 May  3 15:20 applicationContext-websocket.xml
-rw-r--r-- 1 root root 10629 May  3 15:20 applicationContext-web.xml
drwxr-xr-x 2 root root  4096 May  3 15:20 batch
-rw-r--r-- 1 root root   149 May  3 15:20 batch.properties
drwxr-xr-x 3 root root  4096 May  3 15:20 com
-rw-r--r-- 1 root root   697 May  3 15:20 ehcache.xml
-rw-r--r-- 1 root root  1159 May  3 15:20 hbase.properties
-rw-r--r-- 1 root root   158 May  3 15:20 jdbc.properties
-rw-r--r-- 1 root root  3286 May  3 15:20 log4j.xml
drwxr-xr-x 2 root root  4096 May  3 15:21 mapper
-rw-r--r-- 1 root root  1600 May  3 15:20 mybatis-config.xml
-rw-r--r-- 1 root root  3690 May  3 15:20 pinpoint-web.properties
-rw-r--r-- 1 root root   160 May  3 15:20 project.properties
-rw-r--r-- 1 root root  2478 May  3 15:20 servlet-context.xml
drwxr-xr-x 2 root root  4096 May  3 15:21 sql

这里需要说明一下：
-  hbase.properties 配置我们pp-web从哪个数据源获取采集数据，这里我们只指定Hbase的zookeeper地址。
-  jdbc.properties pp-web连接自身Mysql数据库的连接认证配置。
-  sql目录 pp-web本身有些数据需要存放在MySQL数据库中，这里需要初始化一下表结构。
-  pinpoint-web.properties 这里pp-web集群的配置文件，如果你需要pp-web集群的话。
-  applicationContext-* .xml 这些文件在后续的调优工作中会用到。
-  log4j.xml 日志相关配置。

启动Tomcat
[root@pinpoint-server webapps]# cd /data/pinpoint/pp-web/bin/
[root@pinpoint-server bin]# ./startup.sh
Using CATALINA_BASE:   /data/pinpoint/pp-web
Using CATALINA_HOME:   /data/pinpoint/pp-web
Using CATALINA_TMPDIR: /data/pinpoint/pp-web/temp
Using JRE_HOME:        /usr/java/jdk1.8.0_131
Using CLASSPATH:       /data/pinpoint/pp-web/bin/bootstrap.jar:/data/pinpoint/pp-web/bin/tomcat-juli.jar
Tomcat started.

查看日志，Tocmat是否启动成功（如下是pp-col和pp-web启动的两个tomcat进程）
[root@pinpoint-server bin]# ps -ef|grep tomcat
root     11469     1  6 13:27 pts/0    00:00:42 /usr/java/jdk1.8.0_131/bin/java -Djava.util.logging.config.file=/data/pinpoint/pp-col//conf/logging.properties -Djava.util.logging.manager=org.apache.juli.ClassLoaderLogManager -Djdk.tls.ephemeralDHKeySize=2048 -Djava.protocol.handler.pkgs=org.apache.catalina.webresources -Dorg.apache.catalina.security.SecurityListener.UMASK=0027 -Dignore.endorsed.dirs= -classpath /data/pinpoint/pp-col//bin/bootstrap.jar:/data/pinpoint/pp-col//bin/tomcat-juli.jar -Dcatalina.base=/data/pinpoint/pp-col/ -Dcatalina.home=/data/pinpoint/pp-col/ -Djava.io.tmpdir=/data/pinpoint/pp-col//temp org.apache.catalina.startup.Bootstrap start
root     14733     1 99 13:38 pts/0    00:01:03 /usr/java/jdk1.8.0_131/bin/java -Djava.util.logging.config.file=/data/pinpoint/pp-web/conf/logging.properties -Djava.util.logging.manager=org.apache.juli.ClassLoaderLogManager -Djdk.tls.ephemeralDHKeySize=2048 -Djava.protocol.handler.pkgs=org.apache.catalina.webresources -Dorg.apache.catalina.security.SecurityListener.UMASK=0027 -Dignore.endorsed.dirs= -classpath /data/pinpoint/pp-web/bin/bootstrap.jar:/data/pinpoint/pp-web/bin/tomcat-juli.jar -Dcatalina.base=/data/pinpoint/pp-web -Dcatalina.home=/data/pinpoint/pp-web -Djava.io.tmpdir=/data/pinpoint/pp-web/temp org.apache.catalina.startup.Bootstrap start
root     15176  6951  0 13:39 pts/0    00:00:00 grep tomcat

[root@pinpoint-server bin]# tail -f /data/pinpoint/pp-web/logs/catalina.out

[root@pinpoint-server bin]# lsof -i:28080                        #28080是pp-web的服务端口
COMMAND   PID USER   FD   TYPE DEVICE SIZE/OFF NODE NAME
java    14733 root   49u  IPv6 576300      0t0  TCP *:28080 (LISTEN)

[root@pinpoint-server bin]# lsof -i:18080                        #18080是pp-col的服务端口
COMMAND   PID USER   FD   TYPE DEVICE SIZE/OFF NODE NAME
java    11469 root   49u  IPv6 556976   

配置快速启动，启动文件pp-web.init的下载地址：https://pan.baidu.com/s/17d4oQZG60iWC_JlhnNHgUw     提取密码：787p
下载到/usr/local/src目录下

[root@pinpoint-server ~]# cd /usr/local/src/
[root@pinpoint-server src]# ll pp-web.init
-rw-rw-r-- 1 root root 3067 Aug 22 13:42 pp-web.init
[root@pinpoint-server src]# vim pp-web.init                        #主要修改下面三行内容，根据实际环境修改路径
export JAVA_HOME=/usr/java/jdk1.8.0_131/
.......
export CATALINA_HOME=/data/pinpoint/pp-web/
.......
export CATALINA_BASE=/data/pinpoint/pp-web/

将文件赋予"执行"的权限，把它放到"init.d"中去。以后就可以restart快速重启了。
[root@pinpoint-server src]# chmod 755 pp-web.init
[root@pinpoint-server src]# mv pp-web.init /etc/init.d/pp-web

测试一下restart
[root@pinpoint-server src]# /etc/init.d/pp-web restart
Stoping Tomcat
Using CATALINA_BASE:   /data/pinpoint/pp-web/
Using CATALINA_HOME:   /data/pinpoint/pp-web/
Using CATALINA_TMPDIR: /data/pinpoint/pp-web//temp
Using JRE_HOME:        /usr/java/jdk1.8.0_131/
Using CLASSPATH:       /data/pinpoint/pp-web//bin/bootstrap.jar:/data/pinpoint/pp-web//bin/tomcat-juli.jar

waiting for processes to exitStarting tomcat
Using CATALINA_BASE:   /data/pinpoint/pp-web/
Using CATALINA_HOME:   /data/pinpoint/pp-web/
Using CATALINA_TMPDIR: /data/pinpoint/pp-web//temp
Using JRE_HOME:        /usr/java/jdk1.8.0_131/
Using CLASSPATH:       /data/pinpoint/pp-web//bin/bootstrap.jar:/data/pinpoint/pp-web//bin/tomcat-juli.jar
Tomcat started.
Tomcat is running with pid: 16914

[root@pinpoint-server src]# /etc/init.d/pp-web status
Tomcat is running with pid: 16914

这时候可以访问一下这个地址，在浏览器中输入"http://192.168.10.205:28080"，就会出现主页面了

5）部署pp-agent采集监控数据（在192.168.10.206，即pinpoint-client端安装）

部署采集器就很简单了，只需要加3句话就好了。如下，做一个测试的Tomcat，使用pinpoint-web-1.7.3.war包来模拟部署。
[root@pinpoint-client ~]# mkdir -p /data/pinpoint/pp-test

将tomcat安装包、pinpoint-agent包、pinpoint-web的war包放到该目录下：
[root@pinpoint-client ~]# ll /data/pinpoint/pp-test/
total 95248
-rw-rw-r--. 1 root root  9621331 Aug 21 16:57 apache-tomcat-8.5.33.tar.gz
-rw-rw-r--. 1 root root  8906297 Aug 21 17:59 pinpoint-agent-1.7.3.tar.gz
-rw-rw-r--. 1 root root 78999706 Aug 21 18:02 pinpoint-web-1.7.3.war

配置模拟的Tomcat测试环境
[root@pinpoint-client ~]# cd /data/pinpoint/pp-test/
[root@pinpoint-client pp-test]# tar -zvxf apache-tomcat-8.5.33.tar.gz
[root@pinpoint-client pp-test]# ls
apache-tomcat-8.5.33  apache-tomcat-8.5.33.tar.gz  pinpoint-agent-1.7.3.tar.gz  pinpoint-web-1.7.3.war

配置localhost让外部可以访问
[root@pinpoint-client pp-test]# cd /data/pinpoint/pp-test/apache-tomcat-8.5.33/conf/
[root@pinpoint-client conf]# sed -i "s/localhost/`ifconfig eth0 | grep 'inet addr' | awk '{print $2}' | awk -F: '{print $2}'`/g" server.xml

解压测试用的war包
[root@pinpoint-client conf]# rm -rf /data/pinpoint/pp-test/apache-tomcat-8.5.33/webapps/*
[root@pinpoint-client conf]# mv /data/pinpoint/pp-test/pinpoint-web-1.7.3.war /data/pinpoint/pp-test/apache-tomcat-8.5.33/webapps/
[root@pinpoint-client conf]# cd /data/pinpoint/pp-test/apache-tomcat-8.5.33/webapps/
[root@pinpoint-client webapps]# ll
total 77152
-rw-rw-r--. 1 root root 78999706 Aug 21 18:02 pinpoint-web-1.7.3.war
[root@pinpoint-client webapps]# unzip pinpoint-web-1.7.3.war -d /data/pinpoint/pp-test/apache-tomcat-8.5.33/webapps/ROOT
[root@pinpoint-client webapps]# ll
total 77156
-rw-rw-r--.  1 root root 78999706 Aug 21 18:02 pinpoint-web-1.7.3.war
drwxr-xr-x. 13 root root     4096 Aug 22 22:00 ROOT

配置pp-agent采集器
[root@pinpoint-client webapps]# cd /data/pinpoint/pp-test/
[root@pinpoint-client pp-test]# ll pinpoint-agent-1.7.3.tar.gz
-rw-rw-r--. 1 root root 8906297 Aug 21 17:59 pinpoint-agent-1.7.3.tar.gz
[root@pinpoint-client pp-test]# mkdir -p /data/pinpoint/pp-agent
[root@pinpoint-client pp-test]# tar -zvxf pinpoint-agent-1.7.3.tar.gz -C /data/pinpoint/pp-agent/
[root@pinpoint-client pp-test]# ll /data/pinpoint/pp-agent/
total 108
drwxr-xr-x. 2 root root  4096 Aug 22 22:02 boot
drwxr-xr-x. 2 root root  4096 Aug 22 22:02 lib
-rw-r--r--. 1 root root 33848 May  3 14:17 pinpoint-bootstrap-1.7.3.jar
-rw-r--r--. 1 root root 28450 May  3 12:37 pinpoint.config
-rw-r--r--. 1 root root 24424 May  3 12:37 pinpoint-real-env-lowoverhead-sample.config
drwxr-xr-x. 2 root root  4096 Aug 22 22:02 plugin
drwxr-xr-x. 2 root root  4096 Nov 23  2016 script
drwxr-xr-x. 2 root root  4096 Aug 22 22:02 tools

编辑配置文件
[root@pinpoint-client pp-test]# cd /data/pinpoint/pp-agent/
[root@pinpoint-client pp-agent]# cp pinpoint.config pinpoint.config.bak

主要修改IP，只需要指定到安装pp-col的IP就行了，安装pp-col启动后，自动就开启了9994，9995，9996的端口了。
这里就不需要操心了，如果有端口需求，要去pp-col的配置文件("pp-col/webapps/ROOT/WEB-INF/classes/pinpoint-collector.properties")中，修改这些端口
[root@pinpoint-client pp-agent]# vim pinpoint.config
......
profiler.collector.ip=192.168.10.205

修改测试项目下的tomcat启动文件"catalina.sh"，修改这个只要是为了监控测试环境的Tomcat，增加探针
[root@pinpoint-client bin]# ll /data/pinpoint/pp-agent/pinpoint-bootstrap-1.7.3.jar                  #pp-agent的jar包位置
-rw-r--r--. 1 root root 33848 May  3 14:17 /data/pinpoint/pp-agent/pinpoint-bootstrap-1.7.3.jar
[root@pinpoint-client pp-agent]# cd /data/pinpoint/pp-test/apache-tomcat-8.5.33/bin/
[root@pinpoint-client bin]# cp catalina.sh catalina.sh.bak
[root@pinpoint-client bin]# vim catalina.sh                     #在20行增加如下字段
......
CATALINA_OPTS="$CATALINA_OPTS -javaagent:/data/pinpoint/pp-agent/pinpoint-bootstrap-1.7.3.jar"
CATALINA_OPTS="$CATALINA_OPTS -Dpinpoint.agentId=pp20180221"
CATALINA_OPTS="$CATALINA_OPTS -Dpinpoint.applicationName=MyTestPP"

其中：
第一行是pp-agent的jar包位置
第二行是agent的ID，这个ID是唯一的，我是用pp + 今天的日期命名的，只要与其他的项目的ID不重复就好了
第三行是采集项目的名字，这个名字可以随便取，只要各个项目不重复就好了

如上一切配置好了，就可以开始监控Tomcat了，启动测试用的Tomcat的服务器
[root@pinpoint-client bin]# cd /data/pinpoint/pp-test/apache-tomcat-8.5.33/bin/
[root@pinpoint-client bin]# ./startup.sh
Using CATALINA_BASE:   /data/pinpoint/pp-test/apache-tomcat-8.5.33
Using CATALINA_HOME:   /data/pinpoint/pp-test/apache-tomcat-8.5.33
Using CATALINA_TMPDIR: /data/pinpoint/pp-test/apache-tomcat-8.5.33/temp
Using JRE_HOME:        /usr/java/jdk1.8.0_131
Using CLASSPATH:       /data/pinpoint/pp-test/apache-tomcat-8.5.33/bin/bootstrap.jar:/data/pinpoint/pp-test/apache-tomcat-8.5.33/bin/tomcat-juli.jar
Tomcat started.

查看启动日志，确实Tomcat启动
[root@pinpoint-client bin]# ps -ef|grep tomcat
root     13566     1 99 22:09 pts/1    00:00:33 /usr/java/jdk1.8.0_131/bin/java -Djava.util.logging.config.file=/data/pinpoint/pp-test/apache-tomcat-8.5.33/conf/logging.properties -Djava.util.logging.manager=org.apache.juli.ClassLoaderLogManager -Djdk.tls.ephemeralDHKeySize=2048 -Djava.protocol.handler.pkgs=org.apache.catalina.webresources -Dorg.apache.catalina.security.SecurityListener.UMASK=0027 -javaagent:/data/pinpoint/pp-agent/pinpoint-bootstrap-1.7.3.jar -Dpinpoint.agentId=pp20180221 -Dpinpoint.applicationName=MyTestPP -Dignore.endorsed.dirs= -classpath /data/pinpoint/pp-test/apache-tomcat-8.5.33/bin/bootstrap.jar:/data/pinpoint/pp-test/apache-tomcat-8.5.33/bin/tomcat-juli.jar -Dcatalina.base=/data/pinpoint/pp-test/apache-tomcat-8.5.33 -Dcatalina.home=/data/pinpoint/pp-test/apache-tomcat-8.5.33 -Djava.io.tmpdir=/data/pinpoint/pp-test/apache-tomcat-8.5.33/temp org.apache.catalina.startup.Bootstrap start
root     13707 13339  0 22:10 pts/1    00:00:00 grep tomcat
[root@pinpoint-client bin]# lsof -i:8080
COMMAND   PID USER   FD   TYPE DEVICE SIZE/OFF NODE NAME
java    13566 root  136u  IPv6 154353      0t0  TCP *:webcache (LISTEN)

这时候我们再访问pp-web，可以发现它的下拉框中，多了一个app

因为我访问了三次pp-test的tomcat页面，所以它显示有3条请求记录，可以在右上角的框查看详情。
特别注意：鼠标点击右上角箭头位置，鼠标左键按住不动，拉框查看（需要拉框拉到右边最后一条边线位置或接近这个位置，左键按住不动，才会出现新的监控分析页面）

这时候就弹出了新页面，可以看到，我访问了一次主页，访问了一次test的servlet。而且详细信息都记录在下表中。

到这里，Pinpoint环境就算暂时部署完成了，基于上面的操作，总结几点：
1）如果Hbase不是与pp-web, pp-col装在一台机器上，需要安装zookeeper，只要安装就好，确实2181端口启动就好。
2）如果zookeeper安装在独立机器上，这里需要修改一下pp-colletor 和 pp-web的配置文件pinpoint-collector.properties，pinpoint-web.properties，不然会导致俩个模块启动失败。

Centos下分布式跟踪工具Pinpoint的完整部署记录的更多相关文章

CentOS下性能监测工具 dstat
原文链接:http://www.bkjia.com/Linuxjc/935113.html 参考链接:https://linux.cn/article-3215-1.html,http://lhfli ...
[转]CentOS下性能监测工具 dstat
原文链接:http://www.bkjia.com/Linuxjc/935113.html 参考链接:https://linux.cn/article-3215-1.html,http://lhfli ...
CentOS下长时间ping网络加时间戳并记录到文本
Linux下长时间ping网络加时间戳并记录到文本由于一些原因,比如需要检查网络之间是否存在掉包等问题,会长时间去ping一个地址,由于会输出大量的信息而且最好要有时间戳,因此我们可以使用简单的 ...
centos 下安装mulval工具
我这里采用的是centos 6.5版本系统 MulVAL是企业网络安全分析的工具.它使用漏洞扫描程序(OVAL / Nessus)作为攻击路径生成的数源,其中包括扫描结果和网络可访问性信息. 在这之前 ...
Centos下堡垒机Jumpserver V3.0环境部署完整记录（1）-安装篇
由于来源身份不明.越权操作.密码泄露.数据被窃.违规操作等因素都可能会使运营的业务系统面临严重威胁,一旦发生事故,如果不能快速定位事故原因,运维人员往往就会背黑锅.几种常见的运维人员背黑锅场景:1)由 ...
Centos下配置单元测试工具gtest
gtest是google提供的一个非常强大的单元测试工具,下载地址:https://code.google.com/p/googletest 我下载的是gtest-1.6.0.拷贝到Centos系统上 ...
Centos下堡垒机Jumpserver V3.0环境部署完整记录（2）-配置篇
前面已经介绍了Jumpserver V3.0的安装,基于这篇安装文档,下面说下Jumpserver安装后的的功能使用: 一.jumpserver的启动 Jumpserver的启动和重启 [root@t ...
centos下性能分析工具perf的安装和简单使用
1.安装: cat /etc/redhat-releaseCentOS release 6.6 (Final) sudo yum install perf 2.
centos下同步备份工具rsync的安装及配置
http://www.cnblogs.com/wander1129/archive/2013/03/27/2984922.html

随机推荐

洗礼灵魂，修炼python（12）--python关键词，包
关键词 1.什么是关键词: 就是系统已经定义好的一些关键词语法,可以直接使用,很明显的就是在IDE里这些关键词会高亮显示的就是 2.有哪些关键词: 前面我们一直在说关键词,内置函数,到底有哪些关键词对 ...
Python3 下实现腾讯人工智能API 调用
1.背景 a.鹅厂近期发布了自己的人工智能 api,包括身份证ocr.名片ocr.文本分析等一堆API,因为前期项目用到图形OCR,遂实现试用了一下,发现准确率还不错,放出来给大家共享一下. b.基于 ...
win7计划任务报该任务映像己损坏或己篡改
目录 win7计划任务报该任务映像己损坏或己篡改前言解决方案排查损坏的计划任务映像 win7计划任务报该任务映像己损坏或己篡改文:铁乐与猫 2018-9-20 前言 win7下想自定义一些计划 ...
Django之Form进阶
s6day76 内容回顾: Form组件: - 类继承Form - 字段字段 - 实例化 - is_valid() - cleaned_data - errors Form 组件: ...
接上篇，php生成静态页面，加上页面时间缓存
<?php require_once(dirname(__FILE__).'/include/config.inc.php'); ?> <?php $dosql->Execut ...
FileSaver.js 实现浏览器文件导出
FileSaver.js 实现浏览器文件导出在浏览器中用 FileSaver.js 可以下载文件,不会造成文件直接打开等情况
EasyUI tab
1.新增tab2.关闭tab3.右键菜单(关闭.关闭所有.关闭其它.关闭右侧.关闭左侧) //双击关闭tab $(document).on("dblclick", ".t ...
【Codeforces 1106E】 Lunar New Year and Red Envelopes
Codeforces 1106 E 题意:有$k$个红包,第$i$个红包可以在$s_i$到$t_i$的时间内抢,同时获得$w_i$的钱,但是抢完以后一直到$d_i$都不可以继续 ...
win10升级至专业版
前几天脑子一热,买了个电脑,默认系统还是那简单的win10家庭版.作为一个IT从业者,家庭版是很难受的,因为没有组策略....会导致在装一些软件的时候无法修改.所以来动手吧,方式有几种,这里都大概说说 ...
MySQL（一）MySQL基础介绍
最近的学习内容是数据库相关的一些知识,主要以MySQL为主,参考书籍——<MySQL必知必会> MySQL学习及下载地址:https://dev.mysql.com/ MySQL学习使用注 ...

Centos下分布式跟踪工具Pinpoint的完整部署记录

Centos下分布式跟踪工具Pinpoint的完整部署记录的更多相关文章

随机推荐

热门专题