监控 | open-falcon | 安装

1. 简介

主要看中了它的水平扩展，画图比zabbix要友好，告警支持简单压缩。

绿色：基础组件；
蓝色：作图链路
红色：报警链路
橙色：域名

架构

1.1 基础组件

agent

每台实例上都需安装，agent从hbs上拉取配置信息，采集数据后上报（push）给transfer。

transfer

transfer是一个无状态的集群，挂掉1台或多台均无影响。transfer接收agent上报的数据，然后使用一致性哈希进行数据分片、并把分片后的数据转发给graph、judge集群(transfer还会打一份数据到opentsdb)。类似zabbix里的proxy角色。transfer 提供jsonRpc接口和telnet接口两种方式

transfer集群可使用域名，让agent通过域名来访问，从而实现高可用性和自动切换，同时DNS还可以保证优先用本机房内的transfer

transfer的数据来源，一般有三种：

falcon-agent采集的基础监控数据
falcon-agent执行用户自定义的插件返回的数据
client library：线上的业务系统，都嵌入使用了统一的perfcounter.jar，对于业务系统中每个RPC接口的qps、latency都会主动采集并上报

center-status

中心存储，包括mysql、redis。mysql用于存储配置信息、索引数据。redis用于报警缓存队列。

1.2 作图链路

graph

graph组件用于存储、归档作图数据，可以集群部署。每个graph实例会处理一个分片的数据: 接收transfer发送来的分片数据，归档、存储、生成索引；接受query对该数据分片的查询请求。

query

数据分片存储在graph上，用户查询起来比较麻烦。query负责提供一个统一的查询入口、屏蔽数据分片的细节。query的使用场景主要有：(1)dashboard图表展示 (2)使用监控数据做二次开发。

建议将query集群挂载到一个域名下。考虑到高可用，query至少部署两个实例(当前，两个实例部署的IDC、机架等需要负责高可用的规范)。

dashboard

dashboard用户监控数据的图表展示，是一个web应用

1.3 报警链路

judge

judge用于实现报警策略的触发逻辑

hbs

hbs是Open-Falcon的配置中心，负责适配系统的配置信息、管理agent信息等。hbs单实例部署，每个实例都有完整的配置信息

protal

portal提供监控策略管理相关的UI，使用频率较低、系统负载很小。

uic

uic是用户信息管理中心，提供用户管理的UI，使用频率较低、系统负载较小

alarm(sender)

alarm负责整理报警信息，使变成适合发送的形式。alarm做了一些报警合并相关的工作，当前只能单实例部署(待优化)

links

links负责报警合并后的详情展示工作。

2. 安装

open-falcon安装主要有3部分

环境准备(gcc, go mysql)
后端部署
前端部署

2.1 环境准备

更新yum源

http://mirrors.163.com/.help/centos.html放入/etc/yum.repos.d/目录
yum clean all 清空缓存

安装gcc

yum -y install gcc*安装gcc库

安装git

yum install -y git 安装git，版本>=1.7.5即可

安装go

tar -C /usr/local -xzf go1.8XXX下载go并解压缩
vim ~/.bashrc添加环境变量

export PATH=$PATH:/usr/local/go/bin

source ~/.bashrc执行生效，可用go version命令检查版本

安装Redis

安装扩展源yum install -y epel-release
systemctl start redis启动
systemctl enable redis设置开机启动
systemctl status redis查看启动状态

安装mysql

wget http://repo.mysql.com/mysql-community-release-el7-5.noarch.rpm 获取扩展源
rpm -ivh mysql-community-release-el7-5.noarch.rpm安装

yum install mysql-server
安装完毕后启动
systemctl start mysql启动
systemctl status mysql 查看启动状态

设置环境变量

export GOROOT=/usr/lib/golang

export GOPATH=/hom

初始化mysql表结构

cd /tmp/ && git clone https://github.com/open-falcon/falcon-plus.git

cd /tmp/falcon-plus/scripts/mysql/db_schema/

mysql -h 127.0.0.1 -u root -p < 1_uic-db-schema.sql

mysql -h 127.0.0.1 -u root -p < 2_portal-db-schema.sql

mysql -h 127.0.0.1 -u root -p < 3_dashboard-db-schema.sql

mysql -h 127.0.0.1 -u root -p < 4_graph-db-schema.sql

mysql -h 127.0.0.1 -u root -p < 5_alarms-db-schema.sql

rm -rf /tmp/falcon-plus/

输入过程中提示让输入密码，这里还未设置密码，直接回车即可

mysql设置密码

systemctl status mysql查看mysql运行状态
mysqladmin -u root password 'XXXX' 设置密码
mysql -u root -p登陆测试

2.2 安装后端

下载二进制包

https://book.open-falcon.org/zh_0_2/quick_install/prepare.html

export FALCON_HOME=/home/work

export WORKSPACE=$FALCON_HOME/open-falcon

mkdir -p $WORKSPACE

tar -xzvf open-falcon-v0.2.1.tar.gz -C $WORKSPACE

修改配置文件

aggregator
路径：/home/work/open-falcon/aggregator/config/cfg.json

    "database": {

        "addr": "real_user:real_password@tcp(127.0.0.1:3306)/falcon_portal?loc=Local&parseTime=true",

        "idle": 10....

修改里面database里的用户名密码部分

graph
路径：/home/work/open-falcon/graph/config/cfg.json

    "db": {

        "dsn": "real_user:real_password@tcp(127.0.0.1:3306)/graph?loc=Local&parseTime=true",

        "maxIdle": 4

    },

修改db部分用户名密码

hbs
路径：/home/work/open-falcon/hbs/config/cfg.json

    "database": "real_user:real_password@tcp(127.0.0.1:3306)/falcon_portal?loc=Local&parseTime=true",

    "hosts": "",

nodata
路径：/home/work/open-falcon/nodata/config/cfg.json

    "config": {

        "enabled": true,

        "dsn": "real_user:real_password@tcp(127.0.0.1:3306)/falcon_portal?loc=Local&parseTime=true&wait_timeout=604800",

        "maxIdle": 4

    }

修改dsn用户密码部分

api
路径：/home/work/open-falcon/api/config/cfg.json

        "db": {

                "falcon_portal": "real_user:real_password@tcp(127.0.0.1:3306)/falcon_portal?charset=utf8&parseTime=True&loc=Local",

                "graph": "real_user:real_password@tcp(127.0.0.1:3306)/graph?charset=utf8&parseTime=True&loc=Local",

                "uic": "real_user:real_password@tcp(127.0.0.1:3306)/uic?charset=utf8&parseTime=True&loc=Local",

                "dashboard": "real_user:real_password@tcp(127.0.0.1:3306)/dashboard?charset=utf8&parseTime=True&loc=Local",

                "alarms": "real_user:real_password@tcp(127.0.0.1:3306)/alarms?charset=utf8&parseTime=True&loc=Local",

                "db_bug": true

        },

修改里面所有real_user和real_password部分

alarm
路径：/home/work/open-falcon/alarm/config/cfg.json

    "falcon_portal": {

        "addr": "real_user:real_password@tcp(127.0.0.1:3306)/alarms?charset=utf8&loc=Asia%2FChongqing",

        "idle": 10,

        "max": 100

    }

启动后端模块

cd /home/work/open-falcon

./open-falcon start #启动

./open-falcon check #检查启动状况

       falcon-graph         UP           18987

          falcon-hbs         UP           18999

        falcon-judge         UP           19010

     falcon-transfer         UP           19019

       falcon-nodata         UP           19028

   falcon-aggregator         UP           19037

        falcon-agent         UP           19048

      falcon-gateway         UP           19058

          falcon-api         UP           19066

        falcon-alarm         UP           19080

都是UP则表示启动成功

2.3 安装前端

创建前端目录

export FRONTSPACE=/home/front/open-falcon

mkdir -p $FRONTSPACE

下载包

cd $FRONTSPACE

git clone https://github.com/open-falcon/dashboard.git

安装依赖包

yum install -y python-virtualenv

yum install -y python-devel

yum install -y openldap-devel

yum install -y mysql-devel

yum groupinstall "Development tools" -y

cd $FRONTSPACE/dashboard/

virtualenv ./env

./env/bin/pip install -r pip_requirements.txt

修改配置文件

路径：/home/front/open-falcon/dashboard/rrd/config.py

PORTAL_DB_USER = os.environ.get("PORTAL_DB_USER","falcon")

PORTAL_DB_PASS = os.environ.get("PORTAL_DB_PASS","falcon")

和

ALARM_DB_USER = os.environ.get("ALARM_DB_USER","root")

ALARM_DB_PASS = os.environ.get("ALARM_DB_PASS","")

按照实际情况修改DB用户名密码信息

2.4 启动和停止

开发模式启动

bash control start #启动

bash control stop #停止

bash control tail #查看日志

默认没有任何账户，手动注册的第一个root账户自动设置为超级管理员。

3. 使用

3.1 安装交换机监控

open-falcon作为一个监控框架，可以去采集任何系统的监控指标数据，只要将监控数据组织为open-falcon规范的格式就OK了。这里使用swcollector模块采集。

原理

swcollector根据配置文件中，配置好的交换机IP列表或者IP网段，每隔一个固定的周期，通过SNMP协议，来采集交换机的运行指标，并上报给Open-Falcon。

注意点：

swcollector需要安装在有交换机SNMP访问权限的服务器上。
因ping需要root权限，因此swcollector需要root权限运行
需安装snmpwalk命令

安装

下载：
https://github.com/gaochao1/swcollector/releases
安装
下载完成后，直接解压后即可使用
chmod +x control

修改配置文件

cfg.json
该文件为

{

    "debug": false,

    "debugmetric":{

        "endpoints":["vpn-lw"],

        "metrics":["AnyconnectSession","ConnectionStat"],

        "tags":""

    },

    "switch":{

       "enabled": true,

        "ipRange":[

            "172.19.0.10" #修改为实际的IP段

 		],

        "gosnmp":true, #修改为false，使用snmpwalk采集

 		"pingTimeout":300,

        "pingRetry":4,

        "community":"XXX",  #修改为实际的团体字

        "snmpTimeout":1000,

        "snmpRetry":5,

        "ignoreIface": ["Nu","NU","Vlan","Vl"],

        "ignoreOperStatus": true,

        "speedlimit":0,

        "ignorePkt": true,

        "pktlimit": 0,

        "ignoreBroadcastPkt": true,

        "broadcastPktlimit": 0,

        "ignoreMulticastPkt": true,

        "multicastPktlimit": 0,

        "ignoreDiscards": true,

        "discardsPktlimit": 0,

        "ignoreErrors": true,

        "errorsPktlimit": 0,

        "ignoreUnknownProtos":true,

        "unknownProtosPktlimit": 0,

        "ignoreOutQLen":true,

        "outQLenPktlimit": 0,

        "fastPingMode": true,

        "limitConcur": 1000,

        "limitCon": 4

 	},

    "switchhosts":{

        "enabled":false, #允许修改主机名，启用该功能

        "hosts":"./hosts.json"

    },

    "customMetrics":{

        "enabled":false, #启用该功能以便给某项值打metrics

        "template":"./custom.json"

    },

    "transfer": {

        "enabled": true,

        "addr": "127.0.0.1:8433", #修改为服务器实际地址,端口不变

        "interval": 300, #修改数据发送间隔。修改为60S

        "timeout": 1000

    },

    "http": {

        "enabled": false,

        "listen": ":1989",

    "trustIps":["192.168.0.1","192.168.0.2"]

    }

}

将ipRange修改为实际的交换机IP段。

host.json
这里主要存储IP地址和主机名的映射关系
custom.json
这个主要存储交换机自定义的oid等信息

使用

启动后，在服务器的dashboard上会自动显示出交换机来，且以主机名的形式显示；

选择该交换机后点击“刷新counter列表”会将采集到的所有端口信息显示出来

一直在想交换机的流量图展示如何像zabbix一样通过screen来展示。最重要的是能够自动生成。测试了好几次终于发现counters列表是支持正则表达式的。

交换机的一个端口图展示在一个图里的方法

metric=switch.if.In ifName=40GE1/0/1

metric=switch.if.Out ifName=40GE1/0/1

然后视角选择counter视角即可。
假如让特定类型端口的在一张图上展示，则可以使用正则表达式

metric=switch.if.In ifName=40GE.*$

metric=switch.if.Out ifName=40GE.*$

enter description here

可以发现所有的都展示出来了，但是一些端口是down的也在里面。