1.MySQL中常用工具

1.1 mysql

该mysql不是值mysql服务,而是指mysql的客户端工具。
语法 :
mysql [options] [database]

1.1.1连接选项

1.1.2 执行选项

-e, --execute=name : 执行sql语句并退出

1.2 mysqladmin

mysqladmin是一个执行管理操作的客户端程序。可以用它来检查服务器的配置和当前状态、创建并删除数据库等。
可以通过 :mysqladmin --help 指令查看帮助文档。

1.3 mysqlbinlog

由于服务器生成的二进制日志文件以二进制格式保存,所以如果想要检查这些文本的文本格式,就会使用到mysqlbinlog日志管理工具。
语法 :

1.4 mysqldump

mysqldump客户端工具用来备份数据库或在不同数据库之间进行数据迁移。备份内容包含创建表,及插入表的sql语句。
语法 :

1.4.1 连接选项

1.4.2 输出内容选项


示例 :
mysqldump -uroot -p2143 db01 tb_book --add-drop-database --add-drop-table > a.sql
mysqldump -uroot -p2143 -T /tmp test city


1.5 mysqlimport/source

mysqlimport是客户端数据导入工具,用来导入mysqldump 加 -T 参数后导出的文本文件。
语法 :
mysqlimport [options] db_name textfilel [textfile2…]
示例 :
mysqlimport -urrot -p2143 test /tmp/city.txt
如果需要导入sql文件,可以使用mysql中的source指令:
source /root/tb_book.sql

1.6 mysqlshow

mysqlshow客户端对查找工具,用来很快的查找存在那些数据库、数据库中的表、表中的列或者索引。
语法 :
mysqlshow [options] [db_name [table_name] [col_name]]]
参数 :
–count :显示数据库及表的统计信息(数据库,表均可以不指定)
-i :显示指定数据库或者指定表的状态信息
示例 :

2. MySQL日志

在任何一种数据库中,都会有各种各样的日志,记录着数据库工作的方方面面,以帮助数据库管理员追踪数据库曾经发生过的各种事件。MySQL也不例外,在MySQL中,有四种不同的日志,分别是错误日志、二进制日志(BINLOG日志)、查询日志和慢查询日志,这些日志记录着数据库在不同方面的踪迹。

2.1 错误日志

错误日志是MySQL中最重要的日志之一,它记录了当MySQL的启动和停止时,以及服务器在运行过程中发生任何严重错误时的相关信息。当数据库出现任何故障导致无法正常使用时,可以首先查看此日志。
该日志是默认开启的,默认存放目录为mysql的数据目录(var/lib/mysql),默认的日志文件为hostname.err(hostname是主机名)。
查看日志位置指令 :
show variables like ‘log_error%’;

查看日志内容 :
tail -f /var/lib/mysql/xaxh-server.err

2.2 二进制日志

2.2.1 概述

二进制日志(BINLOG)记录了所有的DDL(数据定义语言)语句和DML(数据操作语言)语句,但是不包括数据查询语句。此日志对于灾难时的数据恢复起着极其重要的作用,MySQL的主从复制,就是通过该binlog实现的。
二进制日志,默认情况下是没有开启的,需要MySQL的陪着文件中开启,并配置MySQL日志的格式。
配置文件位置 :/usr/my.cnf
日志存放位置 :配置时,给定了文件名但是没有指定路径,日志默认写入MySQL的数据目录。
配置开始binlog日志,日志的文件前缀为mysqlbin ------》 生成的文件名如 :
mysqlbin.000001,mysqlbin.000002
log_bin=mysqlbin
配置二进制日志的格式
binlog_format=STATEMENT

2.2.2 日志格式

STATEMENT
该日志格式在日志文件中记录的都是SQL语句(statmeent),每一条对数据进行修改的SQL都会记录在日志文件中,通过MySQL提供的MySQLbinlog工具,可以清晰的查看到每条语句的文本。主从复制的时候,从库(slave)会将日志解析为原文本,并在从库重新执行一次。
ROW
该日志格式在日志文件中记录的是每一行的数据变更,而不是记录SQL语句。比如,执行SQL语句 :update tb_book set status = ‘1’,如果是STATEMENT日志格式,在日志中会记录一行SQL文件;如果是ROW,由于是对全表进行更新,也就是每一行记录都会发生变更,ROW格式的日志中会记录每一行的数据变更。
MIXED
这是目前MySQL默认的日志格式,即混合了STATEMENT和ROW两种格式。默认情况下采用STATEMENT,但是在一些特殊情况下采用ROW来进行记录。MIXED格式能尽量利用两种模式的优点,而避开他们的缺点。

2.2.3 日志读取

由于日志以二进制方式存储,不能直接读取,需要用mysqlbinlog工具来查看,语法如下 :
mysqlbinlog log-file;
查看STATEMENT格式日志 :
查看日志文件 :默认在/var/lib/mysql目录下

mysqlbin.index : 该文件是日志索引文件,记录日志的文件名;
mysqlbing.000001 : 日志文件
查看日志内容 :
mysqlbinlog mysqlbing.000001;

查看ROW格式日志
配置 :
配置开启binlog日志,日志的文件前缀为mysqlbin —》生成的文件名如:mysqlbin.000001,mysqlbin.000002
log_bin=mysqlbin
配置二进制日志的格式
binlog_format=ROW
如果日志格式是ROW,直接查看数据,是查看不懂的;可以在mysqlbinlog后面加上参数 -w
mysqbinlog -vv mysqlbin.000002

2.2.4 日志删除

对于比较繁忙的系统,由于每天生成日志量大,这些日志如果长时间不清除,将会占用大量的磁盘空间。下面我们将会讲解几种删除日志的常见方法:
方式1:
通过Reset Master指令删除全部binlog日志,删除之后,日志编号,将从xxxx.000001重新开始。
查询之前,先查询下日志文件 :

执行删除日志命令 :
Reset Master
执行之后,查看日志文件 :

方式2:
执行指令 purge master logs to 'mysqlbin.’ ,该命令将删除编号之前的所有日志。
方式3:
执行指令 purge master logs before ‘yyyy-mm-dd hh24:mi:ss’,该命令将删除日志为“yyyy-mm-dd hh24:mi:ss”之前产生的所有日志。
方式4:
设置参数 --expire_logs_days=#,此参数的含义是设置日志的过期天数,过了指定的天数后日志将会被自动删除,这样将有利于减少DBA管理日志的工作量。
配置如下 :

2.3 查询日志

查询日志中记录了客户端的所有操作语句,而二进制日志不包含查询数据的SQL语句。
默认情况下,查看日志是未开启的。如果需要开启查询日志,可以设置以下配置 :
该选项用来开启查询日志 ,可选值 :0或者 1;0代表关闭,1代表开启
general_log=1
设置日志的文件名,如果没有指定,默认的文件名为host_name.log
general_log_file=file_name
在mysql的配置文件/usr/my.cnf中配置如下内容:

执行完查询语句以后,再次查看查询日志 :

2.4 慢查询日志

慢查询日志记录了所有执行时间超过参数long_query_time 设置值并且扫描记录数不小于min_examined_row_limit的所有的SQL语句的日志。
long_query_time默认为10秒,最小为0,精度可以到微妙。

2.4.1 文件位置和格式

慢查询日志默认是关闭的。可以通过两个参数来控制慢查询日志:
该参数用来控制慢查询日志是否开启,可取值 :1和0,1代表开启,0代表关闭
slow_query_log=1
该参数用来指定慢查询日志的文件名
slow_query_log_file=slow_query.log
该选项用来配置查询的时间限制,超过这个时间将认为值慢查询,将需要进行日志记录,默认10s
long_query_time=10

2.4.2 日志的读取

和错误日志、查询日志一样,慢查看日志记录的格式也是纯文本,可以被直接读取。
1)查询long_query_time的值。

2)查看慢查询日志文件
直接通过cat指令查询该日志文件 :

如果慢查询日志内容很多,直接查看文件,比较麻烦,这个时候可以借助于mysql自带的mysqldumpslow工具,来对慢查询日志进行分类汇总。

3. MySQL复制

3.1 复制概述

复制是指将主数据库的DDL和DML操作通过二进制日志传到从库服务器中,然后在从库上对这些日志重新执行(也叫重做),从而使得从库和主库的数据保持同步。

3.2 复制原理

MySQL的主从复制原理如下。

从上层来看,复制分成三步 :

  1. Master主库在事务提交时,会把数据变更作为时间Events记录在二进制日志文件Binlog中。
  2. 主库推送二进制日志文件Binlog中的日志事件到从库的中级日志Relay Log。
  3. Slave重做中继日志中的事件,将改变反映它自己的数据。

3.3 复制优势

MySQL复制的优势主要包含以下三个方面 :

  1. 主库出现问题,可以快速切换到从库提供服务。
  2. 可以在从库上执行查询操作,从主库中更新,实现读写分离,降低主库的访问压力。
  3. 可以在从库中执行备份,以避
  4. 免备份期间影响主库的服务。

3.4 搭建步骤

3.4.1 master

1)在master的配置文件(/usr/my.cnf)中,配置如下内容 :
#mysql 服务ID,保证整个集群环境中唯一
server-id=1

#mysql binlog 日志的存储路径和文件名
log-bin=/var/lib/mysql/mysqlbin

#错误日志,默认以及开启
#log-err
#mysql的安装目录
#basedir
#mysql的临时目录
#tmpdir
#mysql的数据存放目录
#datadir
#是否只读,1代表只读,0代表读写
read-only=0
#忽略的数据,指不需要同步的数据库
binlog-ignore-db=mysql

#指定同步的数据库
#binlog-do-db=db01
2)执行完毕之后,需要重启MySQL :
service mysql restart;
3)创建同步数据的账户,并且进行授权操作:
grant replication slave on . to ‘demo’@‘192.168.192.131’ identified by ‘demo’;
flush privileges;
4)查看master状态 :

3.4.2 slave

1)在slave端配置文件中,配置如下内容 :
#mysql服务端ID,唯一
server-id=2
#指定binlog日志
log-bin=/var/lib/mysql/mysqlbin
2)执行完毕之后,需要重启MySQL:
service mysql restart;
3)执行如下指令:
change master to master_host=‘192.168.192.130’,master_user=‘demo’,master_password=‘demo’,
master_log_file=‘mysqlbin.000001’,master_log_pos=413;
指定当前从库的主库的IP地址,用户名,密码,从那个日志文件开始的那个位置开始同步推送日志。
4)开启同步操作
start slave;
show slave status;

5)停止同步操作
stop slave;

4. 通过AOP记录操作日志

4.1 自定义注解

通过自定义注解,来标识方法需不需要进行记录日志,如果该方法在访问时需要记录日志,则在该方法上标识该注解即可。
@Inherited
@Document
@Target(Elementype.METHOD)
@Retention(RetentionPolicy.RUNTIME)
public @interface OperateLog{
}
@Component
@Aspect
public class OperateAdvice {
private static Logger log = Logger.getLogger(OperateAdvice.class);

@Around("execution(* cn.demo.controller.*.*(..)) && @annotation(operateLog)")
public Object insertLogAround(ProceedingJoinPoint pjp,OperateLog operateLog) throws Throwable {
@Around("execution(* com.example.demo.controller.*.*(..)) && @annotation(operateLog)")
public Object logAround(ProceedingJoinPoint pjo,OperateLog operateLog) {
DateFormat sdf = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");
// 访问方法的时间
String dateTime = sdf.format(new Date());
// 访问的方法
String methodName = pjp.getSignature().getName();
// 访问哪一个类
String className = pjp.getClass().getName();
// 方法入参
String paramAndValue = Arrays.toString(pjp.getArgs());
// 统计耗时
long startTime = System.currentTimeMillis();
// 打印方法入参日志
log.info("输出日志");
// 放行,并获取返回值
Object returnValue= new Object();
try {
returnValue= pjp.proceed();
} catch (Throwable throwable) {
log.error("");
}
long endTime = System.currentTimeMillis();
// 打印请求耗时日志
log.info();
// 打印返回值日志
return returnValue;
}
}

}

4.2 性能优化 -分页

4.8.1 优化count

创建一张表用来记录日志表的总数据量 :
create table log_counter (
logcount bigint not null
)engine = innodb default CHARSET = utf8;
在每次插入数据之后,更新该表 :

update log_counter set logcount = logcount + 1

在进行分页查询时,获取总记录数,从该表中查询即可。

select logcount from log_counter limit 1

MySQL常用工具、日志及读写分离的更多相关文章

  1. Mysql主从配置,实现读写分离

    大型网站为了软解大量的并发访问,除了在网站实现分布式负载均衡,远远不够.到了数据业务层.数据访问层,如果还是传统的数据结构,或者只是单单靠一台服务器扛,如此多的数据库连接操作,数据库必然会崩溃,数据丢 ...

  2. 分布式架构高可用架构篇_08_MyCat在MySQL主从复制基础上实现读写分离

    参考: 龙果学院http://www.roncoo.com/share.html?hamc=hLPG8QsaaWVOl2Z76wpJHp3JBbZZF%2Bywm5vEfPp9LbLkAjAnB%2B ...

  3. 黄聪:Mysql主从配置,实现读写分离

    大型网站为了软解大量的并发访问,除了在网站实现分布式负载均衡,远远不够.到了数据业务层.数据访问层,如果还是传统的数据结构,或者只是单单靠一台服务器扛,如此多的数据库连接操作,数据库必然会崩溃,数据丢 ...

  4. Mysql 之主从复制,mysql-proxy读写分离

    准备两台mysql服务器,master(192.168.43.64).slave(192.168.84.129) master配置: log-bin=mysql-bin binlog_format=m ...

  5. Mysql多实例安装+主从复制+读写分离 -学习笔记

    Mysql多实例安装+主从复制+读写分离 -学习笔记 .embody{ padding:10px 10px 10px; margin:0 -20px; border-bottom:solid 1px ...

  6. 高可用架构篇--MyCat在MySQL主从复制基础上实现读写分离

    实战操作可参考:http://www.roncoo.com/course/view/3117ffd4c74b4a51a998f9276740dcfb 一.环境 操作系统:CentOS-6.6-x86_ ...

  7. mysql如何设置主从(读写分离),redis发布功能,以及redis的持久化存储(rdb,aof)

    1 mysql基本命令 1.启动mysql systemctl start mariadb 2.linux客户端连接自己 mysql -uroot -p -h 127.0.0.1 3.远程链接mysq ...

  8. centos 7 Atlas keepalived 实现高可用 MySQL 5.7 MHA环境读写分离

    目录 简介 相关链接 环境准备 Atlas 环境 MySQL 集群环境 Atlas 安装 和 配置 为数据库的密码加密 修改配置文件 启动 Keepalived 安装配置 安装 master 配置 K ...

  9. Mysql双主加Keepalived+读写分离

    一.MySQL于keepalived简介** 前言: 在企业中,数据库高可用一直是企业的重中之重,中小企业很多都是使用mysql主从方案,一主多从,读写分离等,但是单主存在单点故障,从库切换成主库需要 ...

随机推荐

  1. Qt浅谈之二:钟表(时分秒针)

    一.简介 QT编写的模拟时钟,demo里的时钟只有时针和分针,在其基础上添加了秒针,构成了一个完整的时钟.能对2D绘图中坐标系统.平移变换(translate).比例变换(scale).旋转变换(ro ...

  2. Realm_King 之 .NET 打包详细教程(B)

    上篇(Realm_King 之 .NET 打包详细教程(A))给大家讲述了打包基本的操作,接下来帮助大家如何覆盖安装,希望大家仔细阅读... (一)看到你的解决方案,选中你的安装程序,点击F4会弹出改 ...

  3. chrome浏览器开发者工具F12中某网站的sources下的源码如何批量保存?

    目录 chrome浏览器 开发者工具F12中某网站的sources下的源码如何批量保存 1. 常用保存Sources源码的两种方法 1.1单个文件 1.2 单个页面 2. 问题 3.解决方案 chro ...

  4. 智能小程序关于Filter过滤器的简单使用

    <filter module="swan"> export default { imgurl: (imgUrl) => { var imgurlprefix = ...

  5. Azkaban —— 编译及部署

    一.Azkaban 源码编译 1.1 下载并解压 Azkaban 在3.0版本之后就不提供对应的安装包,需要自己下载源码进行编译. 下载所需版本的源码,Azkaban的源码托管在GitHub上,地址为 ...

  6. Spring Batch 入门级示例教程

    Spring Batch 入门级示例教程 我将向您展示如何使用Spring Boot创建一个的Spring Batch的Hello World示例. (循序渐进) 因此,如果您是Spring Batc ...

  7. idea提交代码到自己git账号的master branch

    1.注册GitHub账号 2.创建本地密钥与远程仓库连接(使用idea的话,这第二步可能不是必须的,但是密钥我之前配置过.所以写下来) ①安装git 客户端sudo apt-get install g ...

  8. Java日志脱敏框架 sensitive-v0.0.4 系统内置常见注解,支持自定义注解

    项目介绍 日志脱敏是常见的安全需求.普通的基于工具类方法的方式,对代码的入侵性太强.编写起来又特别麻烦. 本项目提供基于注解的方式,并且内置了常见的脱敏方式,便于开发. 特性 基于注解的日志脱敏. 可 ...

  9. Kibana 7.1.1 安装及简单使用

    1. 下载 & 解压 # 下载 wget https://artifacts.elastic.co/downloads/kibana/kibana-7.1.1-linux-x86_64.tar ...

  10. Flutter学习笔记(3)--Dart变量与基本数据类型

    一.变量 在Dart里面,变量的声明使用var.Object或Dynamic关键字,如下所示: var name = ‘张三’: 在Dart语言里一切皆为对象,所以如果没有将变量初始化,那么它的默认值 ...