使用logminer挖掘日志,分析历史操作 系列一
===============STARTED====================================
事件起因:
业务的人mail过来说是有张表记录的10K+的优惠码记录没了,要我们确认下之前是否有这样的相关清除操作。
当然,先去数据库确认下这张表关于这个字段的count,的确没有相关的记录。
于是想着之前是不是有人做了相关的DML操作,
先看下这个视图,
select table_name, owner,num_rows, blocks, last_analyzed,partitioned
from dba_tables
where table_name ='NIKE_COUPON';
TABLE_OWNER TABLE_NAME PARTITION_NAME SUBPARTITION_NAME INSERTS UPDATES DELETES TIMESTAMP TRU DROP_SEGMENTS
------------- ---------------- ------------------------------ ------------------------- ---------- ---------- ---------- --------- --- -------------
AP NIKE_COUPON 4 66 0 02-JAN-17 NO 0
看了下deletes为0呀,想了下也许这个视图的数据来源不准,进一步分析,可以通过ASH来看看是否有着这样的DML操作。
(关于dba_tab_modifications这个视图有时候还是挺有用的,但是有几个限制,所以反馈的信息有时也不是很准~)
ASH信息获取:
SQL> set lines 1000
SQL> set pages 400
SQL> select distinct a.sample_time,
2 a.sql_id,a.blocking_session,a.session_state,a.event,a.wait_class,a.program,a.module,a.machine,c.sql_text
3 from dba_hist_active_sess_history a ,v$sqlarea c
where a.sql_id=c.sql_id
and sample_time between to_date('1-JAN-17 00.00.00','dd-MON-yy hh24:mi:ss') and to_date('3-JAN-17 23.00.00','dd-MON-yy hh24:mi:ss')
and lower(c.sql_text) like '%delete%nike_coupon%'
order by 1 ; 4 5 6 7
SAMPLE_TIME SQL_ID BLOCKING_SESSION SESSION EVENT WAIT_CLASS PROGRAM MODULE MACHINE
--------------------------------------------------------------------------- ------------- ---------------- ------- ---------------------------------------------------------------- ---------------
SQL_TEXT
----------------------------------------
01-JAN-17 02.02.47.280 AM 8c7cw4xvync0v 7431 WAITING enq: TX - row lock contention Application JDBC Thin Client JDBC Thin Client ip-xxxx.xx.b2c.nike.com
DELETE FROM nike_coupon WHERE coupon_id = :1
01-JAN-17 02.02.47.280 AM 8c7cw4xvync0v 7431 WAITING enq: TX - row lock contention Application JDBC Thin Client JDBC Thin Client ip-xxxx.xx.b2c.nike.com
DELETE FROM nike_coupon WHERE coupon_id = :1
01-JAN-17 02.02.47.280 AM 8c7cw4xvync0v 7431 WAITING enq: TX - row lock contention Application JDBC Thin Client JDBC Thin Client ip-xxxx.xx.b2c.nike.com
DELETE FROM nike_coupon WHERE coupon_id = :1
01-JAN-17 02.02.47.280 AM 8c7cw4xvync0v 7431 WAITING enq: TX - row lock contention Application JDBC Thin Client JDBC Thin Client ip-xxxx.xx.b2c.nike.com
DELETE FROM nike_coupon WHERE coupon_id = :1
01-JAN-17 02.02.47.280 AM 8c7cw4xvync0v 7431 WAITING enq: TX - row lock contention Application JDBC Thin Client JDBC Thin Client ip-xxxx.xx.b2c.nike.com
DELETE FROM nike_coupon WHERE coupon_id = :1
01-JAN-17 02.02.47.280 AM 8c7cw4xvync0v 7431 WAITING enq: TX - row lock contention Application JDBC Thin Client JDBC Thin Client ip-xxxx.xx.b2c.nike.com
DELETE FROM nike_coupon WHERE coupon_id = :1
01-JAN-17 02.04.53.276 AM 8c7cw4xvync0v ON CPU JDBC Thin Client JDBC Thin Client ip-xxxx.xx.b2c.nike.com
DELETE FROM nike_coupon WHERE coupon_id = :1
01-JAN-17 02.07.34.168 AM 8c7cw4xvync0v ON CPU JDBC Thin Client JDBC Thin Client ip-xxxx.xx.b2c.nike.com
DELETE FROM nike_coupon WHERE coupon_id = :1
01-JAN-17 02.13.30.192 AM 8c7cw4xvync0v ON CPU JDBC Thin Client JDBC Thin Client ip-xxxx.xx.b2c.nike.com
DELETE FROM nike_coupon WHERE coupon_id = :1
可见,在01-JAN-17 02.02.47.280 AM 左右的确有应用服务器连过来做了delete这张表记录的操作,然后和应用,业务都确认好了,应用有每个月初的batch把一些过期的优惠券记录删掉,但是业务想在延长一个月,后面当然是和业务确认好数据,然后重新insert进去。
事情就这样告一段落。
但是可以看到delete语句是带有绑定变量的,如果业务没有数据副本保留,要我们DBA来去fetch到那些删掉的记录,我们如何去获取呢,那就得想办法去得到这个绑定变量的值。
SQL> select
2 dbms_sqltune.extract_bind(bind_data,1).value_string bind1,
3 dbms_sqltune.extract_bind(bind_data,2).value_string bind2,
dbms_sqltune.extract_bind(bind_data,3).value_string bind3
from sys.wrh$_sqlstat
where sql_id = '8c7cw4xvync0v';
4 5 6
BIND1
------------------------------
BIND2
------------------------------------
BIND3
---------------------
HO1234567
HO1234567
SELECT snap_id, NAME,POSITION,DATATYPE_STRING,VALUE_STRING,LAST_CAPTURED cdate
FROM DBA_HIST_SQLBIND WHERE SQL_ID='8c7cw4xvync0v' ;
SNAP_ID NAME POSITION DATATYPE_STRING
---------- ------------------------------ ---------- ---------------
VALUE_STRING
-----------------------------------------------
CDATE
---------
33175 :1 1 VARCHAR2(128)
HO1234567
01-JAN-17
33175 :1 1 VARCHAR2(128)
HO1234567
01-JAN-17
SQL> select snap_id,BEGIN_INTERVAL_TIME,END_INTERVAL_TIME from dba_hist_snapshot where snap_id=33175;
SNAP_ID BEGIN_INTERVAL_TIME END_INTERVAL_TIME
---------- --------------------------------------------------------------------------- ---------------------------------------------------------------------------
33175 01-JAN-17 02.00.36.240 AM 01-JAN-17 03.00.38.812 AM
33175 01-JAN-17 02.00.36.109 AM 01-JAN-17 03.00.38.693 AM
只能查到这一个绑定变量的值:HO1234567
明显是不够的。
这里略带说一下,关于获取绑定变量的一些方法。
1.10043获取bind value,但是在这里不合适,因为要获取的是历史绑定变量
2. v$sql_bind_capture以及dba_hist_sqlbind
3.dbms_sqltune.extract_bind from dba_hist_sqlstat
Bind Capture History
Oracle captures the bind value and stores it into the repository(AWR), but with following restrictions.
- Captured periodically(_cursor_bind_capture_interval), not at real time.
- Captured under maximum size(_cursor_bind_capture_area_size)
- Only bind variables in WHERE clause are captured
大致这三种方法获取bind value,
但是也有如下的限制,如下一小段英文转自Historical Bind Variable Storage
http://www.dba-oracle.com/t_historical_bind_variable_storage.htm
Question: I need to see historical SQL with the bind variables used. Does AWR or STATSPACK store bind variable information? Does Oracle store SQL bind variable values anywhere?
Answer: Only the PGA stores specific bind variable and cursor values, and these are not kept for historical analysis.
The extra cost AWR allows you to see a "representative" sample bind variable value, but all bind variable values are NOT present. In Oracle 10g and beyond, bind variables are periodically captured in the v$sql_bind_capture anddba_hist_sqlbind views, but these are bind variables or ONLY for a single, specific session, and not all historical session bind variables for a SQL statement are kept.
This is because the amount of disk storage to keep a history of all bind variable values would be huge, especially for database that process thousands of transactions per second.
These limited bind values can be found in some AWR and ASH tables as well as the v$sql_plan view. Also, DML statements will have bind variable information in the archived redo logs available via LogMiner.
The best way to collect bind variable for any SQL statement is by using TKPROF(a 10046 trace).
v$sql_plan Bind Variable Display
The v$sql_plan only shows Systemwide values and it does not contain session-level bind variable values. However, you can use the dbms_xplan.display package to display a sample bind variable:
select
sql_text,
other_xml
from
$sql_plan
where
sql_id='XXXX'
and
id=0;
AWR dba_hist_sqlstat Bind Variable Display
select
sql_text,
other_xml
from
$dba_hist_sqlplan
where
sql_id='XXXX'
and
id=0;
Or you can use the dbms_xplan_display_awr procedure to see a sample bind
variable:
select
*
from
table(dbms_xplan.display_awr('&SQL_ID',NULL,NULL,'ADVANCED'))
好的,所以看来只能通过logminer来获取sql redo和sql
undo的一些信息了。明天再来更新后续!~~
使用logminer挖掘日志,分析历史操作 系列一的更多相关文章
- 10.2.0.5环境dg测试logminer挖掘日志分析
起因:客户需求,数据库正常每天总的日志切换是20以内,有一天日志切换总数,达到30,客户建议使用Logminer进行日志挖掘分析,到底什么应用导致的问题. 说明:使用logminer进行日志挖掘,只能 ...
- oracle实现通过logminer实现日志抓取分析
场景:现场库到前置库. 思考:使用触发器? 1.侵入性解决方案 2.需要时各种配置,不需要时又是各种配置 Change Data Capture:捕捉变化的数据,通过日志监测并捕获数据库的变动(包括数 ...
- oracle (9I/10G/11G)数据库日志挖掘(审计误操作)
文档结构: 资料来自官方网站: https://docs.oracle.com/cd/E11882_01/server.112/e22490/logminer.htm#SUTIL019 来自论坛: h ...
- 日志分析方法概述 & Web日志挖掘分析的方法
日志在计算机系统中是一个非常广泛的概念,任何程序都有可能输出日志:操作系统内核.各种应用服务器等等.日志的内容.规模和用途也各不相同,很难一概而论. 本文讨论的日志处理方法中的日志,仅指Web日志.其 ...
- Spark SQL慕课网日志分析(1)--系列软件(单机)安装配置使用
来源: 慕课网 Spark SQL慕课网日志分析_大数据实战 目标: spark系列软件的伪分布式的安装.配置.编译 spark的使用 系统: mac 10.13.3 /ubuntu 16.06,两个 ...
- Dubbo学习系列之十六(ELK海量日志分析框架)
外卖公司如何匹配骑手和订单?淘宝如何进行商品推荐?或者读者兴趣匹配?还有海量数据存储搜索.实时日志分析.应用程序监控等场景,Elasticsearch或许可以提供一些思路,作为业界最具影响力的海量搜索 ...
- nginx高性能WEB服务器系列之八--nginx日志分析与切割
nginx系列友情链接:nginx高性能WEB服务器系列之一简介及安装https://www.cnblogs.com/maxtgood/p/9597596.htmlnginx高性能WEB服务器系列之二 ...
- 【MM系列】SAP 的账期分析和操作
公众号:SAP Technical 本文作者:matinal 原文出处:http://www.cnblogs.com/SAPmatinal/ 原文链接:[MM系列]SAP 的账期分析和操作 前言部 ...
- 【MM系列】SAP SAP的账期分析和操作
公众号:SAP Technical 本文作者:matinal 原文出处:http://www.cnblogs.com/SAPmatinal/ 原文链接:[MM系列]SAP SAP的账期分析和操作 ...
随机推荐
- [ES] 基础概念
Elasticsearch是基于Luence实现的一款搜索引擎,支持分布式和集群,并且搜索近实时,主要用于搜索和数据分析 索引 index 可以理解为数据库中的database,存储的是实际数据,因为 ...
- Solr学习总结(六)SolrNet的高级用法(复杂查询,分页,高亮,Facet查询)
上一篇,讲到了SolrNet的基本用法及CURD,这个算是SolrNet 的入门知识介绍吧,昨天写完之后,有朋友评论说,这些感觉都被写烂了.没错,这些基本的用法,在网上百度,资料肯定一大堆,有一些写的 ...
- Fragment基础----生命周期
Fragment生命周期和Activity对比 注意:在一个app的运行期间,前台的activity有时可能会被其他的视图组件打断,然后进入pause状态. 比如打开一个半透膜的activity (比 ...
- AngularJS----服务,表单,模块
AngularJS中的服务 服务是一个函数或对象,AngularJS中可以创建自己的服务或使用内建服务.$http是AngularJS中最常见的服务,服务向服务器发送请求,应用响应服务器传送过来的数据 ...
- Sql Server 备份还原失败错误ERROR:3145(备份集中的数据库备份与现有的数据库不同)及解决办法
SQL Server备份文件bak,备份后还原出现错误3145,备份集中的数据库备份与现有的 'xxx' 数据库不同. 解决办法如下: 1,新建一个与现有数据库重名的数据库. 如果您不知道数据库名称, ...
- 在IIS启用MP4
在Windows 2008 R2 Server中,网站无法播放MP4视频.我们需要在IIS的MIME type: 如果我们不想在IIS管理介面更改与设置,或是我们没有更多权限,这样我们可以项目的Web ...
- Web.config配置数据库连接
web.config配置数据库连接 第一种:取连接字符串 string connString = System.Web.Configuration.WebConfigurationManager. ...
- Setting my home here
New here (For no chinese input on this machine, I have to use English.) Why do I choose here ? Whene ...
- Windows下安装Nginx+php+mysql环境
系统:Windows 7 64位系统 安装之前,首先下载软件: Nginx: http://nginx.org/en/download.html PHP Stable PHP 5.6.26: http ...
- android largeheap 的设定
现在公司在做tv端的APP,我的任务是视频点播功能,在看公司原有代码的基础上看到在manifiest里面设置了largeheap,所以查阅了一下资料,作为笔记 http://blog.csdn.net ...