oracle存储海量数据 设计方案

日历基本活动表的数据有四千万条，在这些生产库业务中是小的了。

从三个方面提高效率；

1.sql语句

要绑定变量，sql语句书写规范这些，包括的就多了。主要目的就是提高数据库吞吐量及业务SQL响应时间。

2.表设计

是否按范式设计，是否违反范式设计采用容易，减少查询语句的表关联等

3.从db角度是执行计划

保证正确的SQL执行计划

------------------------------------------下面我们详细分析--------------------------------------------

sql语句方面：

1.SQL优化的原则是：将一次操作需要读取的BLOCK数减到最低,即在最短的时间达到最大的数据吞吐量。 
调整不良SQL通常可以从以下几点切入： 
检查不良的SQL，考虑其写法是否还有可优化内容 
检查子查询 考虑SQL子查询是否可以用简单连接的方式进行重新书写 
检查优化索引的使用 
考虑数据库的优化器 

2. 避免出现SELECT * FROM table 语句，要明确查出的字段。 
3. 在一个SQL语句中，如果一个where条件过滤的数据库记录越多，定位越准确，则该where条件越应该前移。 
4. 查询时尽可能使用索引覆盖。即对SELECT的字段建立复合索引，这样查询时只进行索引扫描，不读取数据块。 
5. 在判断有无符合条件的记录时建议不要用SELECT COUNT （*）和select top 1 语句。 
6. 使用内层限定原则，在拼写SQL语句时，将查询条件分解、分类，并尽量在SQL语句的最里层进行限定，以减少数据的处理量。 
7. 应绝对避免在order by子句中使用表达式。 
8. 如果需要从关联表读数据，关联的表一般不要超过7个。 
9. 小心使用 IN 和 OR，需要注意In集合中的数据量。建议集合中的数据不超过200个。 
10. <> 用 < 、 > 代替，>用>=代替，<用<=代替，这样可以有效的利用索引。 
11. 在查询时尽量减少对多余数据的读取包括多余的列与多余的行。 
12. 对于复合索引要注意，例如在建立复合索引时列的顺序是F1，F2，F3，则在where或order by子句中这些字段出现的顺序要与建立索引时的字段顺序一致，且必须包含第一列。只能是F1或F1，F2或F1，F2，F3。否则不会用到该索引。 
13. 多表关联查询时，写法必须遵循以下原则，这样做有利于建立索引，提高查询效率。格式如下select sum（table1.je） from table1 table1, table2 table2, table3 table3 where (table1的等值条件（=）) and (table1的非等值条件) and (table2与table1的关联条件) and (table2的等值条件) and (table2的非等值条件) and (table3与table2的关联条件) and (table3的等值条件) and (table3的非等值条件)。 
注:关于多表查询时from 后面表的出现顺序对效率的影响还有待研究。 
14. 子查询问题。对于能用连接方式或者视图方式实现的功能，不要用子查询。例如：select name from customer where customer_id in ( select customer_id from order where money>1000)。应该用如下语句代替：select name from customer inner join order on customer.customer_id=order.customer_id where order.money>100。 
15. 在WHERE 子句中，避免对列的四则运算，特别是where 条件的左边，严禁使用运算与函数对列进行处理。比如有些地方 substring 可以用like代替。 
16. 如果在语句中有not in（in）操作，应考虑用not exists（exists）来重写,最好的办法是使用外连接实现。 
17. 对一个业务过程的处理，应该使事物的开始与结束之间的时间间隔越短越好，原则上做到数据库的读操作在前面完成，数据库写操作在后面完成，避免交叉。 
18. 请小心不要对过多的列使用列函数和order by,group by等，谨慎使用disti软件开发t。 
19. 用union all 代替 union，数据库执行union操作，首先先分别执行union两端的查询，将其放在临时表中，然后在对其进行排序，过滤重复的记录。 
当已知的业务逻辑决定query A和query B中不会有重复记录时，应该用union all代替union，以提高查询效率。
数据更新的效率 
1. 在一个事物中，对同一个表的多个insert语句应该集中在一起执行。 
2. 在一个业务过程中，尽量的使insert,update,delete语句在业务结束前执行，以减少死锁的可能性。 

表设计

为了避免I/O的冲突，我们在设计数据库物理规划时应该遵循几条基本的原则(以ORACLE举例)： 
1.table和index分离：table和index应该分别放在不同的tablespace中。 
2.Rollback Segment的分离：Rollback Segment应该放在独立的Tablespace中。 
3.System Tablespace的分离：System Tablespace中不允许放置任何用户的object。（mssql中primary filegroup中不允许放置任何用户的object） 
4.Temp Tablesace的分离：建立单独的Temp Tablespace，并为每个user指定default Temp Tablespace 
5.避免碎片：但segment中出现大量的碎片时，会导致读数据时需要访问的block数量的增加。对经常发生DML操作的segemeng来说，碎片是不能完全避免的。所以，我们应该将经常做DML操作的表和很少发生变化的表分离在不同的Tablespace中。 
当我们遵循了以上原则后，仍然发现有I/O冲突存在，我们可以用数据分离的方法来解决。 
6.连接Table的分离：在实际应用中经常做连接查询的Table，可以将其分离在不同的Taclespace中，以减少I/O冲突。 
7.使用分区：对数据量很大的Table和Index使用分区，放在不同的Tablespace中。 
在实际的物理存储中，建议使用RAID。日志文件应放在单独的磁盘中。

执行计划

有单独文章介绍，详细见http://www.cnblogs.com/wanghongye/p/5047422.html

---------------------------------------------数据库的分区---------------------------------------------

彩信数据库使用的是范围hash分区。对datenum这个字段进行ora_hash,把数据放到不同的分区中，建立起datenum和分区的对应关系。

注：ORA_HASH(expr,max_bucket,seed_value)计算字符串的hash值

 --查询mms_collect_frame的datenum的分区情况
 select DATENUM,ora_hash(DATENUM,15,0) from mms_collect_frame order by datenum;
 --查询P_201601分区中的数据
 select * from mms_collect_frame partition(P_201601);

采用他们分解成较小和易于管理的称为分区的片(piece)的方法。一旦分区被定义，SQL语句就可以访问的操作某一个分区而不是整个表，因而提高管理的效率。分区对于数据仓库应用程序非常有效，因为他们常常存储和分析巨量的历史数据。

如何对数据进行分区，分区表的分类

Range partitioning（范围分区） 
Hash partitioning（哈希分区） 
List partitioning（列表分区） 
Composite range-hash partitioning（范围-哈希组合分区） 
Composite range-list partitioning（范围-列表组合分区）

---------------------------------------------索引为什么不是越多越好-----------------------------------

索引和tabel分开管理，单独维护需要代价

在DML中，使用索引select可能比较高，但是insert等效率会变低

索引过多执行计划变低

参考：http://www.imooc.com/article/1204