ECOS-Ecstore mongodb大数据 读写效率优化
转自同功BBS
拆表存取kv
<?php
/*
经过拆变优化的ECStore mongodb 类
base/lib/kvstore/mongodb.php*/
class base_kvstore_mongodb extends base_kvstore_abstract implements base_interface_kvstore_base
{
static private $_mongodb = null;
function __construct($prefix)
{
$prefix = is_string($prefix) ? preg_replace("(\/|\\|\-|-|-|\_|_)",'.', $prefix):md5(var_export($prefix ,true));
$this->prefix = $prefix;
if(!isset(self::$_mongodb)){
$server = defined('MONGODB_SERVER_CONFIG')?MONGODB_SERVER_CONFIG:"mongodb://localhost:27017";
$option = defined('MONGODB_OPTION_CONFIG')?eval(MONGODB_OPEION_CONFIG):array("connect" => TRUE);
self::$_mongodb = new Mongo($server,$option);
}
$this->mongodb = self::$_mongodb->selectCollection('ecos',$this->prefix);
}//End Function
public function fetch($key, &$value, $timeout_version=null)
{
$store = $this->mongodb->findOne(array('key'=>$this->create_key($key)));
if(!is_null($store) && $timeout_version < $store['dateline']){
&& ($store['dateline']+$store['ttl']) < time()){
return false;
}
$value = $store['value'];
return true;
}
return false;
}//End Function
)
{
$store['value'] = $value;
$store['dateline'] = time();
$store['ttl'] = $ttl;
$store['key'] = $this->create_key($key);
$store['prefix'] = $this->prefix;
$res = $this->mongodb->update(array('key'=>$store['key']), $store, array("upsert" => true));
return $res;
}//End Function
public function delete($key)
{
return $this->mongodb->remove(array('key'=>$this->create_key($key)));
}//End Function
public function recovery($record)
{
$key = $record['key'];
$store['key'] = $this->create_key($key);
$store['value'] = $record['value'];
$store['dateline'] = $record['dateline'];
$store['ttl'] = $record['ttl'];
$res = $this->mongodb->update(array('key'=>$store['key']), $store, array("upsert" => true));
return $res;
}//End Function
}//End Class
保证各关键表索引情况
每当mongodb 数据量激增,读写频繁,锁表严重,基本就是索引未加,或未经过拆表方案。
/*mongo 命令行操作*/
use ecos
show collections
db.printCollectionStats()
db.})
db.b2c.cart.ensureIndex({key:})
db.tbdefine.ensureIndex({ke:})
db.cache.content.nodes.ensureIndex({key:})
db.b2c.goods.ensureIndex({key:})
ECOS-Ecstore mongodb大数据 读写效率优化的更多相关文章
- mysql/oracle jdbc大数据量插入优化
10.10.6 大数据量插入优化 在很多涉及支付和金融相关的系统中,夜间会进行批处理,在批处理的一开始或最后一般需要将数据回库,因为应用和数据库通常部署在不同的服务器,而且应用所在的服务器一般也不会 ...
- sqlserver 数据查询效率优化
首先优化是具体情况具体分析,从硬件.改进表结构.索引.改进sql查询语句.存储方式都有关系等多方面入手 比如单表数据量(100w-200w条)不大的情况下,查询效率慢 可以从优化sql语句.对多个排序 ...
- MySQL大数据分页的优化思路和索引延迟关联
之前上次在部门的分享会上,听了关于MySQL大数据的分页,即怎样使用limit offset,N来进行大数据的分页,现在做一个记录: 首先我们知道,limit offset,N的时候,MySQL的查询 ...
- java+Mysql大数据的一些优化技巧
众所周知,java在处理数据量比较大的时候,加载到内存必然会导致内存溢出,而在一些数据处理中我们不得不去处理海量数据,在做数据处理中,我们常见的手段是分解,压缩,并行,临时文件等方法; 例如,我们要将 ...
- Oracle大数据SQL语句优化
1.对查询进行优化,应尽量避免全表扫描,首先应考虑在 where 及 order by 涉及的列上建立索引. 2.应尽量避免在 where 子句中对字段进行 null 值判断,否则将导致引擎放弃使用索 ...
- SQL优化-大数据量分页优化
百万数据量SQL,在进行分页查询时会出现性能问题,例如我们使用PageHelper时,由于分页查询时,PageHelper会拦截查询的语句会进行两个步骤 1.添加 select count(*)fro ...
- MongoDB 大数据技术之mongodb中在嵌套子文档的文档上面建立索引
一.给collection objectid赋自定义的值 MongoDB Enterprise > db.testid.insert({_id:{imsi:"4567890123&qu ...
- Kafka 集群在马蜂窝大数据平台的优化与应用扩展
马蜂窝技术原创文章,更多干货请订阅公众号:mfwtech Kafka 是当下热门的消息队列中间件,它可以实时地处理海量数据,具备高吞吐.低延时等特性及可靠的消息异步传递机制,可以很好地解决不同系统间数 ...
- MongoDB大数据高并发读写性能测试报告
服务器大小: 单节点部署,磁盘1T,内存128G 并发导入规模: 1,多线程并发导入csv文件 2,csv文件分1万.10万.100万.200万行记录4种大小 3,每个csv对应一个collectio ...
随机推荐
- openstack私有云布署实践【18 修改实例DHCP服务的DNS IP】
某天,由于Linux服务器默认没有DNS缓存功能,每次服务器每访问一个http域名链接时,都会触发一次DNS域名解析查询,降低了调用API接口的时延,所以我司后续启用的内网的dnsmasq DNS服务 ...
- C#项目间循环引用的解决办法,有图有真相
C#项目间循环引用的解决办法,有图有真相 程序间的互相调用接口,c#禁止互相引用,海宏软件,20160315 /// c#禁止互相引用,如果项目[订单]中有一个orderEdit单元,要在项目[进销存 ...
- 【Python】Markov text generator马尔科夫文字生成器
遍历一段文字,统计每个字后面出现的字和其次数,当前一个字确定的时候,计算后一个字出现的百分比,用这个百分比作为文字生成器中后一个字出现的概率进行文字生成 from random import rand ...
- 前端tab页实例
<div class="tabbable"> <ul class="nav nav-tabs padding-16"> <c:fo ...
- Error(10028)
两个进程里都有同一个条件判断的话,会产生并行信号冲突的问题. 同一个信号不允许在多个进程中赋值,否则则为多驱动. 进程的并行性决定了多进程不同能对同一个对象进行赋值.
- Ubuntu 忘记密码
1重启电脑Shift键进入GRUB引导模式如下图所示,选择第二行的recovery mode. 2 安e进入recovery mode 编译kernel进行启动参数 3 在linux /boot/vm ...
- OOP in JS - Inheritance
Summary You cause a class to inherit using ChildClassName.prototype = new ParentClass();. You need t ...
- python--函数式登录程序
# Author:Tim Gu def login(username,password): """这个login函数用于用户登录的验证 :param username:用 ...
- javascript函数作用域实践
在es6之前,JavaScript是没有块级作用域的,只有函数作用域,也就是说是一个function里面定义的变量外面取不到的:而if for是条件判断的语句,不是函数,由于缺少块级作用域,所以条件中 ...
- Mr.Jobs
Mr.Jobs by xue 最近的情绪很down,情商智商一直往下降 主要的原因是工作不好找.不是我的要求太高, 而是公司的HR都很不要. 当然首先得自我检讨,但是,damn,这种事情我怎么做的 ...