一、背景

  在业务场景开发的过程中, 随着数据量的增加,相同表结构不同表名的分表策略是常用的方案选择之一。如下以golang做为后端业务开发,尝试修改beego的orm库做一个相同表结构不同表名的分表实现。

二、orm相同表结构不同表名的修改逻辑

三、orm分表对比

不分表代码使用 分表代码使用

o := orm.NewOrm()
user := User{Name: "slene"}
// insert
id, err := o.Insert(&user)
o := orm.NewOrm()
user := User{Name: "slene"} // set table name to `user_1`
o.ShardingTable(
func(tableName string) string {
return tableName + "_1"
},
) // insert
id, err := o.Insert(&user)

o := orm.NewOrm()
user := User{Name: "slene"} // update
user.Name = "astaxie"
num, err := o.Update(&user)

  

o := orm.NewOrm()
user := User{Name: "slene"} // set table name to `user_1`
o.ShardingTable(
func(tableName string) string {
return tableName + "_1"
},
) // update
user.Name = "astaxie"
num, err := o.Update(&user)

  

o := orm.NewOrm()
user := User{id: 1} // select
o.QueryTable(user).One(&user)
o := orm.NewOrm()
user := User{id: 1} // set table name to `user_1`
o.ShardingTable(
func(tableName string) string {
return tableName + "_1"
},
) // select
o.QueryTable(user).Offset(offset).Limit(limit).One(&user) // select id, name from user_1 where id=1 limit 0,1

o := orm.NewOrm()
user := User{id: 1} // delete
o.Delete(user) // delete from user_1 where id=1
o := orm.NewOrm()
user := User{id: 1} // set table name to `user_1`
o.ShardingTable(
func(tableName string) string {
return tableName + "_1"
},
) // delete
o.Delete(user) // delete from user_1 where id=1

从如上的CURD中,我们可以看到如下一段实时修改表名的代码

// set table name to `user_1`
o.ShardingTable(
func(tableName string) string {
return tableName + "_1"
},
)

我们一步步分析一下orm是如何实现表名的实时修改。

四、分表实现分析

4.1 修改代码文件:https://github.com/gityf/orm/blob/master/orm/types.go

// Ormer define the orm interface
type Ormer interface {
// ...
   // set sharding table in time for different table name with same struct.
// ormer.ShardingTable(
// func(tableName string) string {
// return tableName + "_" + tableNameSuffix
// },
// )
ShardingTable(func(string) string)
}

修改types.go的Ormer接口,增加分表的函数,参数是一个获取分表的函数,即每一个分表的表名的设置是一个orm实例。通过orm.NewOrm()创建。

4.2 修改代码文件:https://github.com/gityf/orm/blob/master/orm/orm.go

修改orm.go文件,给结构orm增加如下两个分表相关的函数

type orm struct {
alias *alias
db dbQuerier
isTx bool
sharding func(string) string
shardingTable func(string) string
}

有了如上的sharding函数,我们只要在创建orm时,实时的设置这个sharding函数,通过函数获取新表名。

在函数NewOrm中给新创建的

o := new(orm)

设置一个分表函数如下

// switch to another registered database driver by given name.
func (o *orm) Using(name string) error {
// ...
if al, ok := dataBaseCache.get(name); ok {
o.sharding = func(table string) string {
if o.shardingTable == nil {
return table
}
return o.shardingTable(table)
}
}
// ...
}

orm结构体有了分表函数的设置,我们需要给orm的成员dbQuerier增加分表函数如下

o.db = &DB{
RWMutex: al.DB.RWMutex,
DB: al.DB.DB,
stmtDecorators: al.DB.stmtDecorators,
sharding: o.sharding,
}

4.3 修改代码文件:https://github.com/gityf/orm/blob/master/orm/db_alias.go

DB是dbQuerier接口的一个实现,对DB结构体的实现增加分表函数

func (d *DB) Sharding(table string) string {
return d.sharding(table)
}

4.4 修改代码文件:https://github.com/gityf/orm/blob/master/orm/db.go

对db代码文件中的dbBase的CURD中的sql生成时,增加如下实时修改表名的实现 q.Sharding(mi.table)

// create insert sql preparation statement object.
func (d *dbBase) PrepareInsert(q dbQuerier, mi *modelInfo) (stmtQuerier, string, error) {
Q := d.ins.TableQuote()

// ...
   query := fmt.Sprintf("INSERT INTO %s%s%s (%s%s%s) VALUES (%s)", Q, q.Sharding(mi.table), Q, Q, columns, Q, qmarks)
// ...
}

其他的orm转sql的通过dbQuerier的q.Sharding(mi.table)获取表名

增加orm相同表结果不同表名的代码实现:https://github.com/gityf/orm

祝玩的开心~

【Golang】基于beego/orm实现相同表结构不同表名的分表方法实现的更多相关文章

  1. MySQL复制表结构和内容到另一个表中

    一:(低版本的mysql不支持,mysql4.0.25 不支持,mysql5已经支持了)1.复制表结构到新表CREATE TABLE 新表LIKE 旧表 2.复制旧表的数据到新表(假设两个表结构一样) ...

  2. mysql如何查询多样同样的表/sql分表查询、java项目日志表分表的开发思路/按月分表

    之前开发的一个监控系统,数据库的日志表是单表,虽然现在数据还不大并且做了查询sql优化,不过以后数据库的日志表数据肯定会越来越庞大,将会导致查询缓慢,所以把日志表改成分表,日志表可以按时间做水平分表, ...

  3. ShardingJdbc-分表;分库;分库分表;读写分离;一主多从+分表;一主多从+分库分表;公共表;数据脱敏;分布式事务

    目录 创建项目 分表 导包 表结构 Yml 分库 Yml Java 分库分表 数据库 Yml 读写分离 数据库 Yml 其他 只请求主库 读写分离判断逻辑代码 一主多从+分表 Yml 一主多从+分库分 ...

  4. phalcon: 按年分表的model怎么建?table2017,table2018...相同名的分表模型怎么建

    phalcon: 按年分表的model怎么建?table2017,table2018...相同名的分表模型怎么建 场景:当前有一张表:Ntime,因为表太大了,考虑要分表: Ntime2017 Nti ...

  5. 分库分表(5) ---SpringBoot + ShardingSphere 实现分库分表

    分库分表(5)--- ShardingSphere实现分库分表 有关分库分表前面写了四篇博客: 1.分库分表(1) --- 理论 2.分库分表(2) --- ShardingSphere(理论) 3. ...

  6. 分库分表(7)--- SpringBoot+ShardingSphere实现分库分表 + 读写分离

    分库分表(7)--- ShardingSphere实现分库分表+读写分离 有关分库分表前面写了六篇博客: 1.分库分表(1) --- 理论 2.分库分表(2) --- ShardingSphere(理 ...

  7. 基于beego orm 针对oracle定制

    目前golang的ORM对oracle支持都没有mysql那样完整,一个orm要同时兼容mysql和oracle由于在sql语法上区别,会使整orm变的非常臃肿. 本项目是在beego orm上修改, ...

  8. 4 hbase表结构 + hbase集群架构及表存储机制

      本博文的主要内容有    .hbase读取数据过程 .HBase表结构 .附带PPT http://hbase.apache.org/ 读写的时候,就需要用hbase了,换句话说,就是读写的时候. ...

  9. Mysql学习—查看表结构、修改和删除数据表

    原文出自:http://blog.csdn.net/junjieguo/article/details/7668775 查看表结构 查看表结构可以用语句DESCRIBE或SHOW CREATE TAB ...

随机推荐

  1. cmd下载慢

    是网络的原因,加一个镜像服务器 pip install *** -i https://pypi.tuna.tsinghua.edu.cn/simple

  2. Geostatistical Analyst Tools(Geostatistical Analyst 工具)

    Geostatistical Analyst 工具 1.使用地统计图层 # Process: GA 图层至格网 arcpy.GALayerToGrid_ga("", 输出表面栅格, ...

  3. 2020.10.16--vj个人赛补题

    D - Drinks Choosing Old timers of Summer Informatics School can remember previous camps in which eac ...

  4. Oracle中常用的to_char用法详解

    Oracle函数to_char转化数字型指定小数点位数的用法 to_char,函数功能,就是将数值型或者日期型转化为字符型. 比如最简单的应用: -- 1.0123=>1.0123 SELECT ...

  5. CSS绘制三角的小技巧

    网页中常见一些三角形,使用css直接画出来就可以,不必做成图片或者字体图标当把一个盒子的高和宽的长度都设置为0,并且分别指定边框样式时,就会得到以下图形: 受此启发,可以知道三角是如何制作的(想要保留 ...

  6. 【UE4】GAMES101 图形学作业4:贝塞尔曲线

    总览 Bézier 曲线是一种用于计算机图形学的参数曲线. 在本次作业中,你需要实现de Casteljau 算法来绘制由4 个控制点表示的Bézier 曲线(当你正确实现该算法时,你可以支持绘制由更 ...

  7. 【数据结构与算法Python版学习笔记】递归(Recursion)——优化问题与策略

    分治策略:解决问题的典型策略,分而治之 将问题分为若干更小规模的部分 通过解决每一个小规模部分问题,并将结果汇总得到原问题的解 递归算法与分治策略 递归三定律 体现了分支策略 应用相当广泛 排序 查找 ...

  8. [Beta]the Agiles Scrum Meeting 3

    会议时间:2020.5.14 20:00 1.每个人的工作 今天已完成的工作 成员 已完成的工作 yjy 实现前端界面美化 tq 实现查看.删除测试点功能的前端修复功能中的bug wjx 升级系统实现 ...

  9. Spring Security Resource Server的使用

    Spring Security Resource Server的使用 一.背景 二.需求 三.分析 四.资源服务器认证流程 五.实现资源服务器 1.引入jar包 2.资源服务器配置 3.资源 六.测试 ...

  10. activemq实现队列的独有消费

    在我们实际的开发中可能存在这么一种情况,应用程序要向一个队列名为queue的队列中发送3条消息,需要保证这3条消息按顺序消费.必须是第一条消费完,在消费第二条然后是第三条.而我们的程序中可能有时候存在 ...