【QT性能优化】QT性能优化之QT6框架高性能模型视图代理框架千万级数据表分层查询优化

简介

本文使用QT树状控件QTreeView快速展示SQLite数据库中的1000万条具有层次结构的数据记录,当然每次只展示一部分记录。基本思路是在初始化时只显示顶层结构的数据记录;在树状控件的某一个节点被用户操作展开时再即时到数据库中查询相应的数据记录并作为该节点的下层节点插入到树状控件中;在某一个节点被用户操作收缩时立即删除该节点的子节点。整个树状控件中总是只加载用户关心的数据,而不是加载所有数据,使得树状控件的显示和展开及收缩操作都在几毫秒到几十毫秒就能完成,从而极大的提升了应用程序的运行性能。另外,对于千万量级的数据库,对数据进行分层管理对于降低应用程序内存占用也发挥了举足轻重的价值。

正文

QT高性能树状控件百万节点效果演示


QT高性能树状控件百万节点效果演示截图

本文描述之使用QT模型视图代理框架对1000万条记录数据表分层展示的运行效果参考视频如下:

视频:QT性能优化之QT6框架高性能模型视图代理框架千万级数据表分层查询优化效果

QT应用能不能快速展示千万级数据表中的数据? 看完补天云这个视频你就知道怎么回事了: QT性能优化之QT6框架高性能模型视图代理框架千万级数据表分层查询优化

QT高性能树状控件百万节点源代码:数据库层

数据库初始化

QT高性能树状控件百万节点效果演示千万条记录数据初始化代码


这里就是按照公司、分公司、部门、员工四个层级依次生成数据。员工记录1000万条。都是一些INSERT语句的执行,为了 节省篇幅,本文略去这些代码。

基础数据结构

本文介绍的QT高性能树状控件百万节点效果演示程序使用的一些基础数据结构定义如下所示:

QT高性能树状控件百万节点效果演示程序基础数据结构

QT高性能树状控件百万节点效果演示程序基础数据结构

QT高性能树状控件百万节点效果演示程序基础数据结构

公司查询

QT高性能树状控件百万节点效果演示程序公司查询数据库的源代码。


QT高性能树状控件百万节点效果演示程序公司查询
为了节省篇幅,这里只写了关键代码,省去了一些错误判断的辅助代码。

分公司查询

QT高性能树状控件百万节点效果演示程序分公司查询数据库的源代码。

QT高性能树状控件百万节点效果演示程序分公司查询

部门查询

QT高性能树状控件百万节点效果演示程序部门查询数据库的源代码。

QT高性能树状控件百万节点效果演示程序部门查询

员工查询

QT高性能树状控件百万节点效果演示程序员工查询数据库的源代码。

QT高性能树状控件百万节点效果演示程序员工查询

QT高性能树状控件百万节点源代码:界面层

界面初始化

窗口类的头文件如下所示。窗口中包含了树状控件。

QT高性能树状控件百万节点效果演示程序界面

QT高性能树状控件百万节点效果演示程序界面

树状控件初始化

QT高性能树状控件百万节点效果演示程序树状控件初始化顶层节点(根节点)的源代码。

QT高性能树状控件百万节点效果演示程序界面树状控件初始化

在初始时刻,只加载了顶层节点的数据,也就是公司级别的数据,而暂时没有立即加载分公司数据和部门数据以及员工数据。这样极大的降低的应用程序的内存占用量。数据库中存在1000万条员工记录,如果一次性全部加载到进程中,将占用很多的内存。

树状控件节点展开事件处理

QT高性能树状控件百万节点效果演示程序节点展开事件处理的源代码。

QT高性能树状控件百万节点效果演示程序树状控件节点展开事件处理
备注:

(a)根据这些ID判断是哪一个层级的节点。

公司节点展开分公司列表的情况:

QT高性能树状控件百万节点效果演示程序树状控件节点展开事件处理
分公司节点展开部门列表的情况:

QT高性能树状控件百万节点效果演示程序树状控件节点展开事件处理
部门节点展开员工列表的情况:

QT高性能树状控件百万节点效果演示程序树状控件节点展开事件处理

在本文介绍的实例中,按照数据记录本身的层次关系,采用数据分层管理的策略,在节点展开时即时从数据库加载该节点的下级数据,在节点收缩时删除该节点的下级节点。这种策略通常可以很好的避免应用程序的内存占用量随着数据库中的数据记录的数量规模的增加而增长的情况。显然,本文介绍的实例中,即使数据库中存在1000万条员工记录,但是由于每次只加载1000条记录,因此内存占用量和数据规模几乎没有关系。

数据库查询过程中动态创建的这些自定义数据条目(ButianyunItem)保存在department.items这个列表中,这些条目的内存什么时候释放呢? 答案是这个函数执行完之后自动释放,看一下ButianyunItem的析构函数就明白了。

QT高性能树状控件百万节点效果演示程序数据条目析构函数

树状控件节点收缩事件处理

下面是QT高性能树状控件百万节点效果演示程序节点收缩事件处理的源代码。

QT高性能树状控件百万节点效果演示程序节点收缩事件处理
备注:

(a)根据这些ID判断是哪一个层级的节点。

公司节点收缩的情况:

QT高性能树状控件百万节点效果演示程序节点收缩事件处理

分公司节点收缩的情况:

部门节点收缩的情况:

QT高性能树状控件百万节点效果演示程序节点收缩事件处理

总结

在千万量级数据记录的SQLite数据库应用场景中,如何解决数据量大导致的数据加载时间长,数据展示性能差的问题呢? 鉴于这种数据记录之间的层级关系和QT树状控件展开和收缩操作的特点,本文介绍了一种在使用数据库的索引结构的基础上,按需加载数据的方法,避免了一次性加载所有数据产生的一些性能问题, 并将树状控件的展示和节点操作消耗的时间优化到了几毫秒到几十毫秒这种可接受的范围;同时内存占用量也降低到了基本与数据规模无关的程度。

QT性能优化技术博客专栏:
QT性能优化

如果您认为这篇文章对您有所帮助,请您一定立即点赞+喜欢+收藏,本文作者将能从您的点赞+喜欢+收藏中获取到创作新的好文章的动力。如果您认为作者写的文章还有一些参考价值,您也可以关注这篇文章的作者。

【QT性能优化】QT性能优化之QT6框架高性能模型视图代理框架千万级数据表分层查询优化的更多相关文章

  1. MySQL的count(*)的优化,获取千万级数据表的总行数[转]

    一.前言 这个问题是今天朋友提出来的,关于查询一个1200w的数据表的总行数,用count(*)的速度一直提不上去.找了很多优化方案,最后另辟蹊径,选择了用explain来获取总行数. 二.关于cou ...

  2. Qt MVC(模型-视图-代理)

    实习刚才是一段时间,公司这边就要求熟悉这个mvc.一般开始都是用tableview,前面的blog我都是使用listview居多,并且相对delegate这个使用的多余model.接下来说下model ...

  3. Web性能优化:图片优化

    程序员都是懒孩子,想直接看自动优化的点:传送门 我自己的Blog:http://cabbit.me/web-image-optimization/ HTTP Archieve有个统计,图片内容已经占到 ...

  4. REORG TABLE命令优化数据库性能

    [转]DB2日常维护——REORG TABLE命令优化数据库性能     一个完整的日常维护规范可以帮助 DBA 理顺每天需要的操作,以便更好的监控和维护数据库,保证数据库的正常.安全.高效运行,防止 ...

  5. 常用CSS优化总结——网络性能与语法性能建议

    在前端面试中最常见的问题就是页面优化和缓存(貌似也是页面优化),被问了几次后心虚的不行,平然平时多少会用到一些,但突然问我,很难把自己知道的都说出来.页面优化明显不是一两句能够说完的,这两天总结了一下 ...

  6. Android性能优化之布局优化

    最新最准确内容建议直接访问原文:Android性能优化之布局优化 本文为Android性能优化的第二篇——布局优化,主要介绍使用抽象布局标签(include, viewstub, merge).去除不 ...

  7. 优化TableView性能

    优化tableView性能(针对滑动时出现卡的现象) (2013-08-02 11:18:15) 转载▼ 标签: ios tableview it 分类: 技术文档 在iOS应用中,UITableVi ...

  8. Web服务器性能监控分析与优化

    Web服务器性能监控分析与优化 http://www.docin.com/p-759040698.html

  9. Web前端性能优化之图片优化

    我自己的Blog:http://blog.cabbit.me/web-image-optimization/ HTTP Archieve有个统计,图片内容已经占到了互联网内容总量的62%,也就是说超过 ...

  10. 【转】Android性能优化之布局优化篇

     转自:http://blog.csdn.net/feiduclear_up/article/details/46670433 Android性能优化之布局优化篇 分类: andorid 开发2015 ...

随机推荐

  1. [oeasy]python0111_字型码_字符字型编码_点阵字库_ascii演化

    编码进化 回忆上次内容 上次回顾了 早期的英文字符点阵 最小的 3*5 通用的 5*7   点阵字库逐渐规范化 ​     添加图片注释,不超过 140 字(可选)     这些点阵字符的字型 究竟是 ...

  2. Django template层之json报文遍历总结

    Django template层之json报文遍历总结 by:授客 QQ:1033553122 测试环境 Win7 Django 1.11 实例 Views.py def home(request): ...

  3. CF 1927

    G link 定义\({{dp_i}_j}_k\)为考虑完第i个点,最左边没有染色的点为\(j\),最右边没有染色的点为\(k\)的最小数量. 考虑转移(用自己更新别人) 如果不用\(i\),直接转移 ...

  4. CCF 任务调度

    样例的示意图 查了一圈,然后很烦,不想学习方法,好卡.查了一些题解,发现都是10分,30分先搁置的博客,最后翻到 堪称官方标称的思路 (CCF题目pat题目各大poj/hdoj好戏那个都没有标程,这里 ...

  5. springboot3整合高版本spring data neo4j

    本博客适用于springboo data neo4j 7.2.6版本,详情阅读官网https://docs.spring.io/spring-data/neo4j/reference/7.2/intr ...

  6. docker 概念,安装,启动,运行

    docker概念,安装,启动,运行模式 docker的概念 镜像(image) 模板,可以通过模板来创建容器服务,tomcat镜像===>run==>tomacat01容器(提供服务),通 ...

  7. python json.loads()字符串转json

    python  json.loads()字符串转json import jsonimport requestsres = '''{"code":200,"message& ...

  8. jax框架:jax.grad

    官方地址: https://jax.readthedocs.io/en/latest/_autosummary/jax.grad.html#jax.grad 这里只给出几个样例代码: 设置 allow ...

  9. tensorflow1.x——如何在python多线程中调用同一个session会话

    如何在python多线程中调用同一个session会话? 这个问题源于我在看的一个强化学习代码: https://gitee.com/devilmaycry812839668/scalable_age ...

  10. npm WARN config global `--global`, `--local` are deprecated. Use `--location 的解决方法

    1.背景 2.解决步骤 2.1.找到nodejs的安装路径 2.2.修改配置文件 将文件里的 prefix-g 改为 prefix --location=global 修改前: 修改后: 点击保存就解 ...