Django模型查询与性能调优:告别N+1问题
一、查询基础
QuerySet 详解
Django 中通过模型类的 Manager 构建 QuerySet 来检索数据库对象,其核心特性包括:
- 代表数据库中对象的集合
- 可通过过滤器缩小查询范围
- 具有惰性执行特性(仅在需要结果时才执行 SQL)
常用过滤器
all():返回所有对象filter(**kwargs):返回满足条件的对象exclude(** kwargs):返回不满足条件的对象get(**kwargs):返回单个匹配对象(无匹配或多匹配会抛异常)- 切片
# 切片操作示例:返回前5个对象(LIMIT 5)
Book.objects.all()[:5]
一对多关联查询
假设一个作者可以写多本书,但每本书只能属于一个作者。
from django.db import models
class Author(models.Model):
first_name = models.CharField(max_length=100)
last_name = models.CharField(max_length=100)
def __str__(self):
return f"{self.first_name} {self.last_name}"
class Book(models.Model):
title = models.CharField(max_length=100)
publication_date = models.DateField()
# 外键关联Author,级联删除,反向查询名为books
author = models.ForeignKey(
Author,
on_delete=models.CASCADE,
related_name='books'
)
def __str__(self):
return self.title
正向查询(通过外键属性访问)
b = Book.objects.get(id=2)
b.author # 获取关联的Blog对象,查询数据库
b.author = some_body # 设置关联对象
b.save() # 保存更改
使用 select_related() 预加载关联对象,避免额外查询
b = Book.objects.select_related().get(id=2)
print(b.author) # 已预加载到缓存,使用缓存,不查询数据库
反向查询(通过关联管理器)
# 未定义related_name, 默认Manager名称为:<模型名称小写>_set
a = Author.objects.get(id=1)
a.book_set.all() # 返回所有关联的Book
# 定义了related_name='books'
a.books.all() # 更直观的访问方式
关联对象操作方法如下。所有 “反向” 操作对数据库都是立刻生效,保存到数据库。
add(obj1, obj2):添加关联对象create(**kwargs):创建并关联新对象remove(obj1, obj2):移除关联对象clear():清空所有关联set(objs):替换关联集合
a = Author.objects.get(id=1)
a.books.set([b1, b2]) # b1 和 b2 都是 Book 实例
多对多关联查询
假设一个作者可以写多本书,一本书也可以有多个作者。
from django.db import models
class Author(models.Model):
name = models.CharField(max_length=100)
email = models.EmailField()
def __str__(self):
return self.name
class Book(models.Model):
title = models.CharField(max_length=200)
publication_date = models.DateField()
# 多对多关联Author
authors = models.ManyToManyField(Author, related_name='books')
def __str__(self):
return self.title
正向与反向查询示例
# 正向查询
b = Book.objects.get(id=3)
b.authors.all() # 获取所有关联的Author
b.authors.count()
b.authors.filter(name__contains="张三")
# 反向查询
a = Author.objects.get(id=5)
a.book_set.all() # 获取所有关联的Book
多对多关联中,add()、set() 和 remove() 可直接使用主键
a = Author.objects.get(id=5)
a.book_set.set([b1, b2])
# 等价于
a.book_set.set([b1.pk, b2.pk])
二、N+1查询问题
问题分析
N+1 查询是常见的性能问题,表现为主查询后执行 N 次额外查询。例如:
books = Book.objects.all()
for book in books:
print(book.author.first_name)
以上代码会产生 1 次查询获取所有 Book,加上 N 次查询获取对应的 Author(N 为 Book 数量),共 N+1 次查询。
检测方法
- Django Debug Toolbar:直观显示请求中的 SQL 查询
- 日志记录:配置日志记录 SQL 语句
- 性能分析工具:如 Django Silk 分析查询性能
解决方案
方法 1:使用 select_related
适用于一对多(正向)和一对一关系,通过 SQL JOIN 预加载关联对象
- 语法:
select_related('related_field'),related_field是模型中定义的ForeignKey或OneToOneField字段
books = Book.objects.select_related('author').all()
for book in books:
print(book.author.first_name) # 无额外查询
可结合 only() 选择需要的字段
books = Book.objects.select_related('author').only('title', 'author__name')
支持多级关联
# 加载书籍、作者及作者家乡信息
books = Book.objects.select_related('author__hometown').all()
for book in books:
print(book.author.hometown.name) # 无额外查询
方法 2:使用 prefetch_related
适用于多对多和反向关系,通过批量查询后在 Python 中关联。适用场景:
- 多对多关系(ManyToManyField)
- 反向一对多关系
- 反向一对一关系
books = Book.objects.prefetch_related('authors').all()
for book in books:
print(book.authors.all()) # 无额外查询
参考资料:Django 数据库访问优化
三、高级查询优化
values()
返回字典形式的查询集(返回一个 ValuesQuerySet 对象,其中每个元素是一个字典),适合提取特定字段
books = Book.objects.values('title', 'author')
for book in books:
print(book)
# 输出示例
{'title': 'Book1', 'author': 'Author1'}
{'title': 'Book2', 'author': 'Author2'}
values_list()
返回元组形式的查询集(返回一个 ValuesListQuerySet 对象,其中每个元素是一个元组),内存占用更低
books = Book.objects.values_list('title', 'author')
for book in books:
print(book)
### 输出示例
('Book1', 'Author1')
('Book2', 'Author2')
使用 flat=True 获取单一字段值列表。如果有多个字段时,传入 flat 会报错。
titles = Book.objects.values_list('title', flat=True)
# <QuerySet ['红楼梦', '西游记', ...]>
使用 named=True ,结果返回 namedtuple()
books_info = Book.objects.values_list("id", "title", named=True)
# <QuerySet [Row(id=1, title='红楼梦'), ...]>
values()和values_list()对比
| 对比维度 | values() |
values_list() |
|---|---|---|
| 返回值类型 | 返回一个包含字典的查询集,字典的键为字段名,值为字段对应的数据 | 返回一个包含元组的查询集,元组中的元素依次对应指定字段的值 |
| 内存占用 | 相对较高,因为字典需要存储键值对信息 | 通常更节省内存,元组是更轻量的数据结构,无需存储字段名 |
| 使用场景 | 适合需要通过字段名访问字段值的场景,例如需要明确知道每个值对应的字段时 | 适合仅需要获取字段值的场景,例如只需批量获取某个或某几个字段的具体数据时 |
Q() 对象复杂查询
Q() 对象用于构建复杂查询条件,支持逻辑运算
&:逻辑与(AND)|:逻辑或(OR)~:逻辑非(NOT)
from django.db.models import Q
# 标题含Python或作者为John的书籍
books = Book.objects.filter(
Q(title__icontains="Python") | Q(author="John")
)
# 复杂组合条件
books = Book.objects.filter(
(Q(title__icontains="Python") | Q(title__icontains="Django")) &
~Q(author="John")
)
查看生成的 SQL
调试时可查看 QuerySet 生成的 SQL
queryset = Book.objects.filter(author="John")
print(queryset.query) # 输出对应的SQL语句
四、项目实战
场景
Django+Vue 后台管理系统中,一般需要支持不同的数据权限
- 仅本人数据权限
- 本部门及以下数据权限
- 本部门数据权限
- 指定部门数据权限
- 全部数据权限

数据权限与功能权限(基于RBAC实现)的区别
- 功能权限:控制 “能做什么”(如新增、删除按钮的显示和执行)
- 数据权限:控制 “能看到什么数据”(如销售经理只能查看自己团队的数据)
实战
使用Q() 对象构建复杂查询,实现灵活的数据权限计算

您正在阅读的是《Django从入门到实战》专栏!关注不迷路~
Django模型查询与性能调优:告别N+1问题的更多相关文章
- 性能调优9:根据WaitType诊断性能
SQL Server数据库接收到查询请求,从生成计划到执行计划的过程,等待次数和等待时间在一定程度上揭示了系统性能的压力,如果资源严重不足,就会成为性能的瓶颈.因此,对等待的监控非常有助于对系统性能进 ...
- 性能调优6:Spool 假脱机调优
SQL Server的Spool(假脱机)操作符,用于把前一个操作符处理的数据(又称作中间结果集)存储到一个隐藏的临时结构中,以便在执行过程中重用这些数据.这个临时结构都创建在tempdb中,通常的结 ...
- Elasticsearch索引和查询性能调优的21条建议
Elasticsearch部署建议 1. 选择合理的硬件配置:尽可能使用 SSD Elasticsearch 最大的瓶颈往往是磁盘读写性能,尤其是随机读取性能.使用SSD(PCI-E接口SSD卡/SA ...
- JVM内存模型与性能调优
堆内存(Heap) 堆是由Java虚拟机(JVM,下文提到的JVM特指Sun hotspot JVM)用来存放Java类.对象和静态成员的内存空间,Java程序中创建的所有对象都在堆中分配空间,堆只用 ...
- 在SQL Server 2016里使用查询存储进行性能调优
作为一个DBA,排除SQL Server问题是我们的职责之一,每个月都有很多人给我们带来各种不能解释却要解决的性能问题. 我就多次听到,以前的SQL Server的性能问题都还好且在正常范围内,但现在 ...
- 记一次sql server 性能调优,查询从20秒至2秒
一.需求 需求很简单,就是需要查询一个报表,只有1个表,数据量大约60万左右,但是中间有些逻辑. 先说明一下服务器配置情况:1核CPU.2GB内存.机械硬盘.Sqlserver 2008 R2.Win ...
- JVM性能调优(1) —— JVM内存模型和类加载运行机制
一.JVM内存模型 运行一个 Java 应用程序,必须要先安装 JDK 或者 JRE 包.因为 Java 应用在编译后会变成字节码,通过字节码运行在 JVM 中,而 JVM 是 JRE 的核心组成部分 ...
- Java 应用性能调优实践
Java 应用性能优化是一个老生常谈的话题,笔者根据个人经验,将 Java 性能优化分为 4 个层级:应用层.数据库层.框架层.JVM 层.通过介绍 Java 性能诊断工具和思路,给出搜狗商业平台的性 ...
- Advacned Puppet: Puppet Master性能调优
本文是Advanced Puppet系列的第一篇:Puppet master性能调优,谈一谈如何优化和提高C/S架构下master端的性能. 故事情节往往惊人地类似:你是一名使用Puppet管理线上业 ...
- linux性能调优概述
- 什么是性能调优?(what) - 为什么需要性能调优?(why) - 什么时候需要性能调优?(when) - 什么地方需要性能调优?(where) - 什么人来进行性能调优?(who) - 怎么样 ...
随机推荐
- CUDA 线程ID 计算方式
thread ID 的计算方式,简单来说很像小学学的除法公式,本文转载自同学一篇博客:并进行简单修改: 被除数 = 除数 * 商 + 余数 用公式表示:$$线程Id = blockId * block ...
- .Net 组件库先混淆签名,再打包成.nupkg包
目前,我们项目组打算做增量升级的功能,这涉及到dll库增量改变,只有修改过代码的dll才需要有文件的变化,否则文件和对应的版本是不会改变的. 我们之前的打包的项目有一个小缺陷: 在整个应用打包输出的时 ...
- golang unsafe遇上字符串拼接优化导致的bug
最近料理老项目的时候被unsafe坑惨了,这里挑一个最不易察觉的错误记录一下. 这个问题几乎影响近几年来所有的go版本,为了方便讨论我就用最新版的1.24.3做例子了. 线上BUG 我们有一个收集集群 ...
- 在MySQL数据库中保存布尔型数据
在存储数据时,经常会用到"是"."否"或者"有"."无"这种数据,这种时候就要应用布尔型这种数据类型了.那如何在M ...
- python获取地理位置
废话不多说,直接上代码 1 from urllib.request import urlopen 2 my_ip = urlopen('http://ip.42.pl/raw').read() 3 4 ...
- buck参数工具分享
工具链接:https://cnblogs-img.oss-cn-hangzhou.aliyuncs.com/docs/buck.xls
- JDBC之查询
案例1:查询所有用户的信息,封装到一个List里面 1 String url="jdbc:mysql://localhost:3306/nz201"; 2 String user= ...
- SAP发布简易REST 三:API平台之接口文档
为了完善API接口,增强友好性,做了一点小文档展示. 新建配置表:(用来做接口参数配置展示使用,不在程序中应用) 因为需要给每个接口一个对应的名字,所以在原来的API控制表中增加一个文本字段. 这里加 ...
- RT-Thread 4.0.3 适配 UART_V2 版本
RT-Thread 4.0.3 适配 UART_V2 版本 本文为针对发布版4.0.3 进行 UART_V2 驱动的移植适配操作笔记. 由于使用了 libmodbus 软件包,需要 posix_ter ...
- Kafka入门实战教程(3).NET Core操作Kafka
1 可用的Kafka .NET客户端 作为一个.NET Developer,自然想要在.NET项目中集成Kafka实现发布订阅功能.那么,目前可用的Kafka客户端有哪些呢? 目前.NET圈子主流使用 ...