异步IO与Tortoise-ORM的数据库
title: 异步IO与Tortoise-ORM的数据库
date: 2025/04/29 13:21:47
updated: 2025/04/29 13:21:47
author: cmdragon
excerpt:
异步IO与同步IO的核心区别在于阻塞与非阻塞模式。Tortoise-ORM通过协议层、连接池层和ORM层实现异步数据库操作,支持高效的并发处理。用户管理系统搭建中,Tortoise-ORM与FastAPI结合,实现了用户创建和查询功能,并通过Pydantic进行数据校验。异步ORM适用于高并发场景,参数化查询可防止SQL注入。最佳实践包括连接池配置、查询优化和事务管理,确保系统性能和数据一致性。
categories:
- 后端开发
- FastAPI
tags:
- 异步IO
- Tortoise-ORM
- 数据库操作
- FastAPI
- 异步编程
- 连接池
- 事务管理


扫描二维码
关注或者微信搜一搜:编程智域 前端至全栈交流与成长
探索数千个预构建的 AI 应用,开启你的下一个伟大创意:https://tools.cmdragon.cn/
第一章:异步IO与Tortoise-ORM原理剖析
1.1 同步与异步的本质区别
想象你在快餐店点餐:
- 同步模式:收银员接单后站在炸薯条机前等待,直到薯条炸好才接待下一位顾客
- 异步模式:收银员接单后立即将订单交给后厨,转身接待下一位顾客,后厨准备好餐点会主动通知收银员
计算机领域的异步IO正是采用这种"非阻塞"模式:
# 同步操作(线程阻塞)
def sync_query():
result = db.execute("SELECT * FROM users") # 线程在此等待
process(result)
# 异步操作(事件驱动)
async def async_query():
result = await db.execute("SELECT * FROM users") # 释放控制权
process(result)
1.2 Tortoise-ORM的异步实现
Tortoise-ORM通过三层架构实现异步操作:
层级 | 职责 | 关键技术 |
---|---|---|
协议层 | 数据库通信协议解析 | asyncpg/aiomysql |
连接池层 | 管理异步数据库连接 | asyncio.Queue |
ORM层 | 模型映射与查询构建 | Python元类编程 |
典型查询流程解析:
async def get_users():
# 以下三个步骤交替执行,全程无阻塞
users = await User.filter(age__gt=18) # 1.生成SQL语句
# 2.从连接池获取连接
# 3.等待数据库响应
return users
1.3 实战:用户管理系统搭建
环境准备
pip install fastapi uvicorn tortoise-orm aiosqlite pydantic
项目结构
project/
├── config.py
├── models.py
├── schemas.py
└── main.py
模型定义(models.py)
from tortoise.models import Model
from tortoise import fields
class User(Model):
id = fields.IntField(pk=True)
username = fields.CharField(max_length=50, unique=True)
hashed_password = fields.CharField(max_length=128)
email = fields.CharField(max_length=100)
created_at = fields.DatetimeField(auto_now_add=True)
class Meta:
table = "users"
数据校验(schemas.py)
from pydantic import BaseModel, EmailStr
class UserCreate(BaseModel):
username: str
password: str
email: EmailStr
class Config:
schema_extra = {
"example": {
"username": "fastapi_user",
"password": "strongpassword123",
"email": "user@example.com"
}
}
核心逻辑(main.py)
from fastapi import FastAPI, Depends, HTTPException
from tortoise.contrib.fastapi import register_tortoise
from models import User
from schemas import UserCreate
app = FastAPI()
# 初始化数据库
register_tortoise(
app,
db_url="sqlite://db.sqlite3",
modules={"models": ["models"]},
generate_schemas=True,
add_exception_handlers=True,
)
@app.post("/users/", status_code=201)
async def create_user(user_data: UserCreate):
# 密码哈希处理(实际项目应使用passlib)
hashed_password = f"hashed_{user_data.password}"
try:
user = await User.create(
username=user_data.username,
hashed_password=hashed_password,
email=user_data.email
)
except Exception as e:
raise HTTPException(
status_code=400,
detail="Username already exists"
)
return {
"id": user.id,
"username": user.username,
"email": user.email
}
@app.get("/users/{user_id}")
async def get_user(user_id: int):
user = await User.get_or_none(id=user_id)
if not user:
raise HTTPException(status_code=404, detail="User not found")
return {
"id": user.id,
"username": user.username,
"email": user.email,
"created_at": user.created_at.isoformat()
}
课后Quiz
问题1:以下哪种场景最适合使用异步ORM?
A) 单用户的桌面应用程序
B) 需要处理数千并发请求的API服务
C) 执行复杂事务的财务系统
D) 数据仓库的批量数据处理
答案:B
解析:异步ORM在高并发IO密集型场景下能显著提升吞吐量,而ACD场景更多需要的是事务完整性或计算能力。
问题2:如何避免在ORM查询时发生SQL注入?
A) 直接拼接字符串
B) 使用ORM的参数化查询
C) 手动过滤特殊字符
D) 限制查询字段长度
答案:B
解析:Tortoise-ORM的查询方法会自动进行参数化处理,有效防止SQL注入,这是最安全的做法。
常见报错解决方案
错误1:422 Validation Error
原因分析:请求体不符合Pydantic模型要求
解决方法:
- 检查请求头
Content-Type
是否为application/json
- 使用Swagger文档测试接口
- 查看返回信息中的错误字段提示
错误2:RuntimeError: Event loop is closed
原因分析:异步代码在错误的位置执行
解决方法:
- 确保所有异步操作都在async函数内
- 使用
asyncio.run()
正确启动事件循环 - 检查数据库连接是否正确关闭
错误3:OperationalError: Connection refused
原因分析:数据库连接配置错误
解决方法:
- 检查
db_url
格式:dialect://user:password@host:port/database
- 确认数据库服务是否正常运行
- 验证网络防火墙设置
最佳实践建议
- 连接池配置:根据数据库最大连接数设置
maxsize
register_tortoise(
app,
db_url="postgres://user:pass@localhost:5432/mydb",
modules={"models": ["models"]},
generate_schemas=True,
add_exception_handlers=True,
connection_params={
"maxsize": 20 # 控制连接池大小
}
)
- 查询优化:使用
select_related
预加载关联数据
# 获取用户及其所有文章
async def get_user_with_posts(user_id: int):
user = await User.get(id=user_id).prefetch_related('posts')
return user
- 事务管理:确保数据一致性
async def transfer_funds(from_id, to_id, amount):
async with in_transaction() as conn:
from_user = await User.get(id=from_id).for_update()
to_user = await User.get(id=to_id).for_update()
if from_user.balance < amount:
raise ValueError("Insufficient balance")
from_user.balance -= amount
to_user.balance += amount
await from_user.save(using_db=conn)
await to_user.save(using_db=conn)
余下文章内容请点击跳转至 个人博客页面 或者 扫码关注或者微信搜一搜:编程智域 前端至全栈交流与成长
,阅读完整的文章:
往期文章归档:
- FastAPI数据库连接池配置与监控 | cmdragon's Blog
- 分布式事务在点赞功能中的实现 | cmdragon's Blog
- Tortoise-ORM级联查询与预加载性能优化 | cmdragon's Blog
- 使用Tortoise-ORM和FastAPI构建评论系统 | cmdragon's Blog
- 分层架构在博客评论功能中的应用与实现 | cmdragon's Blog
- 深入解析事务基础与原子操作原理 | cmdragon's Blog
- 掌握Tortoise-ORM高级异步查询技巧 | cmdragon's Blog
- FastAPI与Tortoise-ORM实现关系型数据库关联 | cmdragon's Blog
- Tortoise-ORM与FastAPI集成:异步模型定义与实践 | cmdragon's Blog
- 异步编程与Tortoise-ORM框架 | cmdragon's Blog
- FastAPI数据库集成与事务管理 | cmdragon's Blog
- FastAPI与SQLAlchemy数据库集成 | cmdragon's Blog
- FastAPI与SQLAlchemy数据库集成与CRUD操作 | cmdragon's Blog
- FastAPI与SQLAlchemy同步数据库集成 | cmdragon's Blog
- SQLAlchemy 核心概念与同步引擎配置详解 | cmdragon's Blog
- FastAPI依赖注入性能优化策略 | cmdragon's Blog
- FastAPI安全认证中的依赖组合 | cmdragon's Blog
- FastAPI依赖注入系统及调试技巧 | cmdragon's Blog
- FastAPI依赖覆盖与测试环境模拟 | cmdragon's Blog
- FastAPI中的依赖注入与数据库事务管理 | cmdragon's Blog
- FastAPI依赖注入实践:工厂模式与实例复用的优化策略 | cmdragon's Blog
- FastAPI依赖注入:链式调用与多级参数传递 | cmdragon's Blog
- FastAPI依赖注入:从基础概念到应用 | cmdragon's Blog
- FastAPI中实现动态条件必填字段的实践 | cmdragon's Blog
- FastAPI中Pydantic异步分布式唯一性校验 | cmdragon's Blog
- 掌握FastAPI与Pydantic的跨字段验证技巧 | cmdragon's Blog
- FastAPI中的Pydantic密码验证机制与实现 | cmdragon's Blog
- 深入掌握FastAPI与OpenAPI规范的高级适配技巧 | cmdragon's Blog
- Pydantic字段元数据指南:从基础到企业级文档增强 | cmdragon's Blog
- Pydantic Schema生成指南:自定义JSON Schema | cmdragon's Blog
- Pydantic递归模型深度校验36计:从无限嵌套到亿级数据的优化法则 | cmdragon's Blog
- Pydantic异步校验器深:构建高并发验证系统 | cmdragon's Blog
- Pydantic根校验器:构建跨字段验证系统 | cmdragon's Blog
- Pydantic配置继承抽象基类模式 | cmdragon's Blog
异步IO与Tortoise-ORM的数据库的更多相关文章
- SQLite剖析之异步IO模式、共享缓存模式和解锁通知
1.异步I/O模式 通常,当SQLite写一个数据库文件时,会等待,直到写操作完成,然后控制返回到调用程序.相比于CPU操作,写文件系统是非常耗时的,这是一个性能瓶颈.异步I/O后端是SQLit ...
- Oracle 之 AIO (异步io)
Linux 异步 I/O (AIO)是 Linux 内核中提供的一个增强的功能.它是Linux 2.6 版本内核的一个标准特性,AIO 背后的基本思想是允许进程发起很多 I/O 操作,而不用阻塞或等 ...
- Python之路,Day10 - 异步IO\数据库\队列\缓存
Python之路,Day9 - 异步IO\数据库\队列\缓存 本节内容 Gevent协程 Select\Poll\Epoll异步IO与事件驱动 Python连接Mysql数据库操作 RabbitM ...
- 异步IO/协程/数据库/队列/缓存(转)
原文:Python之路,Day9 - 异步IO\数据库\队列\缓存 作者:金角大王Alex add by zhj: 文章很长 引子 到目前为止,我们已经学了网络并发编程的2个套路, 多进程,多线程,这 ...
- Day9 - 异步IO\数据库\队列\缓存
本节内容 Gevent协程 Select\Poll\Epoll异步IO与事件驱动 Python连接Mysql数据库操作 RabbitMQ队列 Redis\Memcached缓存 Paramiko SS ...
- Python之路第一课Day10--随堂笔记(异步IO\数据库\队列\缓存)
本节内容 Gevent协程 Select\Poll\Epoll异步IO与事件驱动 Python连接Mysql数据库操作 RabbitMQ队列 Redis\Memcached缓存 Paramiko SS ...
- ORACLE数据库异步IO介绍
异步IO概念 Linux 异步 I/O (AIO)是 Linux 内核中提供的一个增强的功能.它是Linux 2.6 版本内核的一个标准特性,当然我们在2.4 版本内核的补丁中也可以找到它.AIO 背 ...
- Python 第七篇:异步IO\数据库\队列\缓存
Gevent协程 Select\Poll\Epoll异步IO与事件驱动 Python连接Mysql数据库操作 RabbitMQ队列 Redis\Memcached缓存 Paramiko SSH Tws ...
- 意外断电数据库无法启动牵扯到异步IO的参数设置
一客户机房新装的UPS不太稳定,好几次意外断电,第3次意外断电之后问题终于来了, 数据库起不来了-- 数据库的硬件环境是一台IBM DS5020存储,2台IBM X3850 X5 软件环境是Linux ...
- day5 liaoxuefeng---访问数据库、web开发、异步IO
一.访问数据库 二.web开发 三.异步IO
随机推荐
- jconsole配置
使用jconsole远程监控可执行jar(非Tomcat)运行状况的配置 程序启动参数配置: nohup /data/soft/jdk1.8.0_251/bin/java -Dcom.sun.mana ...
- mybatis之生命周期及作用域
SqlSessionFactoryBuilder 一旦创建了SqlSessionFactory之后就没有作用了 局部变量 SqlSessionFactory 可以理解为数据库的连接池 SqlSessi ...
- LeetCode 题解大全
项目说明 LeetCode 系列题解致力于帮助程序员更好地理解和掌握算法思维,内容包含详细的解题思路分析.图文并茂的示例讲解和完整的代码实现. LeetCode 最全题解:持续更新中,欢迎 Star ...
- 【COM3D2Mod 制作教程(3)】Mod 制作概要
[COM3D2Mod 制作教程(3)]Mod 制作概要 制作工具整合包:https://mod.3dmgame.com/mod/205516 该工具包简单整合了些本章需要的小型工具.插件.以及其他一些 ...
- 用 Dockerfile 创建镜像的基本步骤有哪些?
使用 Dockerfile 创建镜像的基本步骤如下: 定义基础镜像 在 Dockerfile 的开头,使用 FROM 指令指定一个基础镜像.例如: FROM ubuntu:latest 这表示基于最新 ...
- Linux - centos6.6升级openssh9.7p1
一.注意事项 1.任何会被修改的配置文件都要提前备份 2.每一步操作都要记录 3.提前预演,知道可能遇到的问题,以及对应的解决方法,能够在生产环境上升级时,更快完成操作. 4.一开始用来操作的ssh会 ...
- sql 周岁计算
select FLOOR(DATEDIFF(DY, substring(身份证字段,7,4), GETDATE()) / 365.25) age from [表名]
- 浅谈processing-java.exe应用程序的使用(与PowerShell的联合)
简单总结一下processing-java.exe的使用,以及和PowerShell结合,如何互相调用和传参. Processing-java 这是 processing-java.exe 的官方说明 ...
- 【代码设计】C# 实现 AOP 面向切面编程
简单记录一下对AOP的认识,正文为3个部分 一.AOP由来 二.用DispatchProxy动态代理实现AOP 三.通过特性标记,处理多种不同执行前.执行后的逻辑编排 一.AOP 由来 IUserHe ...
- 为什么AI教师难以实现
提供AI应用咨询+陪跑服务,有需要回复1 本周为一家教育公司提供了全天的AI的培训,后续涉及AI+教育领域的项目开发,而我去年就做过AI教师项目,所以对AI+教育有一定熟悉度. 下来后又拜访了一家互联 ...