title: 异步IO与Tortoise-ORM的数据库

date: 2025/04/29 13:21:47

updated: 2025/04/29 13:21:47

author: cmdragon

excerpt:

异步IO与同步IO的核心区别在于阻塞与非阻塞模式。Tortoise-ORM通过协议层、连接池层和ORM层实现异步数据库操作,支持高效的并发处理。用户管理系统搭建中,Tortoise-ORM与FastAPI结合,实现了用户创建和查询功能,并通过Pydantic进行数据校验。异步ORM适用于高并发场景,参数化查询可防止SQL注入。最佳实践包括连接池配置、查询优化和事务管理,确保系统性能和数据一致性。

categories:

  • 后端开发
  • FastAPI

tags:

  • 异步IO
  • Tortoise-ORM
  • 数据库操作
  • FastAPI
  • 异步编程
  • 连接池
  • 事务管理


扫描二维码

关注或者微信搜一搜:编程智域 前端至全栈交流与成长

探索数千个预构建的 AI 应用,开启你的下一个伟大创意https://tools.cmdragon.cn/

第一章:异步IO与Tortoise-ORM原理剖析

1.1 同步与异步的本质区别

想象你在快餐店点餐:

  • 同步模式:收银员接单后站在炸薯条机前等待,直到薯条炸好才接待下一位顾客
  • 异步模式:收银员接单后立即将订单交给后厨,转身接待下一位顾客,后厨准备好餐点会主动通知收银员

计算机领域的异步IO正是采用这种"非阻塞"模式:

# 同步操作(线程阻塞)
def sync_query():
result = db.execute("SELECT * FROM users") # 线程在此等待
process(result) # 异步操作(事件驱动)
async def async_query():
result = await db.execute("SELECT * FROM users") # 释放控制权
process(result)

1.2 Tortoise-ORM的异步实现

Tortoise-ORM通过三层架构实现异步操作:

层级 职责 关键技术
协议层 数据库通信协议解析 asyncpg/aiomysql
连接池层 管理异步数据库连接 asyncio.Queue
ORM层 模型映射与查询构建 Python元类编程

典型查询流程解析:

async def get_users():
# 以下三个步骤交替执行,全程无阻塞
users = await User.filter(age__gt=18) # 1.生成SQL语句
# 2.从连接池获取连接
# 3.等待数据库响应
return users

1.3 实战:用户管理系统搭建

环境准备

pip install fastapi uvicorn tortoise-orm aiosqlite pydantic

项目结构

project/
├── config.py
├── models.py
├── schemas.py
└── main.py

模型定义(models.py)

from tortoise.models import Model
from tortoise import fields class User(Model):
id = fields.IntField(pk=True)
username = fields.CharField(max_length=50, unique=True)
hashed_password = fields.CharField(max_length=128)
email = fields.CharField(max_length=100)
created_at = fields.DatetimeField(auto_now_add=True) class Meta:
table = "users"

数据校验(schemas.py)

from pydantic import BaseModel, EmailStr

class UserCreate(BaseModel):
username: str
password: str
email: EmailStr class Config:
schema_extra = {
"example": {
"username": "fastapi_user",
"password": "strongpassword123",
"email": "user@example.com"
}
}

核心逻辑(main.py)

from fastapi import FastAPI, Depends, HTTPException
from tortoise.contrib.fastapi import register_tortoise
from models import User
from schemas import UserCreate app = FastAPI() # 初始化数据库
register_tortoise(
app,
db_url="sqlite://db.sqlite3",
modules={"models": ["models"]},
generate_schemas=True,
add_exception_handlers=True,
) @app.post("/users/", status_code=201)
async def create_user(user_data: UserCreate):
# 密码哈希处理(实际项目应使用passlib)
hashed_password = f"hashed_{user_data.password}" try:
user = await User.create(
username=user_data.username,
hashed_password=hashed_password,
email=user_data.email
)
except Exception as e:
raise HTTPException(
status_code=400,
detail="Username already exists"
) return {
"id": user.id,
"username": user.username,
"email": user.email
} @app.get("/users/{user_id}")
async def get_user(user_id: int):
user = await User.get_or_none(id=user_id)
if not user:
raise HTTPException(status_code=404, detail="User not found") return {
"id": user.id,
"username": user.username,
"email": user.email,
"created_at": user.created_at.isoformat()
}

课后Quiz

问题1:以下哪种场景最适合使用异步ORM?

A) 单用户的桌面应用程序

B) 需要处理数千并发请求的API服务

C) 执行复杂事务的财务系统

D) 数据仓库的批量数据处理

答案:B

解析:异步ORM在高并发IO密集型场景下能显著提升吞吐量,而ACD场景更多需要的是事务完整性或计算能力。

问题2:如何避免在ORM查询时发生SQL注入?

A) 直接拼接字符串

B) 使用ORM的参数化查询

C) 手动过滤特殊字符

D) 限制查询字段长度

答案:B

解析:Tortoise-ORM的查询方法会自动进行参数化处理,有效防止SQL注入,这是最安全的做法。

常见报错解决方案

错误1422 Validation Error

原因分析:请求体不符合Pydantic模型要求

解决方法:

  1. 检查请求头Content-Type是否为application/json
  2. 使用Swagger文档测试接口
  3. 查看返回信息中的错误字段提示

错误2RuntimeError: Event loop is closed

原因分析:异步代码在错误的位置执行

解决方法:

  1. 确保所有异步操作都在async函数内
  2. 使用asyncio.run()正确启动事件循环
  3. 检查数据库连接是否正确关闭

错误3OperationalError: Connection refused

原因分析:数据库连接配置错误

解决方法:

  1. 检查db_url格式:dialect://user:password@host:port/database
  2. 确认数据库服务是否正常运行
  3. 验证网络防火墙设置

最佳实践建议

  1. 连接池配置:根据数据库最大连接数设置maxsize
register_tortoise(
app,
db_url="postgres://user:pass@localhost:5432/mydb",
modules={"models": ["models"]},
generate_schemas=True,
add_exception_handlers=True,
connection_params={
"maxsize": 20 # 控制连接池大小
}
)
  1. 查询优化:使用select_related预加载关联数据
# 获取用户及其所有文章
async def get_user_with_posts(user_id: int):
user = await User.get(id=user_id).prefetch_related('posts')
return user
  1. 事务管理:确保数据一致性
async def transfer_funds(from_id, to_id, amount):
async with in_transaction() as conn:
from_user = await User.get(id=from_id).for_update()
to_user = await User.get(id=to_id).for_update() if from_user.balance < amount:
raise ValueError("Insufficient balance") from_user.balance -= amount
to_user.balance += amount await from_user.save(using_db=conn)
await to_user.save(using_db=conn)

余下文章内容请点击跳转至 个人博客页面 或者 扫码关注或者微信搜一搜:编程智域 前端至全栈交流与成长,阅读完整的文章:

往期文章归档:

异步IO与Tortoise-ORM的数据库的更多相关文章

  1. SQLite剖析之异步IO模式、共享缓存模式和解锁通知

    1.异步I/O模式    通常,当SQLite写一个数据库文件时,会等待,直到写操作完成,然后控制返回到调用程序.相比于CPU操作,写文件系统是非常耗时的,这是一个性能瓶颈.异步I/O后端是SQLit ...

  2. Oracle 之 AIO (异步io)

    Linux 异步 I/O (AIO)是 Linux 内核中提供的一个增强的功能.它是Linux 2.6 版本内核的一个标准特性,AIO 背后的基本思想是允许进程发起很多 I/O 操作,而不用阻塞或等 ...

  3. Python之路,Day10 - 异步IO\数据库\队列\缓存

    Python之路,Day9 - 异步IO\数据库\队列\缓存   本节内容 Gevent协程 Select\Poll\Epoll异步IO与事件驱动 Python连接Mysql数据库操作 RabbitM ...

  4. 异步IO/协程/数据库/队列/缓存(转)

    原文:Python之路,Day9 - 异步IO\数据库\队列\缓存 作者:金角大王Alex add by zhj: 文章很长 引子 到目前为止,我们已经学了网络并发编程的2个套路, 多进程,多线程,这 ...

  5. Day9 - 异步IO\数据库\队列\缓存

    本节内容 Gevent协程 Select\Poll\Epoll异步IO与事件驱动 Python连接Mysql数据库操作 RabbitMQ队列 Redis\Memcached缓存 Paramiko SS ...

  6. Python之路第一课Day10--随堂笔记(异步IO\数据库\队列\缓存)

    本节内容 Gevent协程 Select\Poll\Epoll异步IO与事件驱动 Python连接Mysql数据库操作 RabbitMQ队列 Redis\Memcached缓存 Paramiko SS ...

  7. ORACLE数据库异步IO介绍

    异步IO概念 Linux 异步 I/O (AIO)是 Linux 内核中提供的一个增强的功能.它是Linux 2.6 版本内核的一个标准特性,当然我们在2.4 版本内核的补丁中也可以找到它.AIO 背 ...

  8. Python 第七篇:异步IO\数据库\队列\缓存

    Gevent协程 Select\Poll\Epoll异步IO与事件驱动 Python连接Mysql数据库操作 RabbitMQ队列 Redis\Memcached缓存 Paramiko SSH Tws ...

  9. 意外断电数据库无法启动牵扯到异步IO的参数设置

    一客户机房新装的UPS不太稳定,好几次意外断电,第3次意外断电之后问题终于来了, 数据库起不来了-- 数据库的硬件环境是一台IBM DS5020存储,2台IBM X3850 X5 软件环境是Linux ...

  10. day5 liaoxuefeng---访问数据库、web开发、异步IO

    一.访问数据库 二.web开发 三.异步IO

随机推荐

  1. 解决Git报“OpenSSL SSL_read: Connection was reset, errno 10054”错的问题

    1.问题描述 有时候当我们使用Git获取资源,会报"OpenSSL SSL_read: Connection was reset, errno 10054"的错误,出现该错误是因为 ...

  2. jar脚本练习

    javaServer.sh #!/bin/bash export JAVA_HOME=/u01/java_home/jdk1.8.0_131 export APP_HOME=/u01/app expo ...

  3. 拒绝繁忙!免费使用 deepseek-r1:671B 参数满血模型

    相信大家都已经有体验过deepseek-r1的强大推理能力,由于其网页版本免费使用的原因,用户量激增.同时据传还遭受了大量的网络攻击,这使得过程不是很流程,经常收到类似下图的问题: 同时,API服务也 ...

  4. 关于企业微信扫码登陆vue

        关于企业微信扫码登陆vue   企业微信扫码登陆官方文档 采用的是第一种(构造独立窗口登录二维码) 对于前端来说就步骤就是 页面展示二维码 => 用户扫码登陆点击确定 => 确定之 ...

  5. Vue3 性能优化十大技巧:打造高性能应用的终极指南

    在现代前端开发中,性能优化是提升用户体验和系统效率的关键.Vue3 作为目前最流行的前端框架之一,提供了许多内置的性能优化工具和方法.本文将深入探讨 Vue3 中的十大性能优化技巧,帮助你从零开始构建 ...

  6. C#语法糖foreach语句和using语句联合使用

    foreach语句可以和using语句联合使用,比如你需要对多个相机设备进行一些设置,设置完就调用 Dispose() 释放相机资源, 这时可以这样写: 模拟的设备类: class Device : ...

  7. 自己修改的一款Typora学术主题Academic-zh-vq

    这款typora主题是在Academic-Zh主题的基础上修改而来的. 主题衍生路径: 官方Academic主题-->zh-academic主题-->Academic-Zh主题--> ...

  8. Vim编辑windows格式文件出现的[noeol][dos]的含义、解决方法及方法解释

    文章目录 前言 [dos] [noeol] 前言 最近想要将保存再windows的文件传到linux上,传进去保存文件之后,用vim打开发现在文件的底下出现了[dos] [noeol]这两个标志.然后 ...

  9. Linux指令详解之:ctl相关命令大礼包

    目录 6.4 服务管理命令(ctl大礼包) 6.4.1 systemctl 6.5.2 systemctl小结 6.5.3 timedatectl 6.5.4 localectl 6.5.5 netw ...

  10. 网站支持https之一:https原理和SSL证书类型

    1 https原理 https加密请求过程 Client和Server之间会进行一下几个步骤的交互: ① Client发送https请求: ② Client和Server通过tcp的三次握手建立连接, ...