驾驭FastAPI多数据库:从读写分离到跨库事务的艺术
title: 驾驭FastAPI多数据库:从读写分离到跨库事务的艺术
date: 2025/05/16 00:58:24
updated: 2025/05/16 00:58:24
author: cmdragon
excerpt:
在微服务架构中,FastAPI 多数据库配置管理通过独立数据存储实现隔离性、扩展性和性能优化。配置主从数据库时,使用 SQLAlchemy 创建异步引擎和会话工厂,并通过中间件实现动态数据库路由,实现读写分离。跨库事务处理采用 Saga 事务模式,确保分布式事务的一致性。以电商订单系统为例,展示了如何在 PostgreSQL、MongoDB 和 MySQL 之间进行跨库操作,并通过补偿机制处理事务失败。常见报错解决方案包括精确查询条件、正确管理会话和处理事务回滚。
categories:
- 后端开发
- FastAPI
tags:
- FastAPI
- 多数据库配置
- 微服务架构
- 分布式事务
- Saga模式
- 数据库连接池
- 电商系统


扫描二维码
关注或者微信搜一搜:编程智域 前端至全栈交流与成长
探索数千个预构建的 AI 应用,开启你的下一个伟大创意:https://tools.cmdragon.cn/
1. FastAPI多数据库配置管理实战
1.1 微服务架构下的数据库挑战
在微服务架构中,每个服务通常需要独立的数据存储。就像大型图书馆需要将不同学科的书籍分馆存放一样,电商系统可能将用户数据、订单数据、商品数据分别存储在不同数据库。这种架构带来三个核心需求:
- 隔离性:每个服务的数据库独立运行,避免单点故障
- 扩展性:不同数据库可按需选择存储引擎(如MySQL、MongoDB)
- 性能优化:读写分离配置可提升系统吞吐量
1.2 多数据库配置实现
以下示例展示如何在FastAPI中配置主从数据库:
# database.py
from sqlalchemy.ext.asyncio import create_async_engine, AsyncSession
from sqlalchemy.orm import sessionmaker
# 主数据库配置(写操作)
MASTER_DATABASE_URL = "postgresql+asyncpg://user:password@master-host/dbname"
master_engine = create_async_engine(MASTER_DATABASE_URL, pool_size=10)
# 从数据库配置(读操作)
REPLICA_DATABASE_URL = "postgresql+asyncpg://user:password@replica-host/dbname"
replica_engine = create_async_engine(REPLICA_DATABASE_URL, pool_size=20)
# 创建会话工厂
MasterSession = sessionmaker(master_engine, class_=AsyncSession, expire_on_commit=False)
ReplicaSession = sessionmaker(replica_engine, class_=AsyncSession, expire_on_commit=False)
关键配置参数说明:
pool_size
:连接池大小,根据服务负载调整max_overflow
:允许超出连接池数量的临时连接pool_timeout
:获取连接的超时时间(秒)
1.3 动态数据库路由
通过中间件实现读写分离:
# dependencies.py
from fastapi import Request, Depends
from database import MasterSession, ReplicaSession
async def get_db(request: Request):
"""智能路由数据库连接"""
# 写操作路由到主库
if request.method in ['POST', 'PUT', 'DELETE']:
db = MasterSession()
else: # 读操作使用从库
db = ReplicaSession()
try:
yield db
finally:
await db.close()
# 在路由中使用
@app.post("/orders")
async def create_order(
order: OrderSchema,
db: AsyncSession = Depends(get_db)
):
# 业务逻辑
2. 跨库事务处理方案
2.1 分布式事务的挑战
当订单服务需要同时更新订单库和扣减库存库时,传统ACID事务不再适用。这就像需要同时在两个不同银行账户之间转账,必须保证要么全部成功,要么全部失败。
2.2 Saga事务模式实现
# services/transaction_coordinator.py
from typing import List
from fastapi import HTTPException
class SagaCoordinator:
def __init__(self):
self.compensation_actions = []
async def execute_transaction(self, steps: List[callable]):
"""执行Saga事务"""
try:
for step in steps:
await step()
except Exception as e:
await self.compensate()
raise HTTPException(500, "Transaction failed")
async def compensate(self):
"""补偿操作执行"""
for action in reversed(self.compensation_actions):
try:
await action()
except Exception as compen_e:
# 记录补偿失败日志
logger.error(f"Compensation failed: {compen_e}")
# 使用示例
async def create_order_transaction():
coordinator = SagaCoordinator()
async def deduct_inventory():
# 预留库存
coordinator.compensation_actions.append(restore_inventory)
async def create_order_record():
# 创建订单记录
coordinator.compensation_actions.append(delete_order_record)
await coordinator.execute_transaction([
deduct_inventory,
create_order_record
])
3. 企业级案例:电商订单系统
3.1 场景描述
用户下单时需要同时操作:
- 订单数据库(PostgreSQL)
- 库存数据库(MongoDB)
- 用户积分数据库(MySQL)
3.2 完整实现代码
# models.py
from pydantic import BaseModel
class OrderCreate(BaseModel):
user_id: int
product_id: str
quantity: int
# services/order_service.py
from sqlalchemy import text
from motor.motor_asyncio import AsyncIOMotorClient
class OrderService:
def __init__(self):
# 初始化各数据库连接
self.pg_pool = MasterSession
self.mongo_client = AsyncIOMotorClient(MONGO_URI)
self.mysql_pool = create_async_engine(MYSQL_URI)
async def create_order(self, order_data: OrderCreate):
"""创建订单事务"""
async with self.pg_pool() as pg_session,
self.mysql_pool.begin() as mysql_conn:
# 步骤1:扣减MySQL库存
mysql_update = text("""
UPDATE inventory
SET stock = stock - :quantity
WHERE product_id = :product_id
AND stock >= :quantity
""")
await mysql_conn.execute(
mysql_update,
product_id=order_data.product_id,
quantity=order_data.quantity
)
# 步骤2:创建PostgreSQL订单
pg_insert = text("""
INSERT INTO orders (user_id, product_id, quantity)
VALUES (:user_id, :product_id, :quantity)
""")
await pg_session.execute(pg_insert, order_data.dict())
# 步骤3:更新MongoDB用户行为
mongo_db = self.mongo_client.user_behavior
await mongo_db.events.insert_one({
"user_id": order_data.user_id,
"event_type": "order_created",
"timestamp": datetime.now()
})
# 提交PostgreSQL事务
await pg_session.commit()
课后Quiz
问题1: 当使用多个数据库时,如何保证跨库查询的事务一致性?
A. 使用数据库自带的分布式事务功能
B. 采用最终一致性模式配合补偿机制
C. 强制所有操作使用同个数据库
D. 增加重试机制自动处理失败
答案: B
解析: 在微服务架构中,不同服务通常使用不同数据库实例,传统ACID事务难以实施。采用Saga模式等最终一致性方案,配合补偿事务(如订单取消时的库存回补),是更可行的解决方案。
常见报错解决方案
错误1: MultipleResultsFound: Multiple rows were found when one was required
原因: 查询语句返回了多个结果,但期望单个结果
解决:
- 检查查询条件是否足够精确
- 使用
.first()
代替.one()
- 添加LIMIT 1子句
错误2: InterfaceError: Connection already closed
原因: 数据库连接过早关闭
预防:
- 使用上下文管理器管理会话
- 检查连接池配置
- 增加连接存活检测
# 正确使用方式
async def get_db():
async with Session() as session:
yield session
错误3: DBAPIError: Can't reconnect until invalid transaction is rolled back
原因: 未正确处理事务回滚
解决:
- 在异常处理中添加显式回滚
- 设置事务自动回滚
async def safe_transaction():
async with session.begin():
try:
# 业务操作
await session.commit()
except:
await session.rollback()
raise
余下文章内容请点击跳转至 个人博客页面 或者 扫码关注或者微信搜一搜:编程智域 前端至全栈交流与成长
,阅读完整的文章:驾驭FastAPI多数据库:从读写分离到跨库事务的艺术 | cmdragon's Blog
往期文章归档:
- 数据库事务隔离与Alembic数据恢复的实战艺术 | cmdragon's Blog
- FastAPI与Alembic:数据库迁移的隐秘艺术 | cmdragon's Blog
- 飞行中的引擎更换:生产环境数据库迁移的艺术与科学 | cmdragon's Blog
- Alembic迁移脚本冲突的智能检测与优雅合并之道 | cmdragon's Blog
- 多数据库迁移的艺术:Alembic在复杂环境中的精妙应用 | cmdragon's Blog
- 数据库事务回滚:FastAPI中的存档与读档大法 | cmdragon's Blog
- Alembic迁移脚本:让数据库变身时间旅行者 | cmdragon's Blog
- 数据库连接池:从银行柜台到代码世界的奇妙旅程 | cmdragon's Blog
- 点赞背后的技术大冒险:分布式事务与SAGA模式 | cmdragon's Blog
- N+1查询:数据库性能的隐形杀手与终极拯救指南 | cmdragon's Blog
- FastAPI与Tortoise-ORM开发的神奇之旅 | cmdragon's Blog
- DDD分层设计与异步职责划分:让你的代码不再“异步”混乱 | cmdragon's Blog
- 异步数据库事务锁:电商库存扣减的防超卖秘籍 | cmdragon's Blog
- FastAPI中的复杂查询与原子更新指南 | cmdragon's Blog
- 深入解析Tortoise-ORM关系型字段与异步查询 | cmdragon's Blog
- FastAPI与Tortoise-ORM模型配置及aerich迁移工具 | cmdragon's Blog
- 异步IO与Tortoise-ORM的数据库 | cmdragon's Blog
- FastAPI数据库连接池配置与监控 | cmdragon's Blog
- 分布式事务在点赞功能中的实现 | cmdragon's Blog
- Tortoise-ORM级联查询与预加载性能优化 | cmdragon's Blog
- 使用Tortoise-ORM和FastAPI构建评论系统 | cmdragon's Blog
- 分层架构在博客评论功能中的应用与实现 | cmdragon's Blog
- 深入解析事务基础与原子操作原理 | cmdragon's Blog
- 掌握Tortoise-ORM高级异步查询技巧 | cmdragon's Blog
- FastAPI与Tortoise-ORM实现关系型数据库关联 | cmdragon's Blog
- Tortoise-ORM与FastAPI集成:异步模型定义与实践 | cmdragon's Blog
- 异步编程与Tortoise-ORM框架 | cmdragon's Blog
- FastAPI数据库集成与事务管理 | cmdragon's Blog
- FastAPI与SQLAlchemy数据库集成 | cmdragon's Blog
- FastAPI与SQLAlchemy数据库集成与CRUD操作 | cmdragon's Blog
- FastAPI与SQLAlchemy同步数据库集成 | cmdragon's Blog
- SQLAlchemy 核心概念与同步引擎配置详解 | cmdragon's Blog
- FastAPI依赖注入性能优化策略 | cmdragon's Blog
- FastAPI安全认证中的依赖组合 | cmdragon's Blog
- XML Sitemap
驾驭FastAPI多数据库:从读写分离到跨库事务的艺术的更多相关文章
- 利用oneproxy部署mysql数据库的读写分离
实验系统:CentOS 6.6_x86_64 实验前提:防火墙和selinux都关闭 实验说明:本实验共有4台主机,IP分配如拓扑 实验软件:mariadb-10.0.20 oneproxy-rhel ...
- MySQL搭建主从数据库 实现读写分离
首先声明,实际生产中,网站为了提高用户体验,性能等,将数据库实现读写分离是有必要的,我们让主数据库去写入数据,然后当用户查询的时候,然后在从数据库读取数据,故能减轻数据库的压力,实现良好的用户体验! ...
- Mycat - 实现数据库的读写分离与高可用
前言 开心一刻 上语文课,不小心睡着了,坐在边上的同桌突然叫醒了我,并小声说道:“读课文第三段”.我立马起身大声读了起来.正在黑板写字的老师吓了一跳,老师郁闷的看着我,问道:“同学有什么问题吗?”,我 ...
- 基于 EntityFramework 的数据库主从读写分离服务插件
基于 EntityFramework 的数据库主从读写分离服务插件 1. 版本信息和源码 1.1 版本信息 v1.01 beta(2015-04-07),基于 EF 6.1 开发,支持 EF 6.1 ...
- 基于 EntityFramework 的数据库主从读写分离架构 - 目录
基于 EntityFramework 的数据库主从读写分离架构 回到目录,完整代码请查看(https://github.com/cjw0511/NDF.Infrastructure)中的目 ...
- 基于 EntityFramework 的数据库主从读写分离架构(1) - 原理概述和基本功能实现
回到目录,完整代码请查看(https://github.com/cjw0511/NDF.Infrastructure)中的目录: src\ NDF.Data.EntityFramew ...
- 如何轻松实现MySQL数据库的读写分离和负载均衡?
配置好了 Mysql 的主从复制结构后,我们希望实现读写分离,把读操作分散到从服务器中,并且对多个从服务器能实现负载均衡.读写分离和负载均衡是 Mysql 集群的基础需求,MaxScale 就可以帮着 ...
- springboot+mybatis实现数据库的读写分离
介绍 随着业务的发展,除了拆分业务模块外,数据库的读写分离也是常见的优化手段.方案使用了AbstractRoutingDataSource和mybatis plugin来动态的选择数据源选择这个方案的 ...
- 利用mysql-proxy进行mysql数据库的读写分离
实验系统:CentOS 6.6_x86_64 实验前提:防火墙和selinux都关闭 实验说明:本实验共有4台主机,IP分配如拓扑 实验软件:mariadb-10.0.20 mysql-proxy-0 ...
- sql server 本地复制订阅 实现数据库服务器 读写分离(转载)
转载地址:http://www.cnblogs.com/echosong/p/3603270.html 再前段echosong 写了一遍关于mysql 数据同步实现业务读写分离的文章,今天咱们来看下S ...
随机推荐
- SignalR 外部调用自定义Hub类的方法,Clients为null
这是因为外部调用的类的对象和你连接的Hub类的对象,这两个对象 不!一!样! 解决方法 在自定义的Hub类中,注入IHubContext对象,然后在方法中调用IHubContext对象来向前端推送数据 ...
- WPF到Web的无缝过渡:英雄联盟客户端的OpenSilver迁移实战
开源项目名称:leagueoflegends-OpenSilver 作者:Vicky&James leagueoflegends-opensilver:https://github.com/j ...
- 【Azure Storage Account】利用App Service作为反向代理, 并使用.NET Storage Account SDK实现上传/下载操作
问题描述 在使用Azure上的存储服务 Storage Account 的时候,有时需要代替 它原本提供的域名进行访问,比如默认的域名为:mystorageaccount.blob.core.chin ...
- 分布式锁—2.Redisson的可重入锁
大纲 1.Redisson可重入锁RedissonLock概述 2.可重入锁源码之创建RedissonClient实例 3.可重入锁源码之lua脚本加锁逻辑 4.可重入锁源码之WatchDog维持加锁 ...
- burpsuite激活
激活burpsuite--教程 点击Start 文件,把三个框都选上 点击RUN,会自动启动,复制一下那个证书 粘贴刚刚复制的密钥,点击下一个即可 这里点击手动激活,复制请求,粘贴到刚刚那个激活程序的 ...
- 阿里最新开源QwQ-32B,效果媲美deepseek-r1满血版,部署成本又又又降低了!
3月6日最新消息,阿里云通义千问官方宣布推出最新推理模型 QwQ-32B,这一模型仅有 32B 参数,但在效果上与拥有 671B 参数的 DeepSeek-R1 相媲美.如果你自己部署 DeepSee ...
- mac 源码编译安装php8.3.9
前提条件 确保你已经安装了 Homebrew 和 Xcode Command Line Tools.你可以通过以下命令安装它们: /bin/zsh -c "$(curl -fsSL http ...
- mac、windows 配置python国内镜像源
前言 我们在使用python pip安装第三方库时,经常会发生超时报错,这是可以指定临近的镜像源快速更新. mac中 在用户目录下建立一个".pip"目录,到目录里新建一个文件&q ...
- 【Linux】2.3 Linux目录结构
基本介绍 linux 的文件系统是采用级层式的树状目录结构,在此结构中的最上层是根目录"/",然后在此目录下再创建其他的目录. 深刻理解 linux 树状文件目录是非常重要的,这里 ...
- AspNetCore MVC 跨域
通过XMLHttpRequest或者ajax去请求一个AspNetCore API接口服务时,Firefox提示我 已拦截跨源请求:同源策略禁止读取位于 http://localhost:33694/ ...