Windows上，10分钟构建一个本地知识库

这篇文章是我约新书《RAG应用实战》的一个样章，基于阿里云代码构建的一个本地RAG服务。

本地模型看代码注释，需要替换几行代码。

阅读本章时，已默认安装你的个人电脑上安装了Python 3.6-3.12中的一个版本、以及PyCharm和conda。以及按照第三章示例，已经在阿里云创建了大模型的API-key。

（1）现在让我们下载阿里云百炼平台提供的一个RAG运行包。地址如下：

https://help-static-aliyun-doc.aliyuncs.com/file-manage-files/zh-CN/20250414/odwvrb/local_rag.zip

下载之后解压，使用Pycharm打开此文件夹，如图4-1所示。



图4-1 创建local_rag项目

（2）然后选择“File>>Settings”，打开Interpreter选项，创建一个基于conda的虚拟空间local_rag，如图4-2所示。



图4-2 设置local_rag虚拟空间

（3）打开conda的promot（如图4-3所示），切换Python的当前环境为local_rag。



图4-3 打开conda的promot

（4）打开conda的promot后，输入命令conda env list，遍历当前的虚拟空间（如图4-4所示），*号表示当前使用的虚拟空间，输入命令conda activate local_rag，切换Python的当前环境为local_rag。



图4-4 遍历

（5）安装依赖包，执行命令，如图4-5所示。命令如下：

C:\Users\Administrator>pip install -r C:\PycharmProjects\local_rag\requirements.txt

路径 C:\PycharmProjects\local_rag\ 需要换成自己的代码目录。requirements.txt文件中存放了运行local_rag项目所使用的依赖包，内容如下：

  gradio==4.32.0
  faiss-cpu==1.8.0.post1
  dashscope==1.20.4
  openai==1.55.3
  httpx==0.27.0
  llama-index-vector-stores-faiss==0.1.2
  llama-index-embeddings-dashscope==0.1.4
  llama-index-readers-file==0.1.33
  matplotlib==3.9.3
  docx2txt==0.8
  openpyxl==3.1.5
  llama-index-core==0.10.67
  uvicorn==0.30.6
  fastapi==0.112.0
  llama-index-postprocessor-dashscope-rerank-custom==0.1.0
  simplejson==3.19.3
  pydantic==2.10.6

安装成功提示如下：

Successful1y insta11ed a1tair-5.5.0 dashscope-1.20.4 docx2txt-0.8 faiss-cpu-1.8.0.post1 fastapi-0.112.0 gradio-4.32.0 ……省略

图4-5 安装依赖

（6）设置阿里云百炼平台的API-KEY，如图4-6所示，命令如下：

setx DASHSCOPE_API_KEY sk-d179938b99184627a9a4e8618fc7224a



图4-6 设置API-KEY

此key在代码文件chat.py中111行，如图4-7所示。



图4-7 使用API-KEY

查看API-KEY设置是否成功，如图4-8所示，命令如下：

echo %DASHSCOPE_API_KEY%



图4-8 查看API-KEY

（7）东风具备，现在让我们运行下main.py，右键点击main.py，选择Run’main’，如图4-9所示。



图4-9 运行主类

（8）查看运行时提示，需要升级gradio ，如图4-10。



图4-10 运行主类

这里IDE终端提示当前使用的 gradio 版本为 4.32.0，而最新版本为 4.44.1，建议升级到最新版本。

虽然提示不是错误，但是不升级没法运行，所以还是升级下。

（9）打开cmd，使用uvicorn运行main.py，先查看uvicorn版本，如图4-11所示，命令如下：

pip show uvicorn



图4-11 运行主类

（10）版本是0.30.6，没啥问题，切换到工程目录，运行打开LOCAL_RAG主页，如图4-12所示，命令如下：

uvicorn main:app --port 7866



图4-12 启动local_rag服务

（11）为了简化每次打开cmd输入命令，我们打开local_rag目录，新建一个run.bat批处理文件，将运行命令保存到bat文件中，如图4-13所示。



图4-13 启动local_rag服务

（12）打开浏览器，推荐edge、chrome浏览器，输入地址http://127.0.0.1:7866/，打开本地RAG主页，如图4-14所示。



图4-14 local_rag主页

注意：我这里用的Python版本是3.12。如果打开页面报错DLL load failed while importing _cext，额外运行命令：pip install msvc-runtime ，之后后再运行应用。