Dify快速搭建问答系统

简单记录下Dify系统的部署，以及可能遇到的各种问题，然后演示一下如何快速的搭建一个问答系统。

为什么用Dify

首先回答为什么用大模型的方案。在没有大模型之前，我们只能把问题和答案存储在数据库中，然后通过模糊检索的方式去检索问题。由于是模糊检索，所以检索的准确度可能不高，但是运用大模型的语义理解，就可以进一步的去理解问题，从而匹配到知识库里的内容。

然后为什么Dify，首先，这个是国产的，其次，这个可以私有化部署，而且是Apache2.0的协议，可以商用。这样做公司内部的应用就变得可行。

这个月Coze也开源了，但尚无稳定版本，而且刚开始的版本Bug还会有一些，所以也建议看一下Coze，对比下两个环境的差异。

Dify最近更新的也很频繁，到目前为止已经更新到了1.7这个版本，这个随笔也是围绕这个版本。

为了演示效果，我这里用的还是吃鸡游戏的场景，具体业务中可以替换成自己的实际场景。

此篇我用的是Macos系统，在Windows下部署也不会有太大的差异，主要是把WSL部署好，其它步骤不会差太多。

安装Docker

在MacOS下安装Docker Desktop相对简单些，直接官网下载安装包就可以。

需要注意的是Docker Desktop安装不会有任何问题，但后续的拉取可能会出现各种阻碍。

解决的方法是在docker desktop的Docker Engine的配置里，加入镜像配置。

以下是我自己用的配置。

{
  "builder": {
    "gc": {
      "defaultKeepStorage": "20GB",
      "enabled": true
    }
  },
  "experimental": false,
  "registry-mirrors": [
    "https://registry.docker-cn.com",
    "https://hub-mirror.c.163.com",
    "https://docker.m.daocloud.io",
    "https://docker.1panel.live",
    "https://docker.mirrors.tuna.tsinghua.edu.cn"
  ]
}

GIT拉取Dify仓库

在本地找到一个目录，用Terminal定位到这个目录，然后拉取仓库文件。

比如在我本地，我会先创建如下目录。

/User/Yourname/APP/Dify

然后在Terminal里cd到这个目录，运行以下脚本拉取仓库。

git clone https://github.com/langgenius/dify.git

通常来说到这里你会遭遇障碍，针对Github的访问，推荐用Steam++或者网易UU加速器。我自己用的是Steam++，这个是给Steam加速用的，也附带Github的加速。

启动服务

Git拉取完成后，先定位到仓库目录。

cd dify

然后运行以下命令复制配置文件。

cp .env.example .env

最后运行以下命令启动Dify服务。

docker-compose up -d

第一次运行这个命令，本地缺失的镜像会自动从github去拉取，所以这个时间可能会比较长。

在后续如果再运行这个命令的话，如果上一次的镜像没有拉取成功会继续拉取，如果都拉取成功了就直接启动各个镜像。

直到看到以下输出说明拉取和服务都启动成功了。

服务启动成功后，打开浏览器，直接输入localhost或者127.0.0.1就可以打开系统。系统默认用的是80端口。

首次打开系统需要注册一个账号，这个账号需要记住，后续登录可能需要提供。

配置大模型

在主页右上角点击头像，然后点击设置。

在配置大模型之前，你可以可以点击语言选项，把语言切换成中文。

然后在模型供应商里，首先安装模型供应商。

这里可以选择常用的Ollama，这样就可以访问部署在本地的大模型，这里我选择的是通义千问的。

安装完模型供应商后，需要提供在通义千问的API KEY，如何去申请这里不做介绍.

配置成功后会看到如下差不多的界面，在通义千问里，如果看到API-KEY上的绿色小点，就说明配置成功了。



通义千问对新用户提供了一些免费的额度，所以对于学习来说是够用的。

创建知识库

首先创建测试的数据，这里我用Excel文件创建了一个问答模式的知识库，数据如下：

如果你查看其它资料，都是直接把一篇文章直接喂给Dify的知识库。但我发现有些资料如果这么喂的话，系统的识别会有问题，所以改成了这种问答的形式，并且进行了测试，这样看上去识别的准确度高了很多。

接下来创建知识库，点击系统顶部的知识库，然后点击创建知识库。

选择数据源，导入已有文本，在下面的上传里直接上传刚才创建的Excel文件。

点击下一步。

这里先不做其它设置，直接点击完成。

创建聊天助手

点击顶部的工作室，点击创建空白应用。

选择应用类型，点击聊天助手（在新手应用下面），给应用取一个名字，点击创建。

在接下来的界面中，知识库里选择刚才创建的知识库。

在提示词里参考如下提示词：

只使用知识库的内容回答问题，不要检索知识库以外的信息。
回答尽量简短。
如果在知识库里找不到答案，则回答我不知道。

在右上角的位置选择大模型，这里我选择的是qwq-plus。

然后在右侧调试与预览测试下问答。

可以看到回答还是很准确的。

当然你也可以换些其它问题，比如：

老六如何选枪

跳伞直接跳城区的是哪个角色

打一枪换一个地方是哪个角色的打法

以及：

今天星期几

因为有提示词的限定，所以系统会直接回答不知道。

当然对于有些问题，比如：知识库里有多少个角色，回答的就不准确。

至此一个问答模块创建成功。

其它

你可能会问为什么不直接抛只是文件给系统，而是转换成了这种问答对的方式，有点类似模型微调。

我测试的时候，刚开始确实是这么准备的。

也就是一个角色一个文件的这种方式。

但测试的结果实在是乱七八糟，可能是吃鸡的这个场景实在是太特殊，一个简单的问题比如老六如何跳伞，好家伙直接让我跳城区去了。

但是如文中测试，有些问题回答的也不是很准确，但大多数比较浅的问题都能回答对。

这里我觉得可能是配置知识库的时候有些参数不对，我也在不断的摸索当中，如果有懂的兄弟还请给指点一下。