DeepSeek本地部署

一.ollama

ollama是一个管理和运行所有大模型、开源大模型的平台。在官网的Models中可以看到deepseek-r1的AI模型

1.在官网中下载对应系统的ollama，下载时需要开墙，或者可以在github中找到对应的安装包进行下载安装

安装成功后，cmd命令行输入ollama，若出现相关提示说明安装成功



如果没有出现上述，提示找不到该命令，可以在电脑的环境变量手动添加ollama的安装路径

2.进入ollama官网，点击deepseek-r1进入该模型的下载主页，目前deepseek有不同参数量，模型的参数量越大，说明模型的质量越好，但是参数量越高，对电脑里的GPU质量要求也更高，如果电脑没有独立显卡，选择1.5b的也完全够用

在确定好模型版本后，就可以直接将该版本的命令直接在cmd运行（我用的是8b），命令ollama run deepseek-r1:8b



部署成功后，只能通过命令行的方式进行访问

二.cherry studio

cherry studio是一个支持多家AI大模型平台的客户端，可以直接对接ollama api,实现官网所示窗口效果的对话

在cherry studio中，设置选择ollama大模型，打开左上角的开关，右下角管理

在打开的弹窗中选择已经下载好的deepseek模型



下载好后使用回到对话框即可开始对话

注：因为cherry studio可以添加多个模型，所以在使用时，如果遇到报没有token 401的错误，可以在上方切换已经成功添加的模型