前言

自从 DeepSeek 大模型火了以来,网络上出现了许多关于本地部署的教程和方法。然而,要真正深入了解其功能和应用,还是需要自己动手进行一次本地部署。

DeepSeek 作为一个高效的自然语言处理模型,其本地部署能力为大家提供了灵活的应用场景。不管是开发私有化的 AI 应用,还是集成到现有的系统中,DeepSeek 都能提供强大的支持。

本文将详细介绍如何快速部署 DeepSeek 模型,并通过 C# 调用其 API 接口,从而搭建高效的私有 AI 服务。我们将从环境准备、本地部署、API 客户端配置到实际调用接口,完成整个过程。

搭建基础环境

Ollama 是一个轻量级AI模型运行框架,支持 macOS、Linux 和 Windows 跨平台运行,并兼容包括 Llama 3.3、DeepSeek-R1、Phi-4 和 Gemma 2 在内的 54 种主流开源模型。

它简化了模型的下载、安装和使用过程,提供了统一的操作界面,能够方便地在本地环境中运行和测试不同的语言模型,简单的说就是相当于一个容器。

1、安装 Ollama

首先先下载 Ollama,进入官网,根据大家当前的操作系统选择安装包(Windows/Linux/macOS)。

官网下载地址:https://ollama.com/download

如上图所示点击 Download 下载安装包,然后直接安装就可以。

注意:Ollama默认安装是在C盘的以及下载的大模型数据包也是默认在C盘,所以一定要注意自己C盘的存储空间够用,

当然我们也有方式改变他的安装路径的。如果不想折腾的可以直接点击安装就可以了。

本文示例是修改了安装路径,具体步骤如下:

首先在目标路径(如 D:\Ollaman)创建一个新文件夹并放置 Ollama 安装包

然后在该路径下打开命令窗口并输入 OllamaSetup.exe /DIR=D:\Ollama,接着在安装界面点击 "Install",即可将 Ollama 安装到指定目录,大模型数据包也会默认下载到该目录中。

Ollama 安装好了就会自动启动。

查看是否安装成功 Windows+R,输入CMD进入命令窗口,输入:ollama -v有版本号就说明安装好了,在任务栏右下角有个羊驼的图标。

2、下载 DeepSeek R1 模型

在 Ollama 官网点击 Models,选择deepseek-r1

选择对应的模型,可以看到模型的相信介绍、各种参数的模型。

普通用户:选择 8B 版本,适合日常对话、写作等

高性能显卡用户(显存 16GB 以上):可选 16B 版本,体验更强大性能

各个版本模型对硬件要求,官方没有明确的说明,根据网友分享的大概整理如下,大家可以根据自己的电脑配置选择模型。

选择要下载的模型,复制指令。

打开命令窗口,粘贴运行指令。等待下载完成。下载过程中,会显示下载进度和速度等信息。由于模型文件较大,下载时间可能会较长,需要耐心等待。

至此,已经可以与DeepSeek进行会话。

同时在浏览器访问:http://127.0.0.1:11434,有如下提示也代表启动成功了。

客户端 ChatBox AI接入 DeepSeek

Chatbox AI 是一款 AI 客户端应用和智能助手,支持众多先进的 AI 模型和 API,可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。

1、下载 ChatBox AI

浏览器中访问 Chatbox AI的官方网站(https://chatboxai.app/zh),下载安装。

2、配置环境变量

添加两个环境变量,允许外部访问,填写:0.0.0.0,代表允许任何电脑访问。

OLLAMA_HOST:0.0.0.0
OLLAMA_ORIGING:*

点击我的电脑,右键属性->高级系统设置->环境变量。

注意:设置完环境变量后退出一下 Ollama,然后重新启动下Ollama。

3、Chatbox AI 连接本地模型

启动 Chatbox AI 软件,选择 Ollama API后,然后选择下载的 DeepSeek模型,如果大家还有其他模型也可以选择对应的模型。

模型设置

选择API类型:Ollama API

模型名称:deepseek-r1:8b

点击检查连接,如果状态正常,可以开始使用了。

以上设置完成。我们就可以在客户端使用AI聊天了,

C# 调用 DeepSeek API

Ollama 还提供了 API 接口功能,使得自定义客户端开发或集成到应用系统变得非常方便。

其相关生态系统也非常完善,使用 C# 版本的 Ollama SDK(如 OllamaSharp)可以快速进行开发。

下面通过一个简单的例子来演示如何使用 Ollama:

1、安装依赖包

首先,安装 OllamaSharp 依赖包:

2、示例代码

新建一个 OllamaApiExampleController控制器,添加如下代码:

using Microsoft.AspNetCore.Mvc;
using Microsoft.Extensions.AI;
using OllamaSharp;

namespace DotNetCore.DeepSeekApi.Controllers
{
/// <summary>
/// OllamaApi示例控制器
/// </summary>
[ApiController]
[Route("api/[controller]")]
public class OllamaApiExampleController : ControllerBase
{
private readonly Uri _modelEndpoint = new Uri("http://localhost:11434");
private readonly string _modelName = "deepseek-r1:1.5b";

/// <summary>
/// 初始化
/// </summary>
/// <param name="httpClient"></param>
/// <param name="configuration"></param>
public OllamaApiExampleController(){}

/// <summary>
/// 提问接口
/// </summary>
/// <param name="request"></param>
/// <returns></returns>
[HttpPost("ask")]
public async Task<IActionResult> AskQuestion([FromBody] AskRequest request)
{
var chatClient = new OllamaApiClient(_modelEndpoint, _modelName);
var question = request.Question;

if (string.IsNullOrEmpty(question))
{
return BadRequest("请输入您的问题?");
}
// 使用 await foreach 遍历每个 ChatResponseUpdate
var responseBuilder = new List<string>();
await foreach (var update in chatClient.GetStreamingResponseAsync(question))
{
responseBuilder.Add(update.ToString());
}
var response = string.Join("", responseBuilder);
return Ok(new { Response = response });
}
}

/// <summary>
/// 实体类
/// </summary>
public class AskRequest
{
/// <summary>
/// 问题
/// </summary>
public string Question { get; set; }
}
}

3、运行结果

Ollama 相关的API接口,可以查看官方文档。

https://github.com/ollama/ollama/blob/main/docs/api.md

总结

通过本文简单的学习实现了DeepSeek 的本地部署和本地调用API接口。

能够掌握 DeepSeek 的本地部署方法,还能学会如何在 C# 项目中集成并调用 DeepSeek 提供的强大功能。

希望这些内容能够帮助大家在实际项目中顺利应用 DeepSeek,提升开发效率和项目质量。

最后

如果你觉得这篇文章对你有帮助,不妨点个赞支持一下!你的支持是我继续分享知识的动力。如果有任何疑问或需要进一步的帮助,欢迎随时留言。

也可以加入微信公众号[DotNet技术匠] 社区,与其他热爱技术的同行一起交流心得,共同成长!优秀是一种习惯,欢迎大家留言学习!

C# 集成 DeepSeek 模型实现 AI 私有化(本地部署与 API 调用教程)的更多相关文章

  1. 在IIS服务器上本地部署 ArcGIS API for js 4.15

    作为一名刚入门的小白,还没开始一个helloworld就在软件安装,环境部署时遇到了一大堆问题,简直太让人头秃了,脑壳疼.话不多说,这篇主要想分享一下自己部署ArcGIS API for js 4.1 ...

  2. 本地部署arcgis by eclipse

    首次来博客园发帖,从本地部署arcgis api开始吧: 首先还是下载arcgis的api包开始,在中国区官网下载arcgis包: 1.http://support.esrichina.com.cn/ ...

  3. openpose模型在AI challenge人体骨骼关键点检测的表现

    因为之前正好看了CMU在CVPR2017上的论文<Realtime Multi-Person 2D Pose Estimation using Part Affinity Fields>, ...

  4. 机器学习之路:python 集成回归模型 随机森林回归RandomForestRegressor 极端随机森林回归ExtraTreesRegressor GradientBoostingRegressor回归 预测波士顿房价

    python3 学习机器学习api 使用了三种集成回归模型 git: https://github.com/linyi0604/MachineLearning 代码: from sklearn.dat ...

  5. 【重磅】iNeuOS工业互联平台,系统集成业务模型和WEB组态视图建模集成3D模型

    目       录 1.      概述... 1 2.      平台演示... 2 3.      系统集成业务模型... 2 4.      WEB组态视图建模集成3D模型... 3 5.    ...

  6. 最新版本 Stable Diffusion 开源AI绘画工具之部署篇

    目录 AI绘画 本地环境要求 下载 Stable Diffusion 运行启动 AI绘画 关于 AI 绘画最近有多火,既然你有缘能看到这篇文章,那么相信也不需要我过多赘述了吧? 随着 AI 绘画技术的 ...

  7. Gradio入门到进阶全网最详细教程[一]:快速搭建AI算法可视化部署演示(侧重项目搭建和案例分享)

    Gradio入门到进阶全网最详细教程[一]:快速搭建AI算法可视化部署演示(侧重项目搭建和案例分享) 常用的两款AI可视化交互应用比较: Gradio Gradio的优势在于易用性,代码结构相比Str ...

  8. Gradio入门到进阶全网最详细教程[二]:快速搭建AI算法可视化部署演示(侧重参数详解和案例实践)

    Gradio入门到进阶全网最详细教程[二]:快速搭建AI算法可视化部署演示(侧重参数详解和案例实践) 相关文章:Gradio入门到进阶全网最详细教程[一]:快速搭建AI算法可视化部署演示(侧重项目搭建 ...

  9. Exceptionless 本地部署

    免费开源分布式系统日志收集框架 Exceptionless 前两天看到了这篇文章,亲身体会了下,确实不错,按照官方的文档试了试本地部署,折腾一番后终于成功,记下心得在此,不敢独享. 本地部署官方wik ...

  10. 通过 Azure Pipelines 实现持续集成之docker容器化及自动化部署

    通过 Azure Pipelines 实现持续集成之docker容器化及自动化部署 Intro Azure DevOps Pipeline 现在对于公开的项目完全免费,这对于开源项目来讲无疑是个巨大的 ...

随机推荐

  1. IO介绍-上

    IO IO系统管理的主要对象是IO设备和相应的设备控制器.其主要任务是,完成用户提出的IO请求,提高IO效率,以及提高设备的利用率.并能为更高层的进程方比那使用这些设备提供手段. IO系统的基本功能 ...

  2. 【读书笔记】 深入理解JVM第三版 JVM 运行时数据区

    JVM 内存管理 堆 (Heap)线程共享 方法区 (Method Area)线程共享 虚拟机栈(VM Stack) 线程私有 本地方法栈 (Native Method Stack)线程私有 程序计数 ...

  3. arbitrum 资产桥合约

    资产桥的作用 Rollup 的主要流程中,实际上不包含资产桥,也就是说即使没有资产桥,L2依然能正常运行但是此时L1与L2在数据上是完全独立的两条链,L1不理解L2上的数据(L1只保存L2压缩后的数据 ...

  4. Ubuntu中文件夹建立软链接方法

    1:预备知识 -s 是代号(symbolic)的意思. 这里有两点要注意:第一,ln命令会保持每一处链接文件的同步性,也就是说,不论你改动了哪一处,其它的文件都会发生相同的变化:第二,ln的链接又软链 ...

  5. Qt编写地图综合应用33-雨量分布

    一.前言 雨量分布图是在区域地图基础上,针对区域中的每个最小单位区域比如县城点位不同颜色显示,最开始做这个封装的时候,并没有提供单独设置每个点颜色的接口,后面经过几个客户的强烈建议,咬咬牙把每个点都可 ...

  6. error LNK2038: 检测到“_MSC_VER”的不匹配项问题

    _MSC_VER这个相当于做了宏的检测 _MSC_VER 定义编译器的版本. 一些编译器版本的_MSC_VER值:MS VC++ 14.0 _MSC_VER = 1900 vs2015MS VC++ ...

  7. 总是被低估,从未被超越,揭秘QQ极致丝滑背后的硬核IM技术优化

    本文由腾讯云开发者张曌.毕磊分享,原题"QQ 9"傻快傻快"的?!带你看看背后的技术秘密",本文进行了排版和内容优化等. 1.引言 最新发布的 QQ 9 自上线 ...

  8. dotnet最小webApi开发实践

    dotnet最小webApi开发实践 软件开发过程中,经常需要写一些功能验证代码.通常是创建一个console程序来验证测试,但黑呼呼的方脑袋界面,实在是不讨人喜欢. Web开发目前已是网络世界中的主 ...

  9. JVM实战—5.G1垃圾回收器的原理和调优

    大纲 1.G1垃圾回收器的工作原理 2.G1分代回收原理-性能为何比传统GC好 3.使用G1垃圾回收器时应如何设置参数 4.如何基于G1垃圾回收器优化性能 5.问题汇总 1.G1垃圾回收器的工作原理 ...

  10. [LC623]在二叉树中增加一行

    题目描述 给定一个二叉树的根 root 和两个整数 val 和 depth ,在给定的深度 depth 处添加一个值为 val 的节点行. 注意,根节点 root 位于深度 1 . 加法规则如下: 给 ...