前言

自从 DeepSeek 大模型火了以来,网络上出现了许多关于本地部署的教程和方法。然而,要真正深入了解其功能和应用,还是需要自己动手进行一次本地部署。

DeepSeek 作为一个高效的自然语言处理模型,其本地部署能力为大家提供了灵活的应用场景。不管是开发私有化的 AI 应用,还是集成到现有的系统中,DeepSeek 都能提供强大的支持。

本文将详细介绍如何快速部署 DeepSeek 模型,并通过 C# 调用其 API 接口,从而搭建高效的私有 AI 服务。我们将从环境准备、本地部署、API 客户端配置到实际调用接口,完成整个过程。

搭建基础环境

Ollama 是一个轻量级AI模型运行框架,支持 macOS、Linux 和 Windows 跨平台运行,并兼容包括 Llama 3.3、DeepSeek-R1、Phi-4 和 Gemma 2 在内的 54 种主流开源模型。

它简化了模型的下载、安装和使用过程,提供了统一的操作界面,能够方便地在本地环境中运行和测试不同的语言模型,简单的说就是相当于一个容器。

1、安装 Ollama

首先先下载 Ollama,进入官网,根据大家当前的操作系统选择安装包(Windows/Linux/macOS)。

官网下载地址:https://ollama.com/download

如上图所示点击 Download 下载安装包,然后直接安装就可以。

注意:Ollama默认安装是在C盘的以及下载的大模型数据包也是默认在C盘,所以一定要注意自己C盘的存储空间够用,

当然我们也有方式改变他的安装路径的。如果不想折腾的可以直接点击安装就可以了。

本文示例是修改了安装路径,具体步骤如下:

首先在目标路径(如 D:\Ollaman)创建一个新文件夹并放置 Ollama 安装包

然后在该路径下打开命令窗口并输入 OllamaSetup.exe /DIR=D:\Ollama,接着在安装界面点击 "Install",即可将 Ollama 安装到指定目录,大模型数据包也会默认下载到该目录中。

Ollama 安装好了就会自动启动。

查看是否安装成功 Windows+R,输入CMD进入命令窗口,输入:ollama -v有版本号就说明安装好了,在任务栏右下角有个羊驼的图标。

2、下载 DeepSeek R1 模型

在 Ollama 官网点击 Models,选择deepseek-r1

选择对应的模型,可以看到模型的相信介绍、各种参数的模型。

普通用户:选择 8B 版本,适合日常对话、写作等

高性能显卡用户(显存 16GB 以上):可选 16B 版本,体验更强大性能

各个版本模型对硬件要求,官方没有明确的说明,根据网友分享的大概整理如下,大家可以根据自己的电脑配置选择模型。

选择要下载的模型,复制指令。

打开命令窗口,粘贴运行指令。等待下载完成。下载过程中,会显示下载进度和速度等信息。由于模型文件较大,下载时间可能会较长,需要耐心等待。

至此,已经可以与DeepSeek进行会话。

同时在浏览器访问:http://127.0.0.1:11434,有如下提示也代表启动成功了。

客户端 ChatBox AI接入 DeepSeek

Chatbox AI 是一款 AI 客户端应用和智能助手,支持众多先进的 AI 模型和 API,可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。

1、下载 ChatBox AI

浏览器中访问 Chatbox AI的官方网站(https://chatboxai.app/zh),下载安装。

2、配置环境变量

添加两个环境变量,允许外部访问,填写:0.0.0.0,代表允许任何电脑访问。

OLLAMA_HOST:0.0.0.0
OLLAMA_ORIGING:*

点击我的电脑,右键属性->高级系统设置->环境变量。

注意:设置完环境变量后退出一下 Ollama,然后重新启动下Ollama。

3、Chatbox AI 连接本地模型

启动 Chatbox AI 软件,选择 Ollama API后,然后选择下载的 DeepSeek模型,如果大家还有其他模型也可以选择对应的模型。

模型设置

选择API类型:Ollama API

模型名称:deepseek-r1:8b

点击检查连接,如果状态正常,可以开始使用了。

以上设置完成。我们就可以在客户端使用AI聊天了,

C# 调用 DeepSeek API

Ollama 还提供了 API 接口功能,使得自定义客户端开发或集成到应用系统变得非常方便。

其相关生态系统也非常完善,使用 C# 版本的 Ollama SDK(如 OllamaSharp)可以快速进行开发。

下面通过一个简单的例子来演示如何使用 Ollama:

1、安装依赖包

首先,安装 OllamaSharp 依赖包:

2、示例代码

新建一个 OllamaApiExampleController控制器,添加如下代码:

using Microsoft.AspNetCore.Mvc;
using Microsoft.Extensions.AI;
using OllamaSharp;

namespace DotNetCore.DeepSeekApi.Controllers
{
/// <summary>
/// OllamaApi示例控制器
/// </summary>
[ApiController]
[Route("api/[controller]")]
public class OllamaApiExampleController : ControllerBase
{
private readonly Uri _modelEndpoint = new Uri("http://localhost:11434");
private readonly string _modelName = "deepseek-r1:1.5b";

/// <summary>
/// 初始化
/// </summary>
/// <param name="httpClient"></param>
/// <param name="configuration"></param>
public OllamaApiExampleController(){}

/// <summary>
/// 提问接口
/// </summary>
/// <param name="request"></param>
/// <returns></returns>
[HttpPost("ask")]
public async Task<IActionResult> AskQuestion([FromBody] AskRequest request)
{
var chatClient = new OllamaApiClient(_modelEndpoint, _modelName);
var question = request.Question;

if (string.IsNullOrEmpty(question))
{
return BadRequest("请输入您的问题?");
}
// 使用 await foreach 遍历每个 ChatResponseUpdate
var responseBuilder = new List<string>();
await foreach (var update in chatClient.GetStreamingResponseAsync(question))
{
responseBuilder.Add(update.ToString());
}
var response = string.Join("", responseBuilder);
return Ok(new { Response = response });
}
}

/// <summary>
/// 实体类
/// </summary>
public class AskRequest
{
/// <summary>
/// 问题
/// </summary>
public string Question { get; set; }
}
}

3、运行结果

Ollama 相关的API接口,可以查看官方文档。

https://github.com/ollama/ollama/blob/main/docs/api.md

总结

通过本文简单的学习实现了DeepSeek 的本地部署和本地调用API接口。

能够掌握 DeepSeek 的本地部署方法,还能学会如何在 C# 项目中集成并调用 DeepSeek 提供的强大功能。

希望这些内容能够帮助大家在实际项目中顺利应用 DeepSeek,提升开发效率和项目质量。

最后

如果你觉得这篇文章对你有帮助,不妨点个赞支持一下!你的支持是我继续分享知识的动力。如果有任何疑问或需要进一步的帮助,欢迎随时留言。

也可以加入微信公众号[DotNet技术匠] 社区,与其他热爱技术的同行一起交流心得,共同成长!优秀是一种习惯,欢迎大家留言学习!

C# 集成 DeepSeek 模型实现 AI 私有化(本地部署与 API 调用教程)的更多相关文章

  1. 在IIS服务器上本地部署 ArcGIS API for js 4.15

    作为一名刚入门的小白,还没开始一个helloworld就在软件安装,环境部署时遇到了一大堆问题,简直太让人头秃了,脑壳疼.话不多说,这篇主要想分享一下自己部署ArcGIS API for js 4.1 ...

  2. 本地部署arcgis by eclipse

    首次来博客园发帖,从本地部署arcgis api开始吧: 首先还是下载arcgis的api包开始,在中国区官网下载arcgis包: 1.http://support.esrichina.com.cn/ ...

  3. openpose模型在AI challenge人体骨骼关键点检测的表现

    因为之前正好看了CMU在CVPR2017上的论文<Realtime Multi-Person 2D Pose Estimation using Part Affinity Fields>, ...

  4. 机器学习之路:python 集成回归模型 随机森林回归RandomForestRegressor 极端随机森林回归ExtraTreesRegressor GradientBoostingRegressor回归 预测波士顿房价

    python3 学习机器学习api 使用了三种集成回归模型 git: https://github.com/linyi0604/MachineLearning 代码: from sklearn.dat ...

  5. 【重磅】iNeuOS工业互联平台,系统集成业务模型和WEB组态视图建模集成3D模型

    目       录 1.      概述... 1 2.      平台演示... 2 3.      系统集成业务模型... 2 4.      WEB组态视图建模集成3D模型... 3 5.    ...

  6. 最新版本 Stable Diffusion 开源AI绘画工具之部署篇

    目录 AI绘画 本地环境要求 下载 Stable Diffusion 运行启动 AI绘画 关于 AI 绘画最近有多火,既然你有缘能看到这篇文章,那么相信也不需要我过多赘述了吧? 随着 AI 绘画技术的 ...

  7. Gradio入门到进阶全网最详细教程[一]:快速搭建AI算法可视化部署演示(侧重项目搭建和案例分享)

    Gradio入门到进阶全网最详细教程[一]:快速搭建AI算法可视化部署演示(侧重项目搭建和案例分享) 常用的两款AI可视化交互应用比较: Gradio Gradio的优势在于易用性,代码结构相比Str ...

  8. Gradio入门到进阶全网最详细教程[二]:快速搭建AI算法可视化部署演示(侧重参数详解和案例实践)

    Gradio入门到进阶全网最详细教程[二]:快速搭建AI算法可视化部署演示(侧重参数详解和案例实践) 相关文章:Gradio入门到进阶全网最详细教程[一]:快速搭建AI算法可视化部署演示(侧重项目搭建 ...

  9. Exceptionless 本地部署

    免费开源分布式系统日志收集框架 Exceptionless 前两天看到了这篇文章,亲身体会了下,确实不错,按照官方的文档试了试本地部署,折腾一番后终于成功,记下心得在此,不敢独享. 本地部署官方wik ...

  10. 通过 Azure Pipelines 实现持续集成之docker容器化及自动化部署

    通过 Azure Pipelines 实现持续集成之docker容器化及自动化部署 Intro Azure DevOps Pipeline 现在对于公开的项目完全免费,这对于开源项目来讲无疑是个巨大的 ...

随机推荐

  1. 揭秘“山姆黄牛”背后的技术逻辑:用Java实现会员管理系统的防黄牛策略

    在浙江绍兴的山姆超市外,"黄牛"现象引发了广泛关注.这些"黄牛"通过提供带入和结账服务,让未办理会员卡的消费者也能进入超市购物.这一行为不仅扰乱了市场秩序,也对 ...

  2. Simple FOC内置通信接口学习(一):实时监控电机状态

    本文参(zhao)考(chao)至官方文档https://docs.simplefoc.com/docs_chinese/monitoring 引言 在使用Simple FOC控制电机的过程中,尤其是 ...

  3. GooseFS透明加速能力,助力加速 CosN 访问 COS 的性能

    01 前言 原生的对象存储接口协议并不兼容HDFS文件语义,因此对象存储COS提供了COSN工具这一的标准的 Hadoop 文件系统实现,可以为 Hadoop.Spark 以及 Tez 等大数据计算框 ...

  4. PDF 的一些资料

    PDF Succinctly https://www.syncfusion.com/ebooks/pdf Create PDFs in ASP.NET - getting started with i ...

  5. GraphQL Part VII: 实现数据变更

    我们已经可以使用各种方式来获取数据了.但是如何修改服务器端的数据呢?包括数据插入,修补,删除或者更新等等.GraphQL 的 mutation 就是负责这部分的. 在我们继续之前,我想对项目做一点调整 ...

  6. Redis应用—8.相关的缓存框架

    大纲 1.Ehcache缓存框架 (1)Ehcache的核心对象 (2)单独使用Ehcache (3)Spring整合Ehcache (4)Spring Boot整合Ehcache (5)实际工作中如 ...

  7. 【自媒体直播】手机摄像电脑控制OBS多平台推流解决方案

    1.准备iriun 官网:Iriun 这个软件是免费的,不过会有水印.你需要在官网下载安装包进行安装,有windows系统版本和MAC系统版本.Ubuntu版本可以选择,根据自己电脑系统版本选择. 这 ...

  8. Qt开发经验小技巧166-170

    有时候需要暂时停止某个控件发射信号(比如下拉框combobox添加数据的时候会触发当前元素改变信号),有多种处理,推荐用 blockSignals 方法. //方法1:先 disconnect 掉信号 ...

  9. UML之模型、包及包的版型(构造型)

    包是UML模型的组织结构,也是UML项目的配置管理结构.包存在多个层级,除了顶层包,所有包隶属于一个且仅隶属于一个上层包.在项目不同阶段实际推进与配置过程中,通常以不同层级的包为单位进行check-i ...

  10. React 应用的 Nginx 缓存控制

    典型 React 应用面临的缓存问题,可通过 Nginx 配置进行解决 通用部署 构建应用后,只需使用 Nginx 指向静态文件即可 server { listen 80; root /PATH/TO ...