德承GP-3100 x DeepSeek:边缘运算工控机在Windows系统下私有化部署DeepSeek-R1 AI模型教程
2025年春节前夕,中国人工智能企业深度求索(DeepSeek)发布其开源AI模型DeepSeek-R1,性能对标OpenAI开发的GPT-o1正式版,一时之间各类相关的话题引爆国内外。除了可以在手机上安装APP或在其官网线上体验之外,由于其模型开源,近期也有许多家科技巨头陆续宣布接入DeepSeek,多款第三方的应用也如雨后春笋般涌现。

当然,我们也可以在工控机上进行私有化部署,推进边缘运算的AI应用,所有数据都保存在本地,隐私更安全,也可避免由于官网访问量大造成的卡顿及延迟问题,响应速度更快。紧接着让我们来看看如何在本地进行部署吧!
GP-3100私有化部署DeepSeek-R1 AI模型教程
一、硬件配置
德承工控机型号:GP-3100
CPU:Intel Core i7-14700
GPU:NVIDIA GeForce RTX 4090
内存:DDR5 5600 MHz 64GB
存储:SSD 2TB
系统:Windows 10

二、安装Ollama
Ollama是一款可在本地电脑部署大模型(LLM)的开源工具,支持多种LLM,并提供跨平台支持,可通过命令行或API来运行模型,可用于文本生成、问答系统和代码生成等多个应用场景。
访问Ollama的官网:https://ollama.com/download
下载适配系统的软件,本篇以Windows 10系统为例,或可直接复制链接下载:https://github.xzc888.top/ollama/ollama/releases/latest/download/OllamaSetup.exe

运行下载的档案OllamaSetup.exe,点击Install进行安装

安装好之后,按Win+R键,输入cmd,打开Windows系统的命令提示符

输入命令可查看是否已安装完成,安装完成会显示版本号
ollama --version

三、安装DeepSeek-R1
安装好Ollama之后,接着部署AI模型
可参考Ollama 提供的模型下载地址:https://ollama.com/library/deepseek-r1

版本配置需求:
我们可以看到DeepSeek-R1提供很多个版本,版本越高配置需求也越高,可依照实际应用的情况来选择对应的版本,整理配置需求如下表供参考

本篇以安装1.5B版本为例,按Win+R键,输入cmd,打开Windows系统的命令提示符,
输入命令安装
ollama run deepseek-r1:1.5b
如要安装7B版本,则命令最后的1.5b改为对应版本7b即可,其他版本以此类推
ollama run deepseek-r1:7b
接着会自动进行下载,1.5B版本的模型容量1.1GB,下载时间较久需耐心等待

下载完成后,提示success,此时已经可以在此界面直接进行操作

四、安装UI可视化界面
由于在命令提示符里面使用DeepSeek-R1还是不够直观,我们可以安装UI可视化界面,在此采用的是Chatbox软件
访问Chatbox的官网:https://chatboxai.app/zh
下载适配系统的软件

运行下载的档案Chatbox-1.9.8-Setup.exe,进行安装

选择安装档案存放位置

安装完成

运行Chatbox,选择:使用自己的API Key或本地模型

选择:Ollama API

选择模型:deepseek-r1:1.5b,点击保存

完成部署,现在可以在本地使用可视化的DeepSeek-R1了,问问TA~你是谁

五、结语
通过以上的教程,我们在德承工控机GP-3100上完成了DeepSeek-R1 AI模型的私有化部署,机器搭载的RTX 4090显存24G,可安装到DeepSeek-R1-14B这个版本,如果需要安装更高阶的DeepSeek-R1,则需要更高的显卡配置,GP-3100可搭载2张高性能显卡,充分凸显了GPU运算电脑的优势,为AI应用提供了更多的可能性。

参考网址1:
https://www.cincoze-china.com/goods_info.php?id=536
参考网址2:
https://ollama.com/library/deepseek-r1
参考网址3:
https://api-docs.deepseek.com/zh-cn/news/news250120
德承GP-3100 x DeepSeek:边缘运算工控机在Windows系统下私有化部署DeepSeek-R1 AI模型教程的更多相关文章
- HP工控机 G9 安装系统需注意
HP工控机 G9 装系统需要:简单唠叨几句 1.F10 进配置,选择设置图标-选择存储图标-选择阵列卡图标-根据中间框提示制作riad(必须) 2.加载驱动 驱动直接复制到U盘根目录下,选择F11选择 ...
- Xamarin.iOS开发初体验
aaarticlea/png;base64,iVBORw0KGgoAAAANSUhEUgAAAKwAAAA+CAIAAAA5/WfHAAAJrklEQVR4nO2c/VdTRxrH+wfdU84pW0
- 为什么我会认为SAP是世界上最好用最牛逼的ERP系统,没有之一?
为什么我认为SAP是世界上最好用最牛逼的ERP系统,没有之一?玩过QAD.Tiptop.用友等产品,深深觉得SAP是贵的有道理! 一套好的ERP系统,不仅能够最大程度承接适配企业的管理和业务流程,在技 ...
- Pyhton开源框架(加强版)
info:Djangourl:https://www.oschina.net/p/djangodetail: Django 是 Python 编程语言驱动的一个开源模型-视图-控制器(MVC)风格的 ...
- Python开源框架
info:更多Django信息url:https://www.oschina.net/p/djangodetail: Django 是 Python 编程语言驱动的一个开源模型-视图-控制器(MVC) ...
- 《深入理解Spark:核心思想与源码分析》(前言及第1章)
自己牺牲了7个月的周末和下班空闲时间,通过研究Spark源码和原理,总结整理的<深入理解Spark:核心思想与源码分析>一书现在已经正式出版上市,目前亚马逊.京东.当当.天猫等网站均有销售 ...
- PHP文件操作系统----主要的文件操作函数
一.文件操作系统概述 1.概述: php中的文件操作系统主要是对文件和目录的操作.文件在windows系统下分为3种不同:文件.目录.未知,在linux/unix系统下分为7种不同:block.cha ...
- 20145207《Java程序设计》第三周学习总结
前言 24号回来的,书看的差不多了,博客一直没写,求老师原谅呀!!!!!哈哈哈哈.博客我从今天开始补,对着书,一天最多能弄个两篇毕竟写这个东西挺费心思德,当然我做事慢也有关系.但是我会尽快的.老实讲, ...
- JavaWeb学习总结(一)—JavaWeb开发入门及环境搭建
一.基本概念 1.1.软件体系结构 1.C/S:Client/Servlet,例如QQ就是CS结构需要编写服务器端程序和客户端程序.缺点:更新需要两端,总要求客户下载新的客户端程序优点:安全性比较好2 ...
- linux服务之vnc和x2go
三种方式连接linux桌面 1.传统的vnc linux桌面上安装vncserver windows桌面上安装vncviewer 2.x2go 在linux桌面上安装x2goserver与x2gose ...
随机推荐
- 负载测试工具之Fortio
github: github.com/fortio/fortio 日常开发中通常需要知道系统能承受的最大负载,不满足当前需求时对系统软硬件进行相应的优化或升级.今天推荐的工具 Fortio 就是用来测 ...
- word 文档签章控件生成的签章批量删除
某个签章工具的word插件缺少批量插入签章的功能.同时,发现在投标工具中可以使用导出生成pdf时批量签章的功能.现在需要移除先前手动操作生成的多个签章,有如下发现-- 1.对少量签章,可以先选中签章右 ...
- Educational Codeforces Round 132 (Rated for Div
Educational Codeforces Round 132 (Rated for Div. 2) Recover an RBS 给你一个括号序列,里面存在?号,题目保证至少有一种方案使得该括号序 ...
- JAVA WEB和Tomcat各组件概念
概述 本篇文章是https://juejin.cn/post/7055306172265414663,这篇文章的再总结,剔除了与Java安全研究没太大关系的内容,对JAVAWEB中的Servlet.F ...
- 使用nginx 解决开发过程中的跨域问题
遇到的问题 在开发vue 前端程序时,我们会创建多个项目,比如用户管理为一个应用,系统管理为一个应用,这样多个应用势必需要开多个端口,这样问题就来了,我们在登录后会生成一个token,这个token我 ...
- 使用Flex布局的几个小技巧
前情 Flex 是 Flexible Box 的缩写,意为"弹性布局",用来为盒状模型提供最大的灵活性,任何一个容器都可以指定为 Flex 布局,如果说目前我开发中离不开的布局方式 ...
- 对象存储COS成本优化方案
随着上云企业越来越多,企业对用云成本问题也越发重视.业务的发展会产生海量存储需求,在云端存储数据时,如何进行成本优化,减轻业务负担呢? 在进行成本优化之前,首先需要了解腾讯云对象存储COS的成本构成. ...
- NATS: 请求-响应消息
请求-回复消息 https://docs.nats.io/nats-concepts/core-nats/reqreply 请求-回复 在分布式系统中,请求-回复是一种常见的模式.发送请求之后,应用程 ...
- 技术实践|Hive数据迁移干货分享
导语 Hive是基于Hadoop构建的一套数据仓库分析系统,可以将结构化的数据文件映射为一张数据库表,并提供完整的SQL查询功能.它的优点是可以通过类SQL语句快速实现简单的MapReduce统计,不 ...
- 【MySQL】MySQL命令总结 | 数据库与数据表的创建删除与查询
@ 目录 数据库 创建数据库 使用数据库 删除数据库 查看所有数据库 数据表 查看数据库中所有数据表 在数据库中创建数据表 删除数据表 修改表名 查询表列(字段)信息 表-删除某一字段 表-增加某一字 ...