2025年春节前夕,中国人工智能企业深度求索(DeepSeek)发布其开源AI模型DeepSeek-R1,性能对标OpenAI开发的GPT-o1正式版,一时之间各类相关的话题引爆国内外。除了可以在手机上安装APP或在其官网线上体验之外,由于其模型开源,近期也有许多家科技巨头陆续宣布接入DeepSeek,多款第三方的应用也如雨后春笋般涌现。

当然,我们也可以在工控机上进行私有化部署,推进边缘运算的AI应用,所有数据都保存在本地,隐私更安全,也可避免由于官网访问量大造成的卡顿及延迟问题,响应速度更快。紧接着让我们来看看如何在本地进行部署吧!

GP-3100私有化部署DeepSeek-R1 AI模型教程

一、硬件配置

德承工控机型号:GP-3100

CPU:Intel Core i7-14700

GPU:NVIDIA GeForce RTX 4090

内存:DDR5 5600 MHz 64GB

存储:SSD 2TB

系统:Windows 10

二、安装Ollama

Ollama是一款可在本地电脑部署大模型(LLM)的开源工具,支持多种LLM,并提供跨平台支持,可通过命令行或API来运行模型,可用于文本生成、问答系统和代码生成等多个应用场景。

  1. 访问Ollama的官网:https://ollama.com/download

    下载适配系统的软件,本篇以Windows 10系统为例,或可直接复制链接下载:https://github.xzc888.top/ollama/ollama/releases/latest/download/OllamaSetup.exe

  2. 运行下载的档案OllamaSetup.exe,点击Install进行安装

  3. 安装好之后,按Win+R键,输入cmd,打开Windows系统的命令提示符

  4. 输入命令可查看是否已安装完成,安装完成会显示版本号

    ollama --version

三、安装DeepSeek-R1

安装好Ollama之后,接着部署AI模型

可参考Ollama 提供的模型下载地址:https://ollama.com/library/deepseek-r1

  1. 版本配置需求:

    我们可以看到DeepSeek-R1提供很多个版本,版本越高配置需求也越高,可依照实际应用的情况来选择对应的版本,整理配置需求如下表供参考

  2. 本篇以安装1.5B版本为例,按Win+R键,输入cmd,打开Windows系统的命令提示符,

    输入命令安装

    ollama run deepseek-r1:1.5b

如要安装7B版本,则命令最后的1.5b改为对应版本7b即可,其他版本以此类推

ollama run deepseek-r1:7b

  1. 接着会自动进行下载,1.5B版本的模型容量1.1GB,下载时间较久需耐心等待

  2. 下载完成后,提示success,此时已经可以在此界面直接进行操作

四、安装UI可视化界面

由于在命令提示符里面使用DeepSeek-R1还是不够直观,我们可以安装UI可视化界面,在此采用的是Chatbox软件

  1. 访问Chatbox的官网:https://chatboxai.app/zh

    下载适配系统的软件

  2. 运行下载的档案Chatbox-1.9.8-Setup.exe,进行安装

  3. 选择安装档案存放位置

  4. 安装完成

  5. 运行Chatbox,选择:使用自己的API Key或本地模型

  6. 选择:Ollama API

  7. 选择模型:deepseek-r1:1.5b,点击保存

  8. 完成部署,现在可以在本地使用可视化的DeepSeek-R1了,问问TA~你是谁

五、结语

通过以上的教程,我们在德承工控机GP-3100上完成了DeepSeek-R1 AI模型的私有化部署,机器搭载的RTX 4090显存24G,可安装到DeepSeek-R1-14B这个版本,如果需要安装更高阶的DeepSeek-R1,则需要更高的显卡配置,GP-3100可搭载2张高性能显卡,充分凸显了GPU运算电脑的优势,为AI应用提供了更多的可能性。

参考网址1:

https://www.cincoze-china.com/goods_info.php?id=536

参考网址2:

https://ollama.com/library/deepseek-r1

参考网址3:

https://api-docs.deepseek.com/zh-cn/news/news250120

德承GP-3100 x DeepSeek:边缘运算工控机在Windows系统下私有化部署DeepSeek-R1 AI模型教程的更多相关文章

  1. HP工控机 G9 安装系统需注意

    HP工控机 G9 装系统需要:简单唠叨几句 1.F10 进配置,选择设置图标-选择存储图标-选择阵列卡图标-根据中间框提示制作riad(必须) 2.加载驱动 驱动直接复制到U盘根目录下,选择F11选择 ...

  2. Xamarin.iOS开发初体验

    aaarticlea/png;base64,iVBORw0KGgoAAAANSUhEUgAAAKwAAAA+CAIAAAA5/WfHAAAJrklEQVR4nO2c/VdTRxrH+wfdU84pW0

  3. 为什么我会认为SAP是世界上最好用最牛逼的ERP系统,没有之一?

    为什么我认为SAP是世界上最好用最牛逼的ERP系统,没有之一?玩过QAD.Tiptop.用友等产品,深深觉得SAP是贵的有道理! 一套好的ERP系统,不仅能够最大程度承接适配企业的管理和业务流程,在技 ...

  4. Pyhton开源框架(加强版)

    info:Djangourl:https://www.oschina.net/p/djangodetail: Django 是 Python 编程语言驱动的一个开源模型-视图-控制器(MVC)风格的 ...

  5. Python开源框架

    info:更多Django信息url:https://www.oschina.net/p/djangodetail: Django 是 Python 编程语言驱动的一个开源模型-视图-控制器(MVC) ...

  6. 《深入理解Spark:核心思想与源码分析》(前言及第1章)

    自己牺牲了7个月的周末和下班空闲时间,通过研究Spark源码和原理,总结整理的<深入理解Spark:核心思想与源码分析>一书现在已经正式出版上市,目前亚马逊.京东.当当.天猫等网站均有销售 ...

  7. PHP文件操作系统----主要的文件操作函数

    一.文件操作系统概述 1.概述: php中的文件操作系统主要是对文件和目录的操作.文件在windows系统下分为3种不同:文件.目录.未知,在linux/unix系统下分为7种不同:block.cha ...

  8. 20145207《Java程序设计》第三周学习总结

    前言 24号回来的,书看的差不多了,博客一直没写,求老师原谅呀!!!!!哈哈哈哈.博客我从今天开始补,对着书,一天最多能弄个两篇毕竟写这个东西挺费心思德,当然我做事慢也有关系.但是我会尽快的.老实讲, ...

  9. JavaWeb学习总结(一)—JavaWeb开发入门及环境搭建

    一.基本概念 1.1.软件体系结构 1.C/S:Client/Servlet,例如QQ就是CS结构需要编写服务器端程序和客户端程序.缺点:更新需要两端,总要求客户下载新的客户端程序优点:安全性比较好2 ...

  10. linux服务之vnc和x2go

    三种方式连接linux桌面 1.传统的vnc linux桌面上安装vncserver windows桌面上安装vncviewer 2.x2go 在linux桌面上安装x2goserver与x2gose ...

随机推荐

  1. vue3 在给路由跳转增加动画之后,跳转时页面会出现上下抖动的问题

    这个问题需要分两个步骤解决: 抖动的页面有多个多根节点 增加离开过渡的css样式 v-leave-to: {display: none} 解决步骤1 (抖动的页面有多个多根节点) 我在为路由跳转增加了 ...

  2. Docker Compose - 向远程主机部署服务

    问题描述 通常,我们本地编写 docker-compose.yml 文件,然后运行测试.但是,我们需要在 arm64 环境中进行测试,无法在本地直接运行测试. 我们希望可以在本地编写,然后本地使用 d ...

  3. 龙哥量化:通达信财富币不够怎么办:K线训练营100%胜率,赚财富币

    通达信app的K线训练营中,[K线训练]和[K线对战]都需要花费[5财富币]进行训练,[K线对战]胜利的话可以获得10财富币.注意:是对战,对战,对战,那怎么才能每场都胜呢,哈哈,我们找到历史K线,对 ...

  4. 硬件开发笔记(三十二):TPS54331电源设计(五):原理图BOM表导出、元器件封装核对

    前言   一个12V转5V.3.3V和4V的电源电路设计好了,下一步导出BOM表,二次核对元器件型号封装,这是可以生产前的最后一步了.   导出BOM表 步骤一:打开原理图   打开项目,双击点开原理 ...

  5. Qt/C++地图高级绘图/指定唯一标识添加删除修改/动态显示和隐藏/支持天地图高德地图百度地图

    一.前言说明 已经有了最基础的接口用来添加覆盖物,而且还有通过进入覆盖物模式动态添加覆盖物的功能,为什么还要来个高级绘图?因为又有新的需求,给钱就搞,一点底线都没有.无论哪个地图厂家,提供的接口都是没 ...

  6. Qt数据库应用5-海量数据多线程导出

    一.前言 做数据导出,少量的数据比如10W级别以下的,基本上直接占用主线程也是很快的就可以处理完,上了百万级别的数据量以后,就会发现性能极速下降,很容易卡主整体界面,于是这部分处理必须要用到线程,本数 ...

  7. [转]CLion 2022.2.4破解教程详细图解mac,windows,linux均适用(2022.11.10亲测有效)

    前言 此教程为CLion 2022.2.4 破解教程,且此教程以及下面提供的破解补丁适用与2022.2以后的新版本.2022年11月10日亲测有效,mac与windows均测试完美破解 CLion   ...

  8. 不为人知的网络编程(十二):彻底搞懂TCP协议层的KeepAlive保活机制

    文中引用了参考资料中的部分内容,本文参考资料详见文末"参考资料"一节,感谢资料分享者. 1.引言 对于IM开发者而言,网络保活这件事再熟悉不过了,比如这是我最近一篇有关网络保活话题 ...

  9. IM跨平台技术学习(二):Electron初体验(快速开始、跨进程通信、打包、踩坑等)

    本文由蘑菇街前端技术团队分享,原题"Electron 从零到一",有修订和改动. 1.引言 在上篇<快速了解新一代跨平台桌面技术--Electron>,我们已经对Ele ...

  10. Diary -「联合省选 2023」鸢尾

    零   她们诞生于那样一段迷茫的时期,她们总是一个唱着虚幻的梦呓,一个哼着现实的词曲.   「平行的世界 / 另一个 / 我是怎样的」?如果那时的,虚幻的歌者没有妥协,现在的她会是怎样的人呢?   我 ...