一:前言:
那么为什么要本地部署,主要就是企业或者个人为了数据安全和防止受限网络等其
  • 数据安全:数据不用上传到外面,在本地处理,不用担心数据泄露,像金融、医疗这些对数据安全要求高的行业特别需要。
功能方面
  • 定制:可以根据自身业务需求和用户特点对模型进行个性化改造,比如制造业调整生产流程等
使用体验方面
  • 不依赖网络:在网络不好或者没网的地方也能正常使用。
 
windows 本地部署deepseek 通常使用 Lm studio 和 ollama 大模型框架进行部署
今天说一说 ollama 进行本地部署deepseek
环境:我的机器也是一台老笔记本, 12G 内存,4G集显+2G独显(NVIDIA),cpu(Intel(R) Core(TM) i5-7200U CPU @ 2.50GHZ),为了学习研究一下,所以我选择了deepseek 目前最小的 模型 deepseek-r1:1.5b 作为尝试。
 
二:ollama部署
ollama 是一个开源大模型框架 ,我们可以从这个地址进行下载https://ollama.com/
 
这个安装比较简单,下载下来之后,直接按照提示一直下一步,右下角出现
 
表示启动成功了。
注:看到一些博主分享,N卡和A卡可能需要按照不同的情况,下载不同的ollama版本,这个我没有深入研究,我是官网一路下载,安装。有兴趣的同学可以深入了解一下。
 
三:deepseek 大模型拉取
打开cmd窗口,输入复制命令 ollama run deepseek-r1:1.5b
会有下载过程,需要等待一下,下载完成,最后会显示send a message,表示拉取成功,你可以在cmd窗口直接进行对话了
 
 
 
四:大模型UI操作界面集成
我们现在已经有了大模型,但是cmd窗口交互不是很方便,所以我们需要一些交互工具去呈现
Pageassist 、dify 、 RagFlow 等都可以集成ollama 框架,进行深度使用,包括不限于桌面UI、流程、智能体、知识库。
我们先说一个轻量的 Pageassist 的 chome或者firefox 插件。dify 等其他集成文档,可以持续关注后续文章。
效果:
pageassist
 
dify安装好之后
 
 
chrome 由于需要科学地上网,你可以直接从这里下载 下载地址,拖到chrome 的扩展里。
firefox 可以直接在扩展里搜索 pageassist 进行安装。
 
安装好之后,打开浏览器扩展,修改语言
 
搜索用sogou
 
 
ollama设置中设置地址:http://127.0.0.1:11434
 
设置完成之后,就可以正常通过pageassist 使用大模型进行对话了
 

windows 本地部署DeepSeek的更多相关文章

  1. R shiny 小工具Windows本地打包部署

    目录 服务器部署简介 windows打包部署 1. 部署基本框架 2.安装shiny脚本需要的依赖包 3.创建运行shiny的程序 [报错解决]无法定位程序输入点EXTPTE_PTR于动态链接库 将小 ...

  2. Windows 之 手机访问 PC 端本地部署的站点

    测试网页在手机上的显示工具我们可以使用谷歌内核的浏览器,打开开发者工具(F12),在device那里选择设备,然后刷新来查看网页在手机上的显示效果. 但毕竟是模拟的,如果想要在真机上调试该怎么办呢. ...

  3. Yapi接口管理平台 本地部署 windows环境 -

    YApi 是高效.易用.功能强大的 api 管理平台,旨在为开发.产品.测试人员提供更优雅的接口管理服务.可以帮助开发者轻松创建.发布.维护 API,YApi 还为用户提供了优秀的交互体验,开发人员只 ...

  4. windows下百度离线人脸识别本地部署与使用(nodejs做客户端,c++做服务端,socket做通信)

    1.离线人脸识别本地部署 详情请阅读百度人脸识别官网 2.nodejs做socket通信的客户端 为什么不直接通过调用c++编译的exe获得人脸识别结果? 原因:exe运行时会加载很多模型而消耗很多时 ...

  5. Exceptionless 本地部署

    免费开源分布式系统日志收集框架 Exceptionless 前两天看到了这篇文章,亲身体会了下,确实不错,按照官方的文档试了试本地部署,折腾一番后终于成功,记下心得在此,不敢独享. 本地部署官方wik ...

  6. ArcGIS API for JavaScript 4.x 本地部署之Apache(含Apache官方下载方法)

    IIS.Nginx都说了,老牌的Apache和Tomcat也得说一说(如果喜欢用XAMPP另算) 本篇先说Apache. 安装Apache 这个...说实话,比Nginx难找,Apache最近的版本都 ...

  7. ArcGIS API for JavaScript 4.x 本地部署之Nginx法

    上篇ArcGIS API for JavaScript 4.x 离线配置之IIS法提到,如何用IIS配置ArcGIS jsAPI: 本篇则使用http下的Nginx配置,其原理基本一致.https的部 ...

  8. Windows Azure 部署 Windows 8 虚拟机

    基本步骤其实很简单,主要有: 本地部署虚拟机 将虚拟机VHD上传至Azure 在Azure上根据VHD生成映像 利用映像生成虚拟机 下面我们开始: 1,本地部署虚拟机 首先我们需要在本地用 Hyper ...

  9. 异常日志框架Exceptionless结合.NET Core(本地部署)

    一.前言 1.分布式异常日志收集框架Exceptionless是开源的工具,根据官方给出的说明: Exceptionless可以为您的ASP.NET.Web API.WebFrm.WPF.控制台和MV ...

  10. ArcGIS API for JavaScript开发笔记(一)——ArcGIS for Javascript API 3.14本地部署

    堪称史上最详细的< ArcGIS forJavascript API 3.14本地部署>文档,有图有真相~~~ ---------环境:Windows server 2012R2,IIS ...

随机推荐

  1. 开源即时通讯IM框架 MobileIMSDK v6.3 发布

    一.更新内容简介 本次更新为次要版本更新,进行了若干优化(更新历史详见:码云 Release Nodes).可能是市面上唯一同时支持 UDP+TCP+WebSocket 三种协议的同类开源IM框架. ...

  2. CDS标准视图:维护任务清单数据 I_MaintenanceTaskListData

    视图名称:维护任务清单数据 I_MaintenanceTaskListData 视图类型:基础 视图代码: 点击查看代码 @AbapCatalog.sqlViewName: 'IPMTASKLISTD ...

  3. TCP的“三次握手”和“四次挥手”

    转载:链接1 链接2 TCP connection 客户端与服务器之间数据的发送和返回的过程当中需要创建一个叫TCP connection的东西:由于TCP不存在连接的概念,只存在请求和响应,请求和响 ...

  4. Linux下mysql的二进制安装与部分练习

    鲸英训练营 0531作业 一.单选题(每题5分,总分25分) 1. 在MySQL中,一般使用( A )语句来指定一个已有数据库作为当前工作数据库. A.USED B.USE C.BEGIN D.GO ...

  5. VulNyx-Secrets

    扫端口 扫描80端口发现有个secrets目录 还有个注释 继续扫发现http://192.168.200.11/secrets/login_form.php 有这个登录框 估计就是要爆破 usern ...

  6. 【译】我们最喜欢的2024年的 Visual Studio 新功能

    去年,Visual Studio 团队发布了许多新的面向开发人员的改进和 AI 集成,其中许多直接来自您在开发者社区的反馈.在这篇文章中,我们将重点介绍2024年团队最喜欢的功能,这些功能可以提高生产 ...

  7. sqlserver grouping函数和with rollup的使用

    --使用WITH ROLLUP 生成的结果集显示所选列中值的某一层次结构的聚合,GROUPING()函数判断是否根据当前字段进行了求和的行SELECT sjxm, (CASE WHEN GROUPIN ...

  8. stdio.h的缓冲机制解析

    1. 令人迷惑的printf() 在C语言中,由于stdio.h中的缓冲机制,printf的输出通常会受到缓冲区的影响. 这种影响可能非常微妙,并常常令人疑惑,比如我们来看下面这段代码 #includ ...

  9. Python实战:为Prometheus开发自定义Exporter

    Python实战:为Prometheus开发自定义Exporter 在当今的微服务架构和容器化部署环境中,监控系统的重要性不言而喻.Prometheus作为一款开源的系统监控和警报工具,以其强大的功能 ...

  10. C#/.NET/.NET Core技术前沿周刊 | 第 25 期(2025年2.1-2.9)

    前言 C#/.NET/.NET Core技术前沿周刊,你的每周技术指南针!记录.追踪C#/.NET/.NET Core领域.生态的每周最新.最实用.最有价值的技术文章.社区动态.优质项目和学习资源等. ...