一:前言:
那么为什么要本地部署,主要就是企业或者个人为了数据安全和防止受限网络等其
  • 数据安全:数据不用上传到外面,在本地处理,不用担心数据泄露,像金融、医疗这些对数据安全要求高的行业特别需要。
功能方面
  • 定制:可以根据自身业务需求和用户特点对模型进行个性化改造,比如制造业调整生产流程等
使用体验方面
  • 不依赖网络:在网络不好或者没网的地方也能正常使用。
 
windows 本地部署deepseek 通常使用 Lm studio 和 ollama 大模型框架进行部署
今天说一说 ollama 进行本地部署deepseek
环境:我的机器也是一台老笔记本, 12G 内存,4G集显+2G独显(NVIDIA),cpu(Intel(R) Core(TM) i5-7200U CPU @ 2.50GHZ),为了学习研究一下,所以我选择了deepseek 目前最小的 模型 deepseek-r1:1.5b 作为尝试。
 
二:ollama部署
ollama 是一个开源大模型框架 ,我们可以从这个地址进行下载https://ollama.com/
 
这个安装比较简单,下载下来之后,直接按照提示一直下一步,右下角出现
 
表示启动成功了。
注:看到一些博主分享,N卡和A卡可能需要按照不同的情况,下载不同的ollama版本,这个我没有深入研究,我是官网一路下载,安装。有兴趣的同学可以深入了解一下。
 
三:deepseek 大模型拉取
打开cmd窗口,输入复制命令 ollama run deepseek-r1:1.5b
会有下载过程,需要等待一下,下载完成,最后会显示send a message,表示拉取成功,你可以在cmd窗口直接进行对话了
 
 
 
四:大模型UI操作界面集成
我们现在已经有了大模型,但是cmd窗口交互不是很方便,所以我们需要一些交互工具去呈现
Pageassist 、dify 、 RagFlow 等都可以集成ollama 框架,进行深度使用,包括不限于桌面UI、流程、智能体、知识库。
我们先说一个轻量的 Pageassist 的 chome或者firefox 插件。dify 等其他集成文档,可以持续关注后续文章。
效果:
pageassist
 
dify安装好之后
 
 
chrome 由于需要科学地上网,你可以直接从这里下载 下载地址,拖到chrome 的扩展里。
firefox 可以直接在扩展里搜索 pageassist 进行安装。
 
安装好之后,打开浏览器扩展,修改语言
 
搜索用sogou
 
 
ollama设置中设置地址:http://127.0.0.1:11434
 
设置完成之后,就可以正常通过pageassist 使用大模型进行对话了
 

windows 本地部署DeepSeek的更多相关文章

  1. R shiny 小工具Windows本地打包部署

    目录 服务器部署简介 windows打包部署 1. 部署基本框架 2.安装shiny脚本需要的依赖包 3.创建运行shiny的程序 [报错解决]无法定位程序输入点EXTPTE_PTR于动态链接库 将小 ...

  2. Windows 之 手机访问 PC 端本地部署的站点

    测试网页在手机上的显示工具我们可以使用谷歌内核的浏览器,打开开发者工具(F12),在device那里选择设备,然后刷新来查看网页在手机上的显示效果. 但毕竟是模拟的,如果想要在真机上调试该怎么办呢. ...

  3. Yapi接口管理平台 本地部署 windows环境 -

    YApi 是高效.易用.功能强大的 api 管理平台,旨在为开发.产品.测试人员提供更优雅的接口管理服务.可以帮助开发者轻松创建.发布.维护 API,YApi 还为用户提供了优秀的交互体验,开发人员只 ...

  4. windows下百度离线人脸识别本地部署与使用(nodejs做客户端,c++做服务端,socket做通信)

    1.离线人脸识别本地部署 详情请阅读百度人脸识别官网 2.nodejs做socket通信的客户端 为什么不直接通过调用c++编译的exe获得人脸识别结果? 原因:exe运行时会加载很多模型而消耗很多时 ...

  5. Exceptionless 本地部署

    免费开源分布式系统日志收集框架 Exceptionless 前两天看到了这篇文章,亲身体会了下,确实不错,按照官方的文档试了试本地部署,折腾一番后终于成功,记下心得在此,不敢独享. 本地部署官方wik ...

  6. ArcGIS API for JavaScript 4.x 本地部署之Apache(含Apache官方下载方法)

    IIS.Nginx都说了,老牌的Apache和Tomcat也得说一说(如果喜欢用XAMPP另算) 本篇先说Apache. 安装Apache 这个...说实话,比Nginx难找,Apache最近的版本都 ...

  7. ArcGIS API for JavaScript 4.x 本地部署之Nginx法

    上篇ArcGIS API for JavaScript 4.x 离线配置之IIS法提到,如何用IIS配置ArcGIS jsAPI: 本篇则使用http下的Nginx配置,其原理基本一致.https的部 ...

  8. Windows Azure 部署 Windows 8 虚拟机

    基本步骤其实很简单,主要有: 本地部署虚拟机 将虚拟机VHD上传至Azure 在Azure上根据VHD生成映像 利用映像生成虚拟机 下面我们开始: 1,本地部署虚拟机 首先我们需要在本地用 Hyper ...

  9. 异常日志框架Exceptionless结合.NET Core(本地部署)

    一.前言 1.分布式异常日志收集框架Exceptionless是开源的工具,根据官方给出的说明: Exceptionless可以为您的ASP.NET.Web API.WebFrm.WPF.控制台和MV ...

  10. ArcGIS API for JavaScript开发笔记(一)——ArcGIS for Javascript API 3.14本地部署

    堪称史上最详细的< ArcGIS forJavascript API 3.14本地部署>文档,有图有真相~~~ ---------环境:Windows server 2012R2,IIS ...

随机推荐

  1. Mina源码-整体解读

    阅读笔记(一)-整体解读 Apache MINA is a network application framework which helps users develop high performan ...

  2. springBoot(1)--初步理解

    在没有用SpringBoot之前,我们用spring和springMVC框架,但是你要做很多比如: (1)配置web.xml,加载spring和spring mvc 2)配置数据库连接.配置sprin ...

  3. C++:typedef 与 #define 的区别

    1.执行上不同 关键字 typedef 在编译阶段有效,由于是在编译阶段,因此 typedef 有类型检查的功能. #define 则是宏定义,发生在预处理阶段,也就是编译之前,它只进行简单而机械的字 ...

  4. 一个 .NET 开源、免费、功能强大的Windows应用卸载神器

    前言 今天大姚给大家分享一个基于 .NET 开源(Apache License).免费.功能强大的Windows应用卸载神器:Bulk Crap Uninstaller. 项目介绍 Bulk Crap ...

  5. [图形绘制/流程图] Mermaid : 开源的低代码图形绘制语言、协议及工具

    概述:Mermaid Mermaid‌是一种基于Javascript的.开源的文本驱动图表生成工具/绘图工具,,使用类似于Markdown的低代码语法,它允许用户使用简单的文本语言来创建各种类型的图表 ...

  6. jenkins+svn+tomcat

    1.安装插件即可在源码管理中看见svn的选项subversion2.源码管理中配置svn的工程地址 3.点击Credentials的[添加]配置svn的用户名密码,完成后选取即可 4.配置构建触发器, ...

  7. DeepSeek-V3 解读:优化效率与规模

    DeepSeek-V3 是大语言模型(LLM)领域的一项变革性进展,为开源人工智能设定了新的标杆.作为一个拥有 6710 亿参数的专家混合(Mixture-of-Experts,MoE)模型,其中每个 ...

  8. VS2019 找不到资产文件 “xxxx\obj\project.assets.json”运行NuGet包还原以生成此文件

    参考地址:https://blog.csdn.net/weixin_42835409/article/details/107033059 下载 log4net 源码打开,编译报错: 严重性 代码 说明 ...

  9. Qt项目下pro文件设置库路径

    问题 正常情况下我们会将工程的路径用一个变量来储存 例如: PROJECT_DIR=/home/$$(USER)/svn/embd_linux/app 然后后面的变量引用这个变量,例如: INCLUD ...

  10. acwing329 围栏障碍训练场 题解

    考试压轴题,意识到这题是线段树优化 \(dp\) 时追悔莫及. 为了简化题目,我将从起点到原点变成了从原点到起点(这样就可以省去两个数组的空间). 想到设 \(dp_{i,j}\) 表示在第 \(i\ ...