一:前言:
那么为什么要本地部署,主要就是企业或者个人为了数据安全和防止受限网络等其
  • 数据安全:数据不用上传到外面,在本地处理,不用担心数据泄露,像金融、医疗这些对数据安全要求高的行业特别需要。
功能方面
  • 定制:可以根据自身业务需求和用户特点对模型进行个性化改造,比如制造业调整生产流程等
使用体验方面
  • 不依赖网络:在网络不好或者没网的地方也能正常使用。
 
windows 本地部署deepseek 通常使用 Lm studio 和 ollama 大模型框架进行部署
今天说一说 ollama 进行本地部署deepseek
环境:我的机器也是一台老笔记本, 12G 内存,4G集显+2G独显(NVIDIA),cpu(Intel(R) Core(TM) i5-7200U CPU @ 2.50GHZ),为了学习研究一下,所以我选择了deepseek 目前最小的 模型 deepseek-r1:1.5b 作为尝试。
 
二:ollama部署
ollama 是一个开源大模型框架 ,我们可以从这个地址进行下载https://ollama.com/
 
这个安装比较简单,下载下来之后,直接按照提示一直下一步,右下角出现
 
表示启动成功了。
注:看到一些博主分享,N卡和A卡可能需要按照不同的情况,下载不同的ollama版本,这个我没有深入研究,我是官网一路下载,安装。有兴趣的同学可以深入了解一下。
 
三:deepseek 大模型拉取
打开cmd窗口,输入复制命令 ollama run deepseek-r1:1.5b
会有下载过程,需要等待一下,下载完成,最后会显示send a message,表示拉取成功,你可以在cmd窗口直接进行对话了
 
 
 
四:大模型UI操作界面集成
我们现在已经有了大模型,但是cmd窗口交互不是很方便,所以我们需要一些交互工具去呈现
Pageassist 、dify 、 RagFlow 等都可以集成ollama 框架,进行深度使用,包括不限于桌面UI、流程、智能体、知识库。
我们先说一个轻量的 Pageassist 的 chome或者firefox 插件。dify 等其他集成文档,可以持续关注后续文章。
效果:
pageassist
 
dify安装好之后
 
 
chrome 由于需要科学地上网,你可以直接从这里下载 下载地址,拖到chrome 的扩展里。
firefox 可以直接在扩展里搜索 pageassist 进行安装。
 
安装好之后,打开浏览器扩展,修改语言
 
搜索用sogou
 
 
ollama设置中设置地址:http://127.0.0.1:11434
 
设置完成之后,就可以正常通过pageassist 使用大模型进行对话了
 

windows 本地部署DeepSeek的更多相关文章

  1. R shiny 小工具Windows本地打包部署

    目录 服务器部署简介 windows打包部署 1. 部署基本框架 2.安装shiny脚本需要的依赖包 3.创建运行shiny的程序 [报错解决]无法定位程序输入点EXTPTE_PTR于动态链接库 将小 ...

  2. Windows 之 手机访问 PC 端本地部署的站点

    测试网页在手机上的显示工具我们可以使用谷歌内核的浏览器,打开开发者工具(F12),在device那里选择设备,然后刷新来查看网页在手机上的显示效果. 但毕竟是模拟的,如果想要在真机上调试该怎么办呢. ...

  3. Yapi接口管理平台 本地部署 windows环境 -

    YApi 是高效.易用.功能强大的 api 管理平台,旨在为开发.产品.测试人员提供更优雅的接口管理服务.可以帮助开发者轻松创建.发布.维护 API,YApi 还为用户提供了优秀的交互体验,开发人员只 ...

  4. windows下百度离线人脸识别本地部署与使用(nodejs做客户端,c++做服务端,socket做通信)

    1.离线人脸识别本地部署 详情请阅读百度人脸识别官网 2.nodejs做socket通信的客户端 为什么不直接通过调用c++编译的exe获得人脸识别结果? 原因:exe运行时会加载很多模型而消耗很多时 ...

  5. Exceptionless 本地部署

    免费开源分布式系统日志收集框架 Exceptionless 前两天看到了这篇文章,亲身体会了下,确实不错,按照官方的文档试了试本地部署,折腾一番后终于成功,记下心得在此,不敢独享. 本地部署官方wik ...

  6. ArcGIS API for JavaScript 4.x 本地部署之Apache(含Apache官方下载方法)

    IIS.Nginx都说了,老牌的Apache和Tomcat也得说一说(如果喜欢用XAMPP另算) 本篇先说Apache. 安装Apache 这个...说实话,比Nginx难找,Apache最近的版本都 ...

  7. ArcGIS API for JavaScript 4.x 本地部署之Nginx法

    上篇ArcGIS API for JavaScript 4.x 离线配置之IIS法提到,如何用IIS配置ArcGIS jsAPI: 本篇则使用http下的Nginx配置,其原理基本一致.https的部 ...

  8. Windows Azure 部署 Windows 8 虚拟机

    基本步骤其实很简单,主要有: 本地部署虚拟机 将虚拟机VHD上传至Azure 在Azure上根据VHD生成映像 利用映像生成虚拟机 下面我们开始: 1,本地部署虚拟机 首先我们需要在本地用 Hyper ...

  9. 异常日志框架Exceptionless结合.NET Core(本地部署)

    一.前言 1.分布式异常日志收集框架Exceptionless是开源的工具,根据官方给出的说明: Exceptionless可以为您的ASP.NET.Web API.WebFrm.WPF.控制台和MV ...

  10. ArcGIS API for JavaScript开发笔记(一)——ArcGIS for Javascript API 3.14本地部署

    堪称史上最详细的< ArcGIS forJavascript API 3.14本地部署>文档,有图有真相~~~ ---------环境:Windows server 2012R2,IIS ...

随机推荐

  1. macos(m1)编译测试深度学习推理框架

    mnn build tnn

  2. 轻松玩转 JMeter 测试计划组件

    轻松玩转 JMeter 测试计划组件 宝子们,今天咱就来唠唠 JMeter 里那个超重要的测试计划组件,它可是整个性能测试的 "指挥官",把各种测试元素安排得明明白白. 一.测试计 ...

  3. linux服务器下 conda 配置清华源

    安装miniconda 下载安装脚本 wget https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/Miniconda3-latest-Li ...

  4. 支付宝分布式事务服务-DTS

    分布式事务服务简介 注意:为向用户提供更加优质的服务,蚂蚁金融云已对中间件产品完成进一步升级改造,并计划于 2018 年 3 月 31 日下线本产品. 分布式事务服务(Distributed Tran ...

  5. MySQL-进阶篇

    一.连接查询 图解示意图 1.建表语句 部门和员工关系表: CREATE TABLE `tb_dept` ( `id` int(11) NOT NULL AUTO_INCREMENT COMMENT ...

  6. LinkedList的源码

    LinkedList LinkedList是通过双向链表去实现的,他的数据结构具有双向链表的优缺点,既然是双向链表,那么的它的顺序访问效率会非常高,而随机访问的效率会比较低,它包含一个非常重要的私有内 ...

  7. 让存储绿“翼”盎然,天翼云HBlock入选工信部目录!

    近日,中国电信天翼云的自研产品HBlock凭借"存储资源盘活技术"成功入选<国家工业和信息化领域节能降碳技术装备推荐目录(2024年版)>(以下简称<目录> ...

  8. Atcoder ABC387F Count Arrays 题解 [ 绿 ] [ 基环树 ] [ 树形 dp ] [ 前缀和优化 ]

    Count Arrays:一眼秒的计数题. 思路 显然,把小于等于的条件化为大的向小的连单向边,每个数的入度都是 \(1\),就会形成一个基环树森林. 那么考虑这个环上能填什么数.因为所有数都小于等于 ...

  9. SYSTEM表空间使用率高

    数据库监控告警,SYSTEM表空间使用率很高.检查发现LOB字段使用了很大的空间,定位到LOB字段属于SYS_EXPORT_FULL_%表,参考(Doc ID 1626201.1)步骤处理后,表空间使 ...

  10. Dotfuscator混淆时的配置信息

    这个是64位的Framework