微软面向企业的Private ChatGPT 参考应用 Chat Copilot
这两天你可能看过这篇文章:微软面向企业的Private ChatGPT 开源!超详细安装流程反馈![1], 这篇文章顶多就是一个Azure OpenAI 服务的简单Demo, 就连插件机制都没有,这也是促使我写这篇文章的因素之一。 微软在Build 大会上宣布了Copilot Stack,Copilot Stack被描述为一个人工智能开发框架,帮助开发人员构建自己的Copilot。“这个堆栈包括对插件的支持,这些插件通过允许它们查询实时信息、合并公司或其他业务数据、执行新型计算并代表用户安全地采取行动来增强人工智能系统的功能。
其中充当AI Orchestration角色的正是微软今年在LLM 领域实践的总结而开源的项目Semantic Kernel[2], 其中有一个示例程序Copilot chat ,已经按照Copilot stack的设计进行了重构,微软最近的一篇文章 “使用Chat Copilot测试你的ChatGPT插件”[3],Semantic Kernel团队构建了参考应用程序,以帮助开发人员了解平台的不同概念(包括利用插件,规划器和AI记忆)如何组合在一起以创建单一的对话体验。
Microsoft一直在更新其Chat Copilot参考应用程序以测试插件,并将其移至自己的GitHub存储库[4], Microsoft还改进了该应用程序的功能,使开发人员更容易了解Chat Copilot的功能,其中列出了三个具体功能:
- 通过单击Chat copilot中的信息气泡,开发人员可以看到用于生成响应的整个提示(及其令牌使用情况)。
- 在“计划”选项卡中,开发人员可以查看和调查使用插件生成的所有计划。
- 在“角色”选项卡中,开发人员可以使用影响代理响应方式的变量。
基于其用于构建 ChatGPT 插件然后对其进行测试的单独文档,Microsoft 还发布了有关部署 Chat Copilot 以便它可以与组织中的其他人一起使用的指南, 下面介绍一下在本地环境中部署运行Chat Copilot:
在本地环境下运行条件
- 申请使用Azure OpenAI
- 持有Microsoft 账户
- Microsoft的账户用于认证。
- 可以执行Node.js的安装和npm install。
- 可以执行安装.NET
在本地环境安装,详细参考 Chat Copilot Sample Application[5], 需要在Azure 上获取到服务的几个参数:
- 用Azure OpenAI创建实例,部署模型,获取访问Azure OpenAI服务的两个参数
API_KEY
: TheAPI key
for Azure OpenAI .AZURE_OPENAI_ENDPOINT
: The Azure OpenAI resource
Endpoint
address.
- 在Azure AAD上注册一个应用, 用户的身份认证要用到这个,AAD的应用 都必须使用HTTPS 才能设置,http 只能使用localhost 。
AZURE_APPLICATION_ID
: TheApplication (client) ID
associated with the registered application.
在Windows、Linux、Mac环境下都scripts 目录下准备好了安装脚本。
第一步执行Install.ps 或者 Install.sh 安装依赖环境, 这个脚本会安装 Chocolatey
, dotnet-7.0-sdk
, nodejs
, 和 yarn。
第二部执行配置 Chat Copilot:
.\Configure.ps1 -AIService {AI_SERVICE} -APIKey {API_KEY} -Endpoint {AZURE_OPENAI_ENDPOINT} -ClientId {AZURE_APPLICATION_ID}
然后执行Start.ps或者Start.sh ,启动后端API 和前端的 React 应用。
访问应用程序
访问http://localhost:3000/ 后会显示认证界面,使用Microsoft 账户登录后就可以拥有企业私有的ChatGPT,可以支持ChatGPT插件。
相关链接:
- [1]微软面向企业的Private ChatGPT 开源!超详细安装流程反馈!: https://mp.weixin.qq.com/s/hgEGJuoM0xLpCdXWL-5acw
- [2]Semantic Kernel: https://github.com/microsoft/semantic-kernel
- [3]使用Chat Copilot测试你的ChatGPT插件: https://learn.microsoft.com/en-us/semantic-kernel/chat-copilot/testing-plugins-with-chat-copilot
- [4]GitHub存储库: https://github.com/microsoft/chat-copilot
- [5]Chat Copilot Sample Application:https://github.com/microsoft/chat-copilot/blob/main/README.md
微软面向企业的Private ChatGPT 参考应用 Chat Copilot的更多相关文章
- 面向企业客户的制造业CRM系统的不成熟思考
CRM就是客户关系管理(Customer Relationship Management),一直一知半解,最近有涉及这方面的需求,所以稍作研究,并思考一些相关问题. CRM是什么? CRM具体如何定义 ...
- 微软面向高并发应用而推出的新程序库——TPL Dataflow
TPL Dataflow库的几个扩展函数 TPL Dataflow是微软面向高并发应用而推出的新程序库.借助于异步消息传递与管道,它可以提供比线程池更好的控制.本身TPL库在DataflowBlock ...
- DataPipeline成功入选微软加速器 企业创新力获业界专家认可
近日,微软加速器•北京公布最终入选的第13期创新企业名单.作为国内领先的“iPaaS+AI”一站式数据融合服务提供商DataPipeline,历经多轮角逐,在上千家企业激烈竞争中,成功入选. 高手过招 ...
- 笔精墨妙,妙手丹青,微软开源可视化版本的ChatGPT:Visual ChatGPT,人工智能AI聊天发图片,Python3.10实现
说时迟那时快,微软第一时间发布开源库Visual ChatGPT,把 ChatGPT 的人工智能AI能力和Stable Diffusion以及ControlNet进行了整合.常常被互联网人挂在嘴边的& ...
- BizTalk 开发系列(四十一) BizTalk 2010 BAM 安装手记
使用64位系统可以支持更大的内存,现在服务器基本上都使用64位系统.微软从Windows Server 2008 R2开始服务器版的操作系统也只支持64位了,不过对于像BizTalk这种“繁杂的东西” ...
- 微软企业库的Cache
微软企业库的Cache 通常,应用程序可以将那些频繁访问的数据,以及那些需要大量处理时间来创建的数据存储在内存中,从而提高性能.基于微软的企业库,我们的快速创建一个缓存的实现. 新建PrismSamp ...
- Prism6下的MEF:基于微软企业库的Cache
通常,应用程序可以将那些频繁访问的数据,以及那些需要大量处理时间来创建的数据存储在内存中,从而提高性能.基于微软的企业库,我们的快速创建一个缓存的实现. 新建PrismSample.Infrastru ...
- 亚马逊云推出基于机器学习的企业搜索服务Kendra,剑指微软
近日,在AWS re:Invent全球大会上,亚马逊发布了五项新的基于机器学习的人工智能 (AI) 服务. 这五项服务包括机器学习驱动的企业搜索.代码审核与分析.欺诈检测.医疗转录和 AI 预测的人工 ...
- [EntLib]微软企业库5.0 学习之路——第一步、基本入门
话说在大学的时候帮老师做项目的时候就已经接触过企业库了但是当初一直没明白为什么要用这个,只觉得好麻烦啊,竟然有那么多的乱七八糟的配置(原来我不知道有配置工具可以进行配置,请原谅我的小白). 直到去年在 ...
- 使用微软企业库5.0提供的unity配置解藕系统demo(源码)
最近公司集50多号开发人员的人力围绕一个系统做开发,框架是免不了要统一的,公司提供的架构,利于分工合作,便于维护,扩展,升级,其中使用了到微软的企业库来解藕系统,只是因为框架封装,于是在网上学习了一个 ...
随机推荐
- mac 如何快捷键打开当前文件夹对应的终端窗口
- 2021-05-28:跳跃游戏 II。给定一个非负整数数组,你最初位于数组的第一个位置。数组中的每个元素代表你在该位置可
2021-05-28:跳跃游戏 II.给定一个非负整数数组,你最初位于数组的第一个位置.数组中的每个元素代表你在该位置可以跳跃的最大长度.你的目标是使用最少的跳跃次数到达数组的最后一个位置.假设你总是 ...
- aggregate和annotate⽅法
现在来看下⼏组实际使⽤案例.使⽤前别忘了import Avg, Max, Min或者Sum⽅法哦from django.db.models import Avg, Max, Min计算学⽣平均年龄, ...
- 创建对象create()、批量创建bulk_create()、创建或更新update_or_create()、更新对象update()、更新或创建update_or_create()、删除对象delete()使用filter过滤、判断是否存在exists()、统计个数count()、聚合aggregate()
创建对象create().批量创建bulk_create().创建或更新update_or_create().更新对象update().更新或创建update_or_create().删除对象dele ...
- 如何安装旧版本的 R 包
由于微信不允许外部链接,你需要点击文章尾部左下角的 "阅读原文",才能访问文中链接. 我们在安装 R 包的时候,经常会发现某个最新的包与当前 R 的版本不兼容. > inst ...
- 18.详解AQS家族的成员:Semaphore
关注:王有志,一个分享硬核Java技术的互金摸鱼侠. 欢迎你加入Java人的提桶跑路群:共同富裕的Java人 今天我们来聊一聊AQS家族中另一个重要成员Semaphore,我只收集到了一道关于Sema ...
- 高效处理报表,掌握原生JS打印和导出报表为PDF的顺畅技巧!
摘要:本文由葡萄城技术团队于博客园原创并首发.转载请注明出处:葡萄城官网,葡萄城为开发者提供专业的开发工具.解决方案和服务,赋能开发者. 前言篇 在日常工作中,报表打印和导出为PDF是经常要处理的任务 ...
- MySql InnoDB 存储引擎表优化
一.InnoDB 表存储优化 1.OPTIMIZE TABLE 适时的使用 OPTIMIZE TABLE 语句来重组表,压缩浪费的表空间.这是在其它优化技术不可用的情况下最直接的方法.OPTIMIZE ...
- Docker和Kubernetes与容器自动化扩展:最佳实践
目录 1. 引言 2. 技术原理及概念 2.1 基本概念解释 2.2 技术原理介绍 2.3 相关技术比较 3. 实现步骤与流程 3.1 准备工作:环境配置与依赖安装 3.2 核心模块实现 3.3 集成 ...
- AI室内设计:提升效率、消除沟通障碍,满足客户需求
前言 免费AI绘图工具:https://www.topgpt.one 随着人工智能(AI)技术的不断发展,室内设计行业也开始受益于这一技术的应用.其中,AI绘画工具在室内设计中的应用正日益受到关注.这 ...