这两天你可能看过这篇文章:微软面向企业的Private ChatGPT 开源!超详细安装流程反馈![1], 这篇文章顶多就是一个Azure OpenAI 服务的简单Demo, 就连插件机制都没有,这也是促使我写这篇文章的因素之一。 微软在Build 大会上宣布了Copilot Stack,Copilot Stack被描述为一个人工智能开发框架,帮助开发人员构建自己的Copilot。“这个堆栈包括对插件的支持,这些插件通过允许它们查询实时信息、合并公司或其他业务数据、执行新型计算并代表用户安全地采取行动来增强人工智能系统的功能。

其中充当AI Orchestration角色的正是微软今年在LLM 领域实践的总结而开源的项目Semantic Kernel[2], 其中有一个示例程序Copilot chat ,已经按照Copilot stack的设计进行了重构,微软最近的一篇文章 “使用Chat Copilot测试你的ChatGPT插件”[3],Semantic Kernel团队构建了参考应用程序,以帮助开发人员了解平台的不同概念(包括利用插件,规划器和AI记忆)如何组合在一起以创建单一的对话体验。

Microsoft一直在更新其Chat Copilot参考应用程序以测试插件,并将其移至自己的GitHub存储库[4], Microsoft还改进了该应用程序的功能,使开发人员更容易了解Chat Copilot的功能,其中列出了三个具体功能:

  1. 通过单击Chat copilot中的信息气泡,开发人员可以看到用于生成响应的整个提示(及其令牌使用情况)。
  2. 在“计划”选项卡中,开发人员可以查看和调查使用插件生成的所有计划。
  3. 在“角色”选项卡中,开发人员可以使用影响代理响应方式的变量。

基于其用于构建 ChatGPT 插件然后对其进行测试的单独文档,Microsoft 还发布了有关部署 Chat Copilot 以便它可以与组织中的其他人一起使用的指南, 下面介绍一下在本地环境中部署运行Chat Copilot:

在本地环境下运行条件

  • 申请使用Azure OpenAI
  • 持有Microsoft 账户
  • Microsoft的账户用于认证。
  • 可以执行Node.js的安装和npm install。
  • 可以执行安装.NET

在本地环境安装,详细参考 Chat Copilot Sample Application[5], 需要在Azure 上获取到服务的几个参数:

  1. 用Azure OpenAI创建实例,部署模型,获取访问Azure OpenAI服务的两个参数
  • API_KEY: The API key for Azure OpenAI  .

  • AZURE_OPENAI_ENDPOINT: The Azure OpenAI resource
    Endpoint address.

  1. 在Azure AAD上注册一个应用, 用户的身份认证要用到这个,AAD的应用 都必须使用HTTPS 才能设置,http 只能使用localhost 。
  • AZURE_APPLICATION_ID: The Application (client) ID associated with the registered application.

在Windows、Linux、Mac环境下都scripts 目录下准备好了安装脚本。

第一步执行Install.ps 或者 Install.sh 安装依赖环境, 这个脚本会安装 Chocolatey, dotnet-7.0-sdk, nodejs, 和 yarn。

第二部执行配置 Chat Copilot:

.\Configure.ps1 -AIService {AI_SERVICE} -APIKey {API_KEY} -Endpoint {AZURE_OPENAI_ENDPOINT} -ClientId {AZURE_APPLICATION_ID}

然后执行Start.ps或者Start.sh ,启动后端API 和前端的 React 应用。


访问应用程序

访问http://localhost:3000/ 后会显示认证界面,使用Microsoft 账户登录后就可以拥有企业私有的ChatGPT,可以支持ChatGPT插件。


相关链接:

微软面向企业的Private ChatGPT 参考应用 Chat Copilot的更多相关文章

  1. 面向企业客户的制造业CRM系统的不成熟思考

    CRM就是客户关系管理(Customer Relationship Management),一直一知半解,最近有涉及这方面的需求,所以稍作研究,并思考一些相关问题. CRM是什么? CRM具体如何定义 ...

  2. 微软面向高并发应用而推出的新程序库——TPL Dataflow

    TPL Dataflow库的几个扩展函数 TPL Dataflow是微软面向高并发应用而推出的新程序库.借助于异步消息传递与管道,它可以提供比线程池更好的控制.本身TPL库在DataflowBlock ...

  3. DataPipeline成功入选微软加速器 企业创新力获业界专家认可

    近日,微软加速器•北京公布最终入选的第13期创新企业名单.作为国内领先的“iPaaS+AI”一站式数据融合服务提供商DataPipeline,历经多轮角逐,在上千家企业激烈竞争中,成功入选. 高手过招 ...

  4. 笔精墨妙,妙手丹青,微软开源可视化版本的ChatGPT:Visual ChatGPT,人工智能AI聊天发图片,Python3.10实现

    说时迟那时快,微软第一时间发布开源库Visual ChatGPT,把 ChatGPT 的人工智能AI能力和Stable Diffusion以及ControlNet进行了整合.常常被互联网人挂在嘴边的& ...

  5. BizTalk 开发系列(四十一) BizTalk 2010 BAM 安装手记

    使用64位系统可以支持更大的内存,现在服务器基本上都使用64位系统.微软从Windows Server 2008 R2开始服务器版的操作系统也只支持64位了,不过对于像BizTalk这种“繁杂的东西” ...

  6. 微软企业库的Cache

    微软企业库的Cache 通常,应用程序可以将那些频繁访问的数据,以及那些需要大量处理时间来创建的数据存储在内存中,从而提高性能.基于微软的企业库,我们的快速创建一个缓存的实现. 新建PrismSamp ...

  7. Prism6下的MEF:基于微软企业库的Cache

    通常,应用程序可以将那些频繁访问的数据,以及那些需要大量处理时间来创建的数据存储在内存中,从而提高性能.基于微软的企业库,我们的快速创建一个缓存的实现. 新建PrismSample.Infrastru ...

  8. 亚马逊云推出基于机器学习的企业搜索服务Kendra,剑指微软

    近日,在AWS re:Invent全球大会上,亚马逊发布了五项新的基于机器学习的人工智能 (AI) 服务. 这五项服务包括机器学习驱动的企业搜索.代码审核与分析.欺诈检测.医疗转录和 AI 预测的人工 ...

  9. [EntLib]微软企业库5.0 学习之路——第一步、基本入门

    话说在大学的时候帮老师做项目的时候就已经接触过企业库了但是当初一直没明白为什么要用这个,只觉得好麻烦啊,竟然有那么多的乱七八糟的配置(原来我不知道有配置工具可以进行配置,请原谅我的小白). 直到去年在 ...

  10. 使用微软企业库5.0提供的unity配置解藕系统demo(源码)

    最近公司集50多号开发人员的人力围绕一个系统做开发,框架是免不了要统一的,公司提供的架构,利于分工合作,便于维护,扩展,升级,其中使用了到微软的企业库来解藕系统,只是因为框架封装,于是在网上学习了一个 ...

随机推荐

  1. Django4全栈进阶之路13 template模板

    在 Django 中,模板(Template)用于生成动态的 HTML 页面.通常情况下,Django 项目包含多个视图函数,每个视图函数都负责渲染不同的 HTML 页面.使用模板可以让我们将 HTM ...

  2. django视图中使用return redirect(reverse('')) 没有传参出现题:Reverse for ‘‘ with no arguments no arguments not

    redirect 的作用是跳转 reverse的作用是反向解析 当无法反向解析的时候要确认urls.py中的path参数,name参数是否一直

  3. django时区问题的解决

    django时区问题的解决  更新时间:2021年05月18日 09:37:58   作者:Silent丿丶黑羽     我们都知道时区,标准时区是UTC时区,django默认使用的就是UTC时区,我 ...

  4. 记一次 Visual Studio 2022 卡死分析

    一:背景 1. 讲故事 最近不知道咋了,各种程序有问题都寻上我了,你说 .NET 程序有问题找我能理解,Windows 崩溃找我,我也可以试试看,毕竟对 Windows 内核也知道一丢丢,那 Visu ...

  5. Android Studio格式化代码

    有时候代码写来老师乱七八糟,手动格式化讷太浪费时间,且格式化不公正,最后当然使用ide自带的快捷键了 找到导航中的Code 下的 Reformat Code ; 看提示知道使用快捷键 就是Ctrl + ...

  6. harbor改造为https---血泪史

  7. RabbitMQ 工作模式介绍

    RabbitMQ 工作模式介绍 1.Hello World RabbitMQ 是一个消息代理:它接受并转发消息.您可以将其视为邮局:当您将要邮寄的邮件放入邮箱时,您可以确定信使最终会将邮件交付给您的收 ...

  8. ABP - 缓存模块(1)

    1. 与 .NET Core 缓存的关系和差异 ABP 框架中的缓存系统核心包是 Volo.Abp.Caching ,而对于分布式缓存的支持,abp 官方提供了基于 Redis 的方案,需要安装 Vo ...

  9. THM红队基础

    Red Team Fundamentals Learn the core components of a red team engagement, from threat intelligence t ...

  10. SpringMVC的执行原理

    1.HandlerMapping为处理器映射,DispatcherServlet调用HandlerMapping,HandlerMapping根据请求的url查找Handler 2.HandlerEx ...