使用 Azure AI Studio 构建和部署使用提示流的问答助驾系统

See: Build and deploy a question and answer copilot with prompt flow in Azure AI Studio - Azure AI Studio | Microsoft Learn

通过本示例,你可以使用生成式 AI 和t提示流来构建、配置并部署一个被称为 Cotoso 公司的助驾系统。这是一家专门从事户外露营装备和服装的零售公司。

Copolit 应该支持回答有关您的产品和服务的问题。它还支持回答有关客户的问题。例如,副驾可以回答诸如“TrailWalker 登山鞋的价格是多少?”和“Daniel Wilson 买了多少双 TrailWalker 登山鞋?”之类的问题。

本教程中的步骤包括:

  • 将您的数据添加到聊天 Playground
  • 从 Playground 创建提示流
  • 使用多个数据源自定义提示流
  • 使用问答评估数据集评估流程
  • 部署流以供使用

前置条件

  • Azure 订阅
  • 在所需的 Azure 订阅中授予 Azure OpenAI 的访问权限
  • 用于为示例产品和客户数据编制索引的 Azure AI 搜索服务连接。
  • 您需要产品和客户数据的本地副本。

添加自有数据,重新尝试聊天模型

在上一篇的快速入门中,你已经观察了在没有自有数据的情况下,模型是如何响应的。现在,你可以为模型补充自有数据,来帮助它回答关于你的产品的问题。

为了完成这部分的练习,你需要关于产品数据的说明,在 GitHub 中的 Azure-Samples/aistudio-python-quickstart-sample 仓库中,包含关于客户和产品的资料,请克隆该仓库,或者复制其中来自 3-product-info 的产品信息。

遵循如下步骤来添加你的数据,不需要改变已经部署的模型,你的数据在你的订阅中被独立和安全的保存。

  1. 访问 Azure AI Studio
  2. 在左边的工具栏中选择 Playground > Chat
  3. 通过 Deployment 下拉列表选择已经部署的模型

  4. 在演练场的左边,选择添加自有数据 Add your data > +Add a new data source。

  5. 在数据源 Data source 下拉列表中,选择上传文件 Upload files

  6. 选择上传 > 上传文件 Upload > Upload files 然后浏览你的本地文件
  7. 选择希望上传的文件。选择产品信息文件 (3-product-info)。添加所有的文件。在同一个演练场会话中不能再添加文件。
  8. 选择上传 Upload 将文件上传到 Azure Blog 存储账号中。选择下一步 Next

  9. 选择 Azure AI Search 服务。在此示例中,我们从 选择 Azure AI Search service 下拉列表中选择 "Connect other Azure AI Search resource"。如果没有搜索资源,可以通过选择 "Create a new Azure AI Search resource" 来创建一个搜索资源。然后返回此步骤进行连接并选择它。

  10. 浏览你的 Azure AI Search 服务,然后选择添加连接 Add connection

  11. 在索引名称 Index name 中,输入 product-info,然后继续
  12. 在 Search settings 页面中,在 Vector settings 下面,取消选择 Add vector search to this search resource 的复选框。该设置帮助模型如何响应请求,然后继续

    如果添加了向量搜索,会出现更多的选择和额外的费用

  13. 复查设置,然后点击创建 Create
  14. 在演练场中,可以看到你的数据导入正在进行中。此过程可能需要几分钟时间。在继续操作之前,请等待,直到看到数据源和索引名称代替状态。

  15. 为演练场的配置输入一个名称,然后选择保存 Save > Save configuration。默认保存所有配置项。项目包括部署、系统消息、安全消息、参数、添加的数据、示例和变量。保存同名的配置将保存在以前的版本之上。

  16. 现在你可以使用询问模型以前相同的问题,这时候,它会使用你的自有数据来构造响应。你还可以使用参考按钮来查看所使用的数据。

从演练场创建提示流

现在你可能会问:“我怎样才能进一步定制这个副驾驶?您可能希望添加多个数据源、比较不同的提示或多个模型的性能。提示流充当可执行工作流,可简化基于 LLM 的 AI 应用程序的开发。它提供了一个全面的框架,用于管理应用程序中的数据流和处理。您可以使用提示流来优化发送到副驾驶聊天模型的消息。

在本节中,你将了解如何从 Playground 转换到提示流。导出 Playground 聊天环境,包括与添加的数据的连接。在本教程的后面部分,你将评估流,然后部署流以供使用。

您可以按照以下步骤从 Playground 创建提示流:

  1. 转到 AI Studio 中的项目。
  2. 从左窗格中选择 Playgrounds > Chat。
  3. 由于我们使用的是自己的数据,因此需要选择“添加数据”。您应该已经拥有之前在聊天 Playground 中创建的名为 product-info 的索引。从“选择可用项目索引”下拉列表中选择它。否则,请先使用您的商品数据创建索引,然后返回此步骤。
  4. 从聊天会话窗格上方的菜单中选择提示流。
  5. 输入提示流的文件夹名称。然后选择“打开”。AI Studio 导出 Playground 聊天环境以提示流。导出包括与已添加数据的连接。

在提示流中,节点处于中心位置,代表具有独特功能的特定工具。这些节点处理数据处理、任务执行和算法操作,以及输入和输出。通过连接节点,您可以建立无缝的操作链,以指导数据流通过应用程序。有关详细信息,请参阅提示流工具。

为了便于节点配置和微调,通过 DAG(有向无环图)图提供了工作流结构的可视化表示。此图展示了节点之间的连接和依赖关系,提供了整个工作流的清晰概述。此处显示的图中的节点代表了导出到提示流的 Playground 聊天体验。

在提示流中,您还应该看到:

  • 保存按钮:您可以随时通过从顶部菜单中选择保存来保存提示流。在本教程中进行更改时,请务必定期保存提示流。
  • “启动计算会话”按钮:需要启动计算会话才能运行提示流。您可以在本教程的后面部分启动会话。计算实例在运行时会产生成本。有关详细信息,请参阅如何创建计算会话。

您可以随时通过从左侧菜单中的“工具”中选择“提示流”返回提示流。然后选择之前创建的提示流文件夹。

使用 Azure AI Studio 构建和部署使用提示流的问答助驾系统的更多相关文章

  1. 【AMAD】Stream-Framework -- 让你可以使用Cassandra和Redis构建新闻feed,活动流(activity stream)以及通知系统。

    动机 简介 个人评分 动机 你曾经是否想为你自己的网站构建Facebook,Github那种feed流. 简介 通过Stream-Framework1你可以做到: Github那种活动流 Twitte ...

  2. Microsoft宣布为Power BI提供AI模型构建器,关键驱动程序分析和Azure机器学习集成

    微软的Power BI现在是一种正在大量结合人工智能(AI)的商业分析服务,它使用户无需编码经验或深厚的技术专长就能够创建报告,仪表板等.近日西雅图公司宣布推出几款新的AI功能,包括图像识别和文本分析 ...

  3. 《ArcGIS Runtime SDK for Android开发笔记》——(5)、基于Android Studio构建ArcGIS Android开发环境(离线部署)(转)

    1.前言 在上一篇的内容里我们介绍了基于Android Studio构建ArcGIS Runtime SDK for Android开发环境的基本流程,流程中我们采用的是基于Gradle的构建方式,在 ...

  4. Azure 项目构建 – 构建和部署 .NET 应用程序

    本课程主要介绍了如何在 Azure 平台上快速构建和部署基于 .NET 语言的 Web 应用, 实践讲解如何使用 Azure 门户创建 Web 应用, 部署 ASP.NET 代码, 连接 Azure ...

  5. 使用Azure云存储构建高速 Docker registry

    使用Azure云存储构建高速 Docker registry 使用Docker来构建应用程序最常见的操作就是 docker run 或者 docker pull了,但是由于众所周知的原因,在国内想要高 ...

  6. 利用Azure Redis Cache构建百万量级缓存读写

    Redis是一个非常流行的基于内存的,低延迟,高吞吐量的key/value数据存储,被广泛用于数据库缓存,session的管理,热数据高速访问,甚至作为数据库方式提高应用程序可扩展性,吞吐量,和实施处 ...

  7. Azure AI 服务之文本翻译

    当下人工智能可谓是风头正劲,几乎所有的大厂都有相关的技术栈.微软在 AI 领域自然也是投入了重注,并且以 Azure 认知服务的方式投入了市场: 也就是说作为开发者我们不需要学习太多 AI 的理论知识 ...

  8. Azure AI 服务之语音识别

    笔者在前文<Azure AI 服务之文本翻译>中简单介绍了 Azure 认知服务中的文本翻译 API,通过这些简单的 REST API 调用就可以轻松地进行机器翻译.如果能在程序中简单的集 ...

  9. 3.0、Android Studio构建和运行应用

    默认情况下,Android Studio可以通过简单的点击就会将新的项目部署到虚拟机或者物理设备中.在Instant Run的帮助下,你可以将更改的方法或资源文件直接推送到一个运行的app而无需构建一 ...

  10. 跨平台数据库工具Azure Data Studio

    Azure Data Studio是一种跨平台数据库工具,适用于在Windows,MacOS和Linux上使用Microsoft系列内部部署和云数据平台的数据专业人员.Azure Data Studi ...

随机推荐

  1. iManager微服务(云套件)配置https证书流程步骤

    本文使用的是10.1版本,需要手动去配置证书,未来版本会考虑进行界面化配置. 一.提前准备 1. 证书需要准备三个文件 *.key *.crt *.keystore 2. 需要知道自己创建的微服务是哪 ...

  2. Genuine Intel(R) CPU型号

    起因: 在盘点固定资产的时候,发现有一台电脑CPU不显示具体型号,而是 英特尔 @ 2.60GHz (X2) ,通过主板型号来判断是至强系列的CPU,后经软件识别为 Genuine ,然后去查资料才了 ...

  3. Autodesk 3d Max2020 初始化闪退

    事件起因:给同事安装完 Autodesk 3d Max2020 版本之后,软件初始化就闪退,后来在网上查了资料后解决. 解决办法如下:services.msc --> Autodesk 开头的服 ...

  4. 【赵渝强老师】MongoDB管理用户的认证机制

    一.MongoDB用户认证机制简介 为了认证客户端,你必须要添加一个对应的用户到MongoDB.基本的步骤分为以下几步: 用户管理接口:db.createUser()方法可以创建一个用户,添加完成后可 ...

  5. PHP运算符优先级(摘自在线工具)

    PHP运算符优先级 结合方向 运算符 附加信息 非结合 clone new clone 和 new 左 [ array() 非结合 ++ -- 递增/递减运算符 非结合 ~ - (int) (floa ...

  6. KASAN 中kasan_multi_shot 的作用

    kasan_multi_shot 是 Linux 内核配置选项之一,与 Kernel Address Sanitizer (KASAN) 相关.KASAN 是一种内核内存错误检测工具,能够检测内核代码 ...

  7. pcss 软阴影

    PCF Percentage Closer Filtering:PCF是一种用于阴影反锯齿的方法,本身不是软阴影方法. 算法流程说明: Perform multiple (e.g. 7x7) dept ...

  8. 06 Word2Vec模型(第一个专门做词向量的模型,CBOW和Skip-gram)

    博客配套视频链接: https://space.bilibili.com/383551518?spm_id_from=333.1007.0.0 b 站直接看 配套 github 链接:https:// ...

  9. 一文详述:AI 网关与 API 网关到底有什么区别?

    近年来AI 发展火热,大模型已经成为推动各行各业业务创新和增长的关键力量.随之而来问题是"企业该如何安全管理和部署AI应用的挑战?"AI基础架构的设计不仅要支持现有的业务需求,还要 ...

  10. 云原生周刊 | 人类、机器人与 Kubernetes

    近日 Grafana 官网发表了一篇博客介绍了 2022 年比较有意思.脑洞大开的一些 Grafana 使用案例,比如监控特斯拉 Model 3 的充电状态.OTA 更新状况等等. 海事技术供应商 R ...