使用 Azure AI Studio 构建和部署使用提示流的问答助驾系统

See: Build and deploy a question and answer copilot with prompt flow in Azure AI Studio - Azure AI Studio | Microsoft Learn

通过本示例,你可以使用生成式 AI 和t提示流来构建、配置并部署一个被称为 Cotoso 公司的助驾系统。这是一家专门从事户外露营装备和服装的零售公司。

Copolit 应该支持回答有关您的产品和服务的问题。它还支持回答有关客户的问题。例如,副驾可以回答诸如“TrailWalker 登山鞋的价格是多少?”和“Daniel Wilson 买了多少双 TrailWalker 登山鞋?”之类的问题。

本教程中的步骤包括:

  • 将您的数据添加到聊天 Playground
  • 从 Playground 创建提示流
  • 使用多个数据源自定义提示流
  • 使用问答评估数据集评估流程
  • 部署流以供使用

前置条件

  • Azure 订阅
  • 在所需的 Azure 订阅中授予 Azure OpenAI 的访问权限
  • 用于为示例产品和客户数据编制索引的 Azure AI 搜索服务连接。
  • 您需要产品和客户数据的本地副本。

添加自有数据,重新尝试聊天模型

在上一篇的快速入门中,你已经观察了在没有自有数据的情况下,模型是如何响应的。现在,你可以为模型补充自有数据,来帮助它回答关于你的产品的问题。

为了完成这部分的练习,你需要关于产品数据的说明,在 GitHub 中的 Azure-Samples/aistudio-python-quickstart-sample 仓库中,包含关于客户和产品的资料,请克隆该仓库,或者复制其中来自 3-product-info 的产品信息。

遵循如下步骤来添加你的数据,不需要改变已经部署的模型,你的数据在你的订阅中被独立和安全的保存。

  1. 访问 Azure AI Studio
  2. 在左边的工具栏中选择 Playground > Chat
  3. 通过 Deployment 下拉列表选择已经部署的模型

  4. 在演练场的左边,选择添加自有数据 Add your data > +Add a new data source。

  5. 在数据源 Data source 下拉列表中,选择上传文件 Upload files

  6. 选择上传 > 上传文件 Upload > Upload files 然后浏览你的本地文件
  7. 选择希望上传的文件。选择产品信息文件 (3-product-info)。添加所有的文件。在同一个演练场会话中不能再添加文件。
  8. 选择上传 Upload 将文件上传到 Azure Blog 存储账号中。选择下一步 Next

  9. 选择 Azure AI Search 服务。在此示例中,我们从 选择 Azure AI Search service 下拉列表中选择 "Connect other Azure AI Search resource"。如果没有搜索资源,可以通过选择 "Create a new Azure AI Search resource" 来创建一个搜索资源。然后返回此步骤进行连接并选择它。

  10. 浏览你的 Azure AI Search 服务,然后选择添加连接 Add connection

  11. 在索引名称 Index name 中,输入 product-info,然后继续
  12. 在 Search settings 页面中,在 Vector settings 下面,取消选择 Add vector search to this search resource 的复选框。该设置帮助模型如何响应请求,然后继续

    如果添加了向量搜索,会出现更多的选择和额外的费用

  13. 复查设置,然后点击创建 Create
  14. 在演练场中,可以看到你的数据导入正在进行中。此过程可能需要几分钟时间。在继续操作之前,请等待,直到看到数据源和索引名称代替状态。

  15. 为演练场的配置输入一个名称,然后选择保存 Save > Save configuration。默认保存所有配置项。项目包括部署、系统消息、安全消息、参数、添加的数据、示例和变量。保存同名的配置将保存在以前的版本之上。

  16. 现在你可以使用询问模型以前相同的问题,这时候,它会使用你的自有数据来构造响应。你还可以使用参考按钮来查看所使用的数据。

从演练场创建提示流

现在你可能会问:“我怎样才能进一步定制这个副驾驶?您可能希望添加多个数据源、比较不同的提示或多个模型的性能。提示流充当可执行工作流,可简化基于 LLM 的 AI 应用程序的开发。它提供了一个全面的框架,用于管理应用程序中的数据流和处理。您可以使用提示流来优化发送到副驾驶聊天模型的消息。

在本节中,你将了解如何从 Playground 转换到提示流。导出 Playground 聊天环境,包括与添加的数据的连接。在本教程的后面部分,你将评估流,然后部署流以供使用。

您可以按照以下步骤从 Playground 创建提示流:

  1. 转到 AI Studio 中的项目。
  2. 从左窗格中选择 Playgrounds > Chat。
  3. 由于我们使用的是自己的数据,因此需要选择“添加数据”。您应该已经拥有之前在聊天 Playground 中创建的名为 product-info 的索引。从“选择可用项目索引”下拉列表中选择它。否则,请先使用您的商品数据创建索引,然后返回此步骤。
  4. 从聊天会话窗格上方的菜单中选择提示流。
  5. 输入提示流的文件夹名称。然后选择“打开”。AI Studio 导出 Playground 聊天环境以提示流。导出包括与已添加数据的连接。

在提示流中,节点处于中心位置,代表具有独特功能的特定工具。这些节点处理数据处理、任务执行和算法操作,以及输入和输出。通过连接节点,您可以建立无缝的操作链,以指导数据流通过应用程序。有关详细信息,请参阅提示流工具。

为了便于节点配置和微调,通过 DAG(有向无环图)图提供了工作流结构的可视化表示。此图展示了节点之间的连接和依赖关系,提供了整个工作流的清晰概述。此处显示的图中的节点代表了导出到提示流的 Playground 聊天体验。

在提示流中,您还应该看到:

  • 保存按钮:您可以随时通过从顶部菜单中选择保存来保存提示流。在本教程中进行更改时,请务必定期保存提示流。
  • “启动计算会话”按钮:需要启动计算会话才能运行提示流。您可以在本教程的后面部分启动会话。计算实例在运行时会产生成本。有关详细信息,请参阅如何创建计算会话。

您可以随时通过从左侧菜单中的“工具”中选择“提示流”返回提示流。然后选择之前创建的提示流文件夹。

使用 Azure AI Studio 构建和部署使用提示流的问答助驾系统的更多相关文章

  1. 【AMAD】Stream-Framework -- 让你可以使用Cassandra和Redis构建新闻feed,活动流(activity stream)以及通知系统。

    动机 简介 个人评分 动机 你曾经是否想为你自己的网站构建Facebook,Github那种feed流. 简介 通过Stream-Framework1你可以做到: Github那种活动流 Twitte ...

  2. Microsoft宣布为Power BI提供AI模型构建器,关键驱动程序分析和Azure机器学习集成

    微软的Power BI现在是一种正在大量结合人工智能(AI)的商业分析服务,它使用户无需编码经验或深厚的技术专长就能够创建报告,仪表板等.近日西雅图公司宣布推出几款新的AI功能,包括图像识别和文本分析 ...

  3. 《ArcGIS Runtime SDK for Android开发笔记》——(5)、基于Android Studio构建ArcGIS Android开发环境(离线部署)(转)

    1.前言 在上一篇的内容里我们介绍了基于Android Studio构建ArcGIS Runtime SDK for Android开发环境的基本流程,流程中我们采用的是基于Gradle的构建方式,在 ...

  4. Azure 项目构建 – 构建和部署 .NET 应用程序

    本课程主要介绍了如何在 Azure 平台上快速构建和部署基于 .NET 语言的 Web 应用, 实践讲解如何使用 Azure 门户创建 Web 应用, 部署 ASP.NET 代码, 连接 Azure ...

  5. 使用Azure云存储构建高速 Docker registry

    使用Azure云存储构建高速 Docker registry 使用Docker来构建应用程序最常见的操作就是 docker run 或者 docker pull了,但是由于众所周知的原因,在国内想要高 ...

  6. 利用Azure Redis Cache构建百万量级缓存读写

    Redis是一个非常流行的基于内存的,低延迟,高吞吐量的key/value数据存储,被广泛用于数据库缓存,session的管理,热数据高速访问,甚至作为数据库方式提高应用程序可扩展性,吞吐量,和实施处 ...

  7. Azure AI 服务之文本翻译

    当下人工智能可谓是风头正劲,几乎所有的大厂都有相关的技术栈.微软在 AI 领域自然也是投入了重注,并且以 Azure 认知服务的方式投入了市场: 也就是说作为开发者我们不需要学习太多 AI 的理论知识 ...

  8. Azure AI 服务之语音识别

    笔者在前文<Azure AI 服务之文本翻译>中简单介绍了 Azure 认知服务中的文本翻译 API,通过这些简单的 REST API 调用就可以轻松地进行机器翻译.如果能在程序中简单的集 ...

  9. 3.0、Android Studio构建和运行应用

    默认情况下,Android Studio可以通过简单的点击就会将新的项目部署到虚拟机或者物理设备中.在Instant Run的帮助下,你可以将更改的方法或资源文件直接推送到一个运行的app而无需构建一 ...

  10. 跨平台数据库工具Azure Data Studio

    Azure Data Studio是一种跨平台数据库工具,适用于在Windows,MacOS和Linux上使用Microsoft系列内部部署和云数据平台的数据专业人员.Azure Data Studi ...

随机推荐

  1. USB gadget functionfs

    FunctionFS (Function Filesystem) 是 Linux USB Gadget 框架的一部分,专门用于从用户空间实现和控制自定义的 USB 功能.它提供了一种文件系统接口,使用 ...

  2. 使用GrabCut做分割

    主要完成了界面化设计,代码如下 import cv2 as cv import numpy as np import sys from PyQt5.Qt import * class MyWedige ...

  3. 2022年最新数据库调查报告:超八成DBA月薪过万,你拖后腿了吗?

    数据库管理员属于IT行业高薪职业的一种,近几年关于数据库管理员的薪资统计文章也层出不穷,那么当前,DBA们的薪资究竟到达了怎样的水平呢? 墨天轮数据社区发布最新<2022年墨天轮数据库大调查报告 ...

  4. 墨天轮国产数据库沙龙 | 张晓庆:GoldenDB分布式数据库的自动安装与备份恢复

    在共同推进国产化生态发展的进程下,墨天轮正式推出"墨天轮国产数据库沙龙"系列直播活动,将定期邀请各国产数据库产品专家.掌门人,共同探讨如何达成技术"自主可控"的 ...

  5. 0403-Tensor内部存储结构

    0403-Tensor内部存储结构 目录 一.Tensor内部存储结构 pytorch完整教程目录:https://www.cnblogs.com/nickchen121/p/14662511.htm ...

  6. 4:Exchange安装后的任务

    4:Exchange安装后的任务 安装后的任务: 第一:证书的申请安装,分配服务略 注意项:如果是通配符证书,不能直接分配pop的服务              第二:虚拟目录的配置  Exchang ...

  7. 云原生周刊:Kubernetes v1.29 正式发布 | 2023.12.18

    开源项目推荐 Robusta KRR Robusta KRR(Kubernetes Resource Recommender)是一个用于优化 Kubernetes 集群中资源分配的 CLI 工具.它从 ...

  8. manim边做边学--直角平面

    直角平面NumberPlane是Manim库中用于创建二维坐标平面的对象,它可以帮助用户在场景中可视化坐标轴以及网格线. 通过坐标轴.网格线以及刻度,它能够动态地展示函数曲线.几何图形以及它们的变换过 ...

  9. Nuget包本地调试以及自动打包上传

    项目过程中,经常需要打包Nuget包,并且引用本地Nuget包调试,完成后上传,因此做了点配置,分享给大家.如果大家有更好的方法欢迎分享. 1. 使用生成后事件自动打包 项目文件中本身是可以配置生成时 ...

  10. 海外SRC信息收集工具

    海外SRC信息收集 ​ 子域名爆破工具:bbot,subfinder ​ 相关测评:https://blog.blacklanternsecurity.com/p/subdomain-enumerat ...