使用 Azure AI Studio 构建和部署使用提示流的问答助驾系统
使用 Azure AI Studio 构建和部署使用提示流的问答助驾系统
通过本示例,你可以使用生成式 AI 和t提示流来构建、配置并部署一个被称为 Cotoso 公司的助驾系统。这是一家专门从事户外露营装备和服装的零售公司。
Copolit 应该支持回答有关您的产品和服务的问题。它还支持回答有关客户的问题。例如,副驾可以回答诸如“TrailWalker 登山鞋的价格是多少?”和“Daniel Wilson 买了多少双 TrailWalker 登山鞋?”之类的问题。
本教程中的步骤包括:
- 将您的数据添加到聊天 Playground
- 从 Playground 创建提示流
- 使用多个数据源自定义提示流
- 使用问答评估数据集评估流程
- 部署流以供使用
前置条件
- Azure 订阅
- 在所需的 Azure 订阅中授予 Azure OpenAI 的访问权限
- 用于为示例产品和客户数据编制索引的 Azure AI 搜索服务连接。
- 您需要产品和客户数据的本地副本。
添加自有数据,重新尝试聊天模型
在上一篇的快速入门中,你已经观察了在没有自有数据的情况下,模型是如何响应的。现在,你可以为模型补充自有数据,来帮助它回答关于你的产品的问题。
为了完成这部分的练习,你需要关于产品数据的说明,在 GitHub 中的 Azure-Samples/aistudio-python-quickstart-sample 仓库中,包含关于客户和产品的资料,请克隆该仓库,或者复制其中来自 3-product-info 的产品信息。
遵循如下步骤来添加你的数据,不需要改变已经部署的模型,你的数据在你的订阅中被独立和安全的保存。
- 访问 Azure AI Studio
- 在左边的工具栏中选择 Playground > Chat
- 通过 Deployment 下拉列表选择已经部署的模型

- 在演练场的左边,选择添加自有数据 Add your data > +Add a new data source。

- 在数据源 Data source 下拉列表中,选择上传文件 Upload files

- 选择上传 > 上传文件 Upload > Upload files 然后浏览你的本地文件
- 选择希望上传的文件。选择产品信息文件 (3-product-info)。添加所有的文件。在同一个演练场会话中不能再添加文件。
- 选择上传 Upload 将文件上传到 Azure Blog 存储账号中。选择下一步 Next

- 选择 Azure AI Search 服务。在此示例中,我们从 选择 Azure AI Search service 下拉列表中选择 "Connect other Azure AI Search resource"。如果没有搜索资源,可以通过选择 "Create a new Azure AI Search resource" 来创建一个搜索资源。然后返回此步骤进行连接并选择它。

- 浏览你的 Azure AI Search 服务,然后选择添加连接 Add connection

- 在索引名称 Index name 中,输入 product-info,然后继续
- 在 Search settings 页面中,在 Vector settings 下面,取消选择 Add vector search to this search resource 的复选框。该设置帮助模型如何响应请求,然后继续
如果添加了向量搜索,会出现更多的选择和额外的费用
- 复查设置,然后点击创建 Create
- 在演练场中,可以看到你的数据导入正在进行中。此过程可能需要几分钟时间。在继续操作之前,请等待,直到看到数据源和索引名称代替状态。

- 为演练场的配置输入一个名称,然后选择保存 Save > Save configuration。默认保存所有配置项。项目包括部署、系统消息、安全消息、参数、添加的数据、示例和变量。保存同名的配置将保存在以前的版本之上。

- 现在你可以使用询问模型以前相同的问题,这时候,它会使用你的自有数据来构造响应。你还可以使用参考按钮来查看所使用的数据。
从演练场创建提示流
现在你可能会问:“我怎样才能进一步定制这个副驾驶?您可能希望添加多个数据源、比较不同的提示或多个模型的性能。提示流充当可执行工作流,可简化基于 LLM 的 AI 应用程序的开发。它提供了一个全面的框架,用于管理应用程序中的数据流和处理。您可以使用提示流来优化发送到副驾驶聊天模型的消息。
在本节中,你将了解如何从 Playground 转换到提示流。导出 Playground 聊天环境,包括与添加的数据的连接。在本教程的后面部分,你将评估流,然后部署流以供使用。
您可以按照以下步骤从 Playground 创建提示流:
- 转到 AI Studio 中的项目。
- 从左窗格中选择 Playgrounds > Chat。
- 由于我们使用的是自己的数据,因此需要选择“添加数据”。您应该已经拥有之前在聊天 Playground 中创建的名为 product-info 的索引。从“选择可用项目索引”下拉列表中选择它。否则,请先使用您的商品数据创建索引,然后返回此步骤。
- 从聊天会话窗格上方的菜单中选择提示流。
- 输入提示流的文件夹名称。然后选择“打开”。AI Studio 导出 Playground 聊天环境以提示流。导出包括与已添加数据的连接。

在提示流中,节点处于中心位置,代表具有独特功能的特定工具。这些节点处理数据处理、任务执行和算法操作,以及输入和输出。通过连接节点,您可以建立无缝的操作链,以指导数据流通过应用程序。有关详细信息,请参阅提示流工具。
为了便于节点配置和微调,通过 DAG(有向无环图)图提供了工作流结构的可视化表示。此图展示了节点之间的连接和依赖关系,提供了整个工作流的清晰概述。此处显示的图中的节点代表了导出到提示流的 Playground 聊天体验。

在提示流中,您还应该看到:
- 保存按钮:您可以随时通过从顶部菜单中选择保存来保存提示流。在本教程中进行更改时,请务必定期保存提示流。
- “启动计算会话”按钮:需要启动计算会话才能运行提示流。您可以在本教程的后面部分启动会话。计算实例在运行时会产生成本。有关详细信息,请参阅如何创建计算会话。

您可以随时通过从左侧菜单中的“工具”中选择“提示流”返回提示流。然后选择之前创建的提示流文件夹。

使用 Azure AI Studio 构建和部署使用提示流的问答助驾系统的更多相关文章
- 【AMAD】Stream-Framework -- 让你可以使用Cassandra和Redis构建新闻feed,活动流(activity stream)以及通知系统。
动机 简介 个人评分 动机 你曾经是否想为你自己的网站构建Facebook,Github那种feed流. 简介 通过Stream-Framework1你可以做到: Github那种活动流 Twitte ...
- Microsoft宣布为Power BI提供AI模型构建器,关键驱动程序分析和Azure机器学习集成
微软的Power BI现在是一种正在大量结合人工智能(AI)的商业分析服务,它使用户无需编码经验或深厚的技术专长就能够创建报告,仪表板等.近日西雅图公司宣布推出几款新的AI功能,包括图像识别和文本分析 ...
- 《ArcGIS Runtime SDK for Android开发笔记》——(5)、基于Android Studio构建ArcGIS Android开发环境(离线部署)(转)
1.前言 在上一篇的内容里我们介绍了基于Android Studio构建ArcGIS Runtime SDK for Android开发环境的基本流程,流程中我们采用的是基于Gradle的构建方式,在 ...
- Azure 项目构建 – 构建和部署 .NET 应用程序
本课程主要介绍了如何在 Azure 平台上快速构建和部署基于 .NET 语言的 Web 应用, 实践讲解如何使用 Azure 门户创建 Web 应用, 部署 ASP.NET 代码, 连接 Azure ...
- 使用Azure云存储构建高速 Docker registry
使用Azure云存储构建高速 Docker registry 使用Docker来构建应用程序最常见的操作就是 docker run 或者 docker pull了,但是由于众所周知的原因,在国内想要高 ...
- 利用Azure Redis Cache构建百万量级缓存读写
Redis是一个非常流行的基于内存的,低延迟,高吞吐量的key/value数据存储,被广泛用于数据库缓存,session的管理,热数据高速访问,甚至作为数据库方式提高应用程序可扩展性,吞吐量,和实施处 ...
- Azure AI 服务之文本翻译
当下人工智能可谓是风头正劲,几乎所有的大厂都有相关的技术栈.微软在 AI 领域自然也是投入了重注,并且以 Azure 认知服务的方式投入了市场: 也就是说作为开发者我们不需要学习太多 AI 的理论知识 ...
- Azure AI 服务之语音识别
笔者在前文<Azure AI 服务之文本翻译>中简单介绍了 Azure 认知服务中的文本翻译 API,通过这些简单的 REST API 调用就可以轻松地进行机器翻译.如果能在程序中简单的集 ...
- 3.0、Android Studio构建和运行应用
默认情况下,Android Studio可以通过简单的点击就会将新的项目部署到虚拟机或者物理设备中.在Instant Run的帮助下,你可以将更改的方法或资源文件直接推送到一个运行的app而无需构建一 ...
- 跨平台数据库工具Azure Data Studio
Azure Data Studio是一种跨平台数据库工具,适用于在Windows,MacOS和Linux上使用Microsoft系列内部部署和云数据平台的数据专业人员.Azure Data Studi ...
随机推荐
- トヨタ自動車プログラミングコンテスト2024#7(ABC 362)
非常好名次,使我的 \(1\) 旋转 四发罚时应该是这次比赛最唐的东西了,没有就进前一千了 A.Buy a Pen 特判秒了,懒得打三种 ans=,所以就把不能选的那个赋值成无穷大了 #include ...
- 分析ueventd Coldboot耗时问题
安卓go平台启动时间发现如下ueventd耗时1.907s问题: 01-11 00:20:02.854 0 0 I init : Parsing file /odm/etc/init... 01-11 ...
- Android dtbo(2) dto语法
设备树源 (DTS,device tree source) 格式是设备树的文本表示形式.设备树编译器 (DTC) 可将这种格式处理为二进制设备树,这是 Linux 内核要求的形式. 1. 使用引用 D ...
- 数据库运维实操优质文章分享(含Oracle、MySQL等) | 2023年5月刊
本文为大家整理了墨天轮数据社区2023年5月发布的优质技术文章,主题涵盖Oracle.MySQL.PostgreSQL等数据库的安装配置.故障处理.性能优化等日常实践操作,以及常用脚本.注意事项等总结 ...
- DirectoryOpus插件:“照得标管理器”-海量照片分类管理好帮手!
照得标管理器 前言 名词解释:"照得标管理器",即:照片得到标签管理器,后文统一简称"照得标管理器"或"照得标". 注:请不要和抖 ...
- 斜率优化DP简单总结&&“土地购买”题解
今天刚刷完了斜率优化DP,简单从头回顾一下. \[首先,能写出DP方程应该是最重要的,毕竟斜率只是用来优化的 \] 那么一个DP方程能用斜率优化,具备一种形式: \[f[i]+s1[i]+A[i]*B ...
- C# .netcore NPOI库 实现报表的列自适应删减
实际需求:业务上的一个需求,数据库表A中的B字段存放的是该条数据的一些标签,标签存在两级[即一级标签和二级标签], 现在要是实现将这些标签统计到报表中,一级标签作为表头,二级标签作为填充值. 由于之前 ...
- 关于 KubeSphere IDOR 安全漏洞 CVE-2024-46528 的声明及解决方案
近期,有第三方平台的安全技术人员发现了在 KubeSphere 开源版 3.4.1 及 4.1.1 上存在不安全的直接对象引用(IDOR)的漏洞,该漏洞允许低权限的通过认证的攻击者在没有适当授权检查的 ...
- 使用 KubeKey 安装部署 Kubernetes 与 Kube-OVN
作者简介:林瑞超,锐捷网络开发工程师, KubeSphere 社区 contributor, 关注Kube-OVN, Cilium 等容器网络相关技术 背景 KubeKey 是 KubeSphere ...
- 防火墙NAT+DHCP+ACL+ACAP
任务要求: SwitchA作为有线终端网关与DHCP Server,为无线终端与有线终端分配IP地址,并配置ACL访问控制列表控制不同用户的访问权限,客户机只能跟DMZ区域服务器互访,无线访客禁止访问 ...