LangChain几乎是LLM应用开发的第一选择,它的野心也比较大,它致力于将自己打造成LLM应用开发的最大社区。而LangChain最核心的部分非 Chain 莫属。

Chain到底是个啥,概念比较模糊,像雾像雨又像风,这篇文章将带你快速理透 LangChain 中的 Chain 概念。

1. Chain是核心

LangChain的Chain到底是什么?一句话总结:Chain是指对 LangChain 多个组件的一系列调用。

再看看官网的解释:Chain是指调用的序列 - 无论是调用 LLM、工具还是数据预处理步骤,主要支持的方法是使用 LCEL。

官网里还提到了LCEL,LCEL是LangChain 表达式语言,是一种更加高效简介的链接 LangChain 组件的方式,也是官网推荐的方式。

从下图官网的描述,也可以看到,Chain可以是从最简单的“prompt + LLM”链 到 最复杂的链(运行了包含 100 多个步骤的链)。

2. 为什么需要Chain

我们所期待的LLM是能处理许多复杂任务,而非简单的一问一答,也不是简单的处理单一任务。

所以,最终我期待的LLM处理任务的流程应该是这样,它中间的复杂过程对用户来说是一个黑盒:

既然定位是完成复杂任务,那自然就需要通过某个机制将多个单一任务串起来,形成一个大的链条,多个步骤共同完成某个复杂任务。

***Chain可以将多个步骤连接到一起,最终完成各种复杂繁琐的任务。***这就是Chain存在的必要性了。我很喜欢LangChain的Logo,很形象地表达了这一思想。

Chain需要对多个组件一系列的调用或者一系列的串联,这样才能完成复杂任务。当然,我们也可以把 Chain 看作是流水线。通过使用 Chain,你可以将各个步骤定义为独立的模块,然后按顺序串联起来。这样不仅大大简化了代码逻辑,也使得整个流程更加直观和易于管理。

而LCEL的存在,也只是为了让构建链的过程更简单,让链的表达力更清晰更简单。

接下来,我将通过一个示例展示没有 Chain有Chain的2种实现方式,以便更清晰地理解 Chain 的价值。

3. 如果没有Chain

这里举个例子,比如:我们给LLM输入一段项目描述,让LLM给这个项目起一个名称Slogan

如果不使用Chain的话,我们可以这样实现。

# 本次需求:我们给LLM输入一段项目描述,让LLM给这个项目起一个名称和Slogan
# 以下是实现: from langchain.prompts import PromptTemplate, ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser proj_desc = """
我们本次的项目是去森林里探险救援,我们有一个10人小队,
我们要到达一个叫做“蝴蝶谷”的目的地,去那里解救一位被困的科学家。
这期间我们可能会遇到许多危险,我们需要共同合作,互相帮助,历经磨难,才能到达目的地。
我们的任务是要在5天内到达目的地并且救出探险家,才算完成这次探险,否则任务失败,我们将受到惩罚。
出发前我们要各自准备好自己的装备和干粮,加油!
""" def name_slogan_by_desc(project_desc):
"""
根据项目描述,生成项目名称和slogan
"""
str_parser = StrOutputParser() promt_template_project_name = "请你根据<desc>标签里的关于某个项目的描述,生成一个项目名称,只需要返回项目名称。<desc>{project_desc}</desc>"
promt_project_name = PromptTemplate.from_template(promt_template_project_name)
final_promt_project_name = promt_project_name.invoke({"project_desc": project_desc})
res_project_name = model.invoke(final_promt_project_name)
parsed_res_project_name = str_parser.invoke(res_project_name) promt_template_slogan = "请你根据<desc>标签里的关于某个项目的描述,和这个项目的名称{project_name},给这个项目起一个slogan,slogan要求干脆简洁积极向上,只返回slogan。<desc>{project_desc}</desc>"
promt_slogan = PromptTemplate.from_template(promt_template_slogan)
final_promt_slogan = promt_slogan.invoke(
{"project_desc": project_desc, "project_name": parsed_res_project_name}
)
response_slogan = model.invoke(final_promt_slogan)
parsed_response_slogan = str_parser.invoke(response_slogan) final_result = {
"project_name": parsed_res_project_name,
"slogan": parsed_response_slogan,
}
return final_result # 输入项目描述,输出项目名称和slogan
result = name_slogan_by_desc(proj_desc)
print(result)

执行结果如下:

{'project_name': '蝴蝶谷救援行动', 'slogan': '拯救科学家,共同合作,蝴蝶谷等你来!'}

可以看到,实现过程比较繁琐,变量和代码也多,不够直观,很容易出错。这还只是简单场景,如果碰到复杂场景就更麻烦了。

4. 因为有了Chain

接下来,我们使用 LangChain 的 Chain 功能,来实现相同的功能。代码如下:

# 本次需求:我们给LLM输入一段项目描述,让LLM给这个项目起一个名称和Slogan
# 以下是实现: from operator import itemgetter
from langchain.prompts import PromptTemplate, ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
from langchain.chains import LLMChain, SequentialChain proj_desc = """
我们本次的项目是去森林里探险救援,我们有一个10人小队,
我们要到达一个叫做“蝴蝶谷”的目的地,去那里解救一位被困的科学家。
这期间我们可能会遇到许多危险,我们需要共同合作,互相帮助,历经磨难,才能到达目的地。
我们的任务是要在5天内到达目的地并且救出探险家,才算完成这次探险,否则任务失败,我们将受到惩罚。
出发前我们要各自准备好自己的装备和干粮,加油!
""" def name_slogan_by_desc(project_desc):
"""
根据项目描述,生成项目名称和slogan
""" # 第1条链
promt_template_project_name = "请你根据<desc>标签里的关于某个项目的描述,生成一个项目名称,只需要返回项目名称。<desc>{project_desc}</desc>"
chain_one = LLMChain(
llm=model,
prompt=PromptTemplate.from_template(promt_template_project_name),
output_parser=StrOutputParser(),
output_key="project_name",
) # 第2条链
promt_template_slogan = "请你根据<desc>标签里的关于某个项目的描述,和这个项目的名称{project_name},给这个项目起一个slogan,slogan要求干脆简洁积极向上,只返回slogan。<desc>{project_desc}</desc>"
chain_two = LLMChain(
llm=model,
prompt=PromptTemplate.from_template(promt_template_slogan),
output_parser=StrOutputParser(),
output_key="slogan",
) # 串联两条链
sequential_chain = SequentialChain(
chains=[chain_one, chain_two],
input_variables=["project_desc"],
output_variables=["project_name", "slogan"],
)
final_res = sequential_chain(project_desc) final_result = {
"project_name": final_res["project_name"],
"slogan": final_res["slogan"],
}
return final_result # 输入项目描述,输出项目名称和slogan
result = name_slogan_by_desc(proj_desc)
print(result)

执行结果如下:

{'project_name': '蝴蝶谷救援行动', 'slogan': '团结合作,共赴蝴蝶谷'}

可以看到代码更简洁,也很直观,当然,也可以使用LCEL让整个链条更加简洁清晰。

5. LCEL表达式

LCEL方式的代码如下:

# 本次需求:我们给LLM输入一段项目描述,让LLM给这个项目起一个名称和Slogan
# 以下是实现: from langchain.prompts import PromptTemplate, ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser proj_desc = """
我们本次的项目是去森林里探险救援,我们有一个10人小队,
我们要到达一个叫做“蝴蝶谷”的目的地,去那里解救一位被困的科学家。
这期间我们可能会遇到许多危险,我们需要共同合作,互相帮助,历经磨难,才能到达目的地。
我们的任务是要在5天内到达目的地并且救出探险家,才算完成这次探险,否则任务失败,我们将受到惩罚。
出发前我们要各自准备好自己的装备和干粮,加油!
""" def name_slogan_by_desc(project_desc):
"""
根据项目描述,生成项目名称和slogan
""" # 第1条链
promt_template_project_name = "请你根据<desc>标签里的关于某个项目的描述,生成一个项目名称,只需要返回项目名称。<desc>{project_desc}</desc>"
chain_one = (
PromptTemplate.from_template(promt_template_project_name)
| model
| {"project_name": StrOutputParser(), "project_desc": lambda x: project_desc}
) # 第2条链
promt_template_slogan = "请你根据<desc>标签里的关于某个项目的描述,和这个项目的名称{project_name},给这个项目起一个slogan,slogan要求干脆简洁积极向上,只返回slogan。<desc>{project_desc}</desc>"
chain_two = (
PromptTemplate.from_template(promt_template_slogan)
| model
| {"slogan": StrOutputParser(), "project_info": lambda x: chain_one}
) # 串联两条链
final_chain = chain_one | chain_two
final_res = final_chain.invoke({"project_desc": project_desc}) final_result = {
"project_name": final_res["project_info"]["project_name"],
"slogan": final_res["slogan"],
} return final_result # 输入项目描述,输出项目名称和slogan
result = name_slogan_by_desc(proj_desc)
print(result)

普通方式和LCEL方式的核心代码对比:

  • 普通方式

  • LCEL方式

6. 总结

本文主要聊了 LangChain 中的 Chain 概念。Chain 是 LangChain 中的核心组件,我们对多个组件的一系列调用就是Chain。

使用Chain可以让构建复杂的任务,更加清晰简洁。

=====>>>>>> 关于我 <<<<<<=====

本篇完结!欢迎点赞 关注 收藏!!!

原文链接:https://mp.weixin.qq.com/s/IdaO8CeS1TKoQDCcjMqWsg

5分钟理透LangChain的Chain的更多相关文章

  1. 【从小白到专家】 Istio专题之七:30分钟讲透Istio访问与控制

    本文为Istio系列专题之七--Istio访问与控制.Istio通过身份认证.授权.多重安全策略,来保证微服务的安全,实现代码无侵入性.有时我们需要对微服务间的相互访问进行控制,比如满足某些条件的微服 ...

  2. 1分钟理清楚C++类模板和模板类区别

    1.定义区别 类模板和模板类主要关注点是后一个单词. 类模板:主要描述的是模板,这个模板是类的模板.可以理解为一个通用的类,这个类中的数据成员,成员函数的形参类型以及成员函数的返回值类型不用具体的指定 ...

  3. 灵雀云Istio技术实践专题整理

    Istio技术实践专题(1) Service Mesh Istio 基本概念和架构基础 Istio被称作Kubernetes的最佳云原生拍档.从今天起,我们推出"Istio技术实践" ...

  4. Hive企业级性能优化

    Hive作为大数据平台举足轻重的框架,以其稳定性和简单易用性也成为当前构建企业级数据仓库时使用最多的框架之一. 但是如果我们只局限于会使用Hive,而不考虑性能问题,就难搭建出一个完美的数仓,所以Hi ...

  5. [SQL注入3]from_sqli_to_shell_II

    [SQL注入1]这关学习盲注 ,这篇还有些东西没理透,后面搞明白了再修改. http://www.pentesterlab.com/exercises/from_sqli_to_shell_II/ 准 ...

  6. 跌跌撞撞的看完了《jquery技术内幕》

    今年2月20日买的书,今天是5月26,三个月来,除了周末休息一天,如果没有特殊情况,我都会每晚花两个小时看这本书,以及查各种与jquery源码相关的资料.今天总算是跌跌撞撞的看完了,有点小激动,也有点 ...

  7. 不同CSS布局实现与文字鼠标选择的可用性——张鑫旭

    by zhangxinxu from http://www.zhangxinxu.com本文地址:http://www.zhangxinxu.com/wordpress/?p=2401 一.文字选择的 ...

  8. 2018年5月20日--西安icpc邀请赛打铁总结

    2018年5月20日--西安icpc邀请赛打铁总结  事后诸葛亮 大致回顾一下比赛,29号的热身赛和30号的正式赛. 热身赛总共三道题,一个小时,没有AC一道题目. A题是一个几何题目,审题时犯了一个 ...

  9. 数据结构中的树(二叉树、二叉搜索树、AVL树)

    数据结构动图展示网站 树的概念 树(英语:tree)是一种抽象数据类型(ADT)或是实作这种抽象数据类型的数据结构,用来模拟具有树状结构性质的数据集合.它是由n(n>=1)个有限节点组成一个具有 ...

  10. 第一次编程作业(My Own Score)

    博客班级 https://edu.cnblogs.com/campus/fzzcxy/2018SE2 作业要求 https://edu.cnblogs.com/campus/fzzcxy/2018SE ...

随机推荐

  1. 汽车之家:基于 Flink + Iceberg 的湖仓一体架构实践

    简介: 由汽车之家实时计算平台负责人邸星星在 4 月 17 日上海站 Meetup 分享的,基于 Flink + Iceberg 的湖仓一体架构实践. 内容简要: 一.数据仓库架构升级的背景 二.基于 ...

  2. dotnet 6 已知问题 获取 CultureInfo.NumberFormat 可能抛出 IndexOutOfRangeException 异常

    本文记录一个 dotnet 6 已知问题,准确来说这是一个在 dotnet 5 引入的问题,到 dotnet 6.0.12 还没修.在获取 CultureInfo.NumberFormat 属性时,在 ...

  3. SemanticFunction 自然语言函数

    本文将和大家介绍 LLM 的魔法,通过自然语言编程的方式开发 SemanticFunction 函数 大家都知道,编程里面的函数可以是一个完成某个功能的逻辑片段,绝大部分的函数都需要使用人类不友好的编 ...

  4. C#使用MX Component实现三菱PLC软元件数据采集的完整步骤(仿真)

    前言 本文介绍了如何使用三菱提供的MX Component插件实现对三菱PLC软元件数据的读写,记录了使用计算机仿真,模拟PLC,直至完成测试的详细流程,并重点介绍了在这个过程中的易错点,供参考. 用 ...

  5. kali 的 vim 中不能粘贴复制

    kali 的 vim 中不能粘贴复制 进入 vim 命令行模式,输入 :set mouse=c 之后可以正常粘贴复制

  6. Golang重复Rails Devise gem密码加密

    https://github.com/haimait/go-devise-encryptor package main import ( "fmt" //devisecrypto ...

  7. ubuntu系统下安装最新版的MySQL

    目录 下载mysql源 视频地址 原文章地址 下载mysql源 打开mysql官网 mysql官网文档 进入下载地址页面 下载mysql源 apt-get install -y wget #如果没有w ...

  8. postgresql数据库清理

    大量update或者delete后 磁盘空间会猛增.原理是postgresql并没有真正的删除 只是将删除数据的状态置为已删除,该空间不能记录被从新使用.若是删除的记录位于表的末端,其所占用的空间将会 ...

  9. 计算机组成原理—中央处理器CPU

    文章目录 CPU的功能与架构 CPU的组成 运算器 控制器 指令执行过程 指令流程 指令执行方案 数据通路 单总线结构 专用通路结构 硬布线控制器设计 硬布线执行流程 硬布线CU内部 怎么设计微操作的 ...

  10. Python重试任务模块tenacity

    软硬件环境 windows 11 64bits python 3.6 tenacity 简介 在实际应用中,经常会碰到在web请求时,因为网络的不稳定,会有请求超时的问题,这时候,一般都是自己去实现重 ...