5分钟理透LangChain的Chain
LangChain几乎是LLM应用开发的第一选择,它的野心也比较大,它致力于将自己打造成LLM应用开发的最大社区。而LangChain最核心的部分非 Chain 莫属。
那Chain到底是个啥,概念比较模糊,像雾像雨又像风,这篇文章将带你快速理透 LangChain 中的 Chain 概念。
1. Chain是核心
LangChain的Chain到底是什么?一句话总结:Chain是指对 LangChain 多个组件的一系列调用。
再看看官网的解释:Chain是指调用的序列 - 无论是调用 LLM、工具还是数据预处理步骤,主要支持的方法是使用 LCEL。
官网里还提到了LCEL,LCEL是LangChain 表达式语言,是一种更加高效简介的链接 LangChain 组件的方式,也是官网推荐的方式。
从下图官网的描述,也可以看到,Chain可以是从最简单的“prompt + LLM”链 到 最复杂的链(运行了包含 100 多个步骤的链)。


2. 为什么需要Chain
我们所期待的LLM是能处理许多复杂任务,而非简单的一问一答,也不是简单的处理单一任务。
所以,最终我期待的LLM处理任务的流程应该是这样,它中间的复杂过程对用户来说是一个黑盒:

既然定位是完成复杂任务,那自然就需要通过某个机制将多个单一任务串起来,形成一个大的链条,多个步骤共同完成某个复杂任务。
***Chain可以将多个步骤连接到一起,最终完成各种复杂繁琐的任务。***这就是Chain存在的必要性了。我很喜欢LangChain的Logo,很形象地表达了这一思想。
Chain需要对多个组件一系列的调用或者一系列的串联,这样才能完成复杂任务。当然,我们也可以把 Chain 看作是流水线。通过使用 Chain,你可以将各个步骤定义为独立的模块,然后按顺序串联起来。这样不仅大大简化了代码逻辑,也使得整个流程更加直观和易于管理。
而LCEL的存在,也只是为了让构建链的过程更简单,让链的表达力更清晰更简单。
接下来,我将通过一个示例展示没有 Chain 和有Chain的2种实现方式,以便更清晰地理解 Chain 的价值。
3. 如果没有Chain
这里举个例子,比如:我们给LLM输入一段项目描述,让LLM给这个项目起一个名称和Slogan。
如果不使用Chain的话,我们可以这样实现。
# 本次需求:我们给LLM输入一段项目描述,让LLM给这个项目起一个名称和Slogan
# 以下是实现:
from langchain.prompts import PromptTemplate, ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
proj_desc = """
我们本次的项目是去森林里探险救援,我们有一个10人小队,
我们要到达一个叫做“蝴蝶谷”的目的地,去那里解救一位被困的科学家。
这期间我们可能会遇到许多危险,我们需要共同合作,互相帮助,历经磨难,才能到达目的地。
我们的任务是要在5天内到达目的地并且救出探险家,才算完成这次探险,否则任务失败,我们将受到惩罚。
出发前我们要各自准备好自己的装备和干粮,加油!
"""
def name_slogan_by_desc(project_desc):
"""
根据项目描述,生成项目名称和slogan
"""
str_parser = StrOutputParser()
promt_template_project_name = "请你根据<desc>标签里的关于某个项目的描述,生成一个项目名称,只需要返回项目名称。<desc>{project_desc}</desc>"
promt_project_name = PromptTemplate.from_template(promt_template_project_name)
final_promt_project_name = promt_project_name.invoke({"project_desc": project_desc})
res_project_name = model.invoke(final_promt_project_name)
parsed_res_project_name = str_parser.invoke(res_project_name)
promt_template_slogan = "请你根据<desc>标签里的关于某个项目的描述,和这个项目的名称{project_name},给这个项目起一个slogan,slogan要求干脆简洁积极向上,只返回slogan。<desc>{project_desc}</desc>"
promt_slogan = PromptTemplate.from_template(promt_template_slogan)
final_promt_slogan = promt_slogan.invoke(
{"project_desc": project_desc, "project_name": parsed_res_project_name}
)
response_slogan = model.invoke(final_promt_slogan)
parsed_response_slogan = str_parser.invoke(response_slogan)
final_result = {
"project_name": parsed_res_project_name,
"slogan": parsed_response_slogan,
}
return final_result
# 输入项目描述,输出项目名称和slogan
result = name_slogan_by_desc(proj_desc)
print(result)
执行结果如下:
{'project_name': '蝴蝶谷救援行动', 'slogan': '拯救科学家,共同合作,蝴蝶谷等你来!'}
可以看到,实现过程比较繁琐,变量和代码也多,不够直观,很容易出错。这还只是简单场景,如果碰到复杂场景就更麻烦了。
4. 因为有了Chain
接下来,我们使用 LangChain 的 Chain 功能,来实现相同的功能。代码如下:
# 本次需求:我们给LLM输入一段项目描述,让LLM给这个项目起一个名称和Slogan
# 以下是实现:
from operator import itemgetter
from langchain.prompts import PromptTemplate, ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
from langchain.chains import LLMChain, SequentialChain
proj_desc = """
我们本次的项目是去森林里探险救援,我们有一个10人小队,
我们要到达一个叫做“蝴蝶谷”的目的地,去那里解救一位被困的科学家。
这期间我们可能会遇到许多危险,我们需要共同合作,互相帮助,历经磨难,才能到达目的地。
我们的任务是要在5天内到达目的地并且救出探险家,才算完成这次探险,否则任务失败,我们将受到惩罚。
出发前我们要各自准备好自己的装备和干粮,加油!
"""
def name_slogan_by_desc(project_desc):
"""
根据项目描述,生成项目名称和slogan
"""
# 第1条链
promt_template_project_name = "请你根据<desc>标签里的关于某个项目的描述,生成一个项目名称,只需要返回项目名称。<desc>{project_desc}</desc>"
chain_one = LLMChain(
llm=model,
prompt=PromptTemplate.from_template(promt_template_project_name),
output_parser=StrOutputParser(),
output_key="project_name",
)
# 第2条链
promt_template_slogan = "请你根据<desc>标签里的关于某个项目的描述,和这个项目的名称{project_name},给这个项目起一个slogan,slogan要求干脆简洁积极向上,只返回slogan。<desc>{project_desc}</desc>"
chain_two = LLMChain(
llm=model,
prompt=PromptTemplate.from_template(promt_template_slogan),
output_parser=StrOutputParser(),
output_key="slogan",
)
# 串联两条链
sequential_chain = SequentialChain(
chains=[chain_one, chain_two],
input_variables=["project_desc"],
output_variables=["project_name", "slogan"],
)
final_res = sequential_chain(project_desc)
final_result = {
"project_name": final_res["project_name"],
"slogan": final_res["slogan"],
}
return final_result
# 输入项目描述,输出项目名称和slogan
result = name_slogan_by_desc(proj_desc)
print(result)
执行结果如下:
{'project_name': '蝴蝶谷救援行动', 'slogan': '团结合作,共赴蝴蝶谷'}
可以看到代码更简洁,也很直观,当然,也可以使用LCEL让整个链条更加简洁清晰。
5. LCEL表达式
LCEL方式的代码如下:
# 本次需求:我们给LLM输入一段项目描述,让LLM给这个项目起一个名称和Slogan
# 以下是实现:
from langchain.prompts import PromptTemplate, ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
proj_desc = """
我们本次的项目是去森林里探险救援,我们有一个10人小队,
我们要到达一个叫做“蝴蝶谷”的目的地,去那里解救一位被困的科学家。
这期间我们可能会遇到许多危险,我们需要共同合作,互相帮助,历经磨难,才能到达目的地。
我们的任务是要在5天内到达目的地并且救出探险家,才算完成这次探险,否则任务失败,我们将受到惩罚。
出发前我们要各自准备好自己的装备和干粮,加油!
"""
def name_slogan_by_desc(project_desc):
"""
根据项目描述,生成项目名称和slogan
"""
# 第1条链
promt_template_project_name = "请你根据<desc>标签里的关于某个项目的描述,生成一个项目名称,只需要返回项目名称。<desc>{project_desc}</desc>"
chain_one = (
PromptTemplate.from_template(promt_template_project_name)
| model
| {"project_name": StrOutputParser(), "project_desc": lambda x: project_desc}
)
# 第2条链
promt_template_slogan = "请你根据<desc>标签里的关于某个项目的描述,和这个项目的名称{project_name},给这个项目起一个slogan,slogan要求干脆简洁积极向上,只返回slogan。<desc>{project_desc}</desc>"
chain_two = (
PromptTemplate.from_template(promt_template_slogan)
| model
| {"slogan": StrOutputParser(), "project_info": lambda x: chain_one}
)
# 串联两条链
final_chain = chain_one | chain_two
final_res = final_chain.invoke({"project_desc": project_desc})
final_result = {
"project_name": final_res["project_info"]["project_name"],
"slogan": final_res["slogan"],
}
return final_result
# 输入项目描述,输出项目名称和slogan
result = name_slogan_by_desc(proj_desc)
print(result)
普通方式和LCEL方式的核心代码对比:
- 普通方式:

- LCEL方式:

6. 总结
本文主要聊了 LangChain 中的 Chain 概念。Chain 是 LangChain 中的核心组件,我们对多个组件的一系列调用就是Chain。
使用Chain可以让构建复杂的任务,更加清晰简洁。
=====>>>>>> 关于我 <<<<<<=====
本篇完结!欢迎点赞 关注 收藏!!!
原文链接:https://mp.weixin.qq.com/s/IdaO8CeS1TKoQDCcjMqWsg

5分钟理透LangChain的Chain的更多相关文章
- 【从小白到专家】 Istio专题之七:30分钟讲透Istio访问与控制
本文为Istio系列专题之七--Istio访问与控制.Istio通过身份认证.授权.多重安全策略,来保证微服务的安全,实现代码无侵入性.有时我们需要对微服务间的相互访问进行控制,比如满足某些条件的微服 ...
- 1分钟理清楚C++类模板和模板类区别
1.定义区别 类模板和模板类主要关注点是后一个单词. 类模板:主要描述的是模板,这个模板是类的模板.可以理解为一个通用的类,这个类中的数据成员,成员函数的形参类型以及成员函数的返回值类型不用具体的指定 ...
- 灵雀云Istio技术实践专题整理
Istio技术实践专题(1) Service Mesh Istio 基本概念和架构基础 Istio被称作Kubernetes的最佳云原生拍档.从今天起,我们推出"Istio技术实践" ...
- Hive企业级性能优化
Hive作为大数据平台举足轻重的框架,以其稳定性和简单易用性也成为当前构建企业级数据仓库时使用最多的框架之一. 但是如果我们只局限于会使用Hive,而不考虑性能问题,就难搭建出一个完美的数仓,所以Hi ...
- [SQL注入3]from_sqli_to_shell_II
[SQL注入1]这关学习盲注 ,这篇还有些东西没理透,后面搞明白了再修改. http://www.pentesterlab.com/exercises/from_sqli_to_shell_II/ 准 ...
- 跌跌撞撞的看完了《jquery技术内幕》
今年2月20日买的书,今天是5月26,三个月来,除了周末休息一天,如果没有特殊情况,我都会每晚花两个小时看这本书,以及查各种与jquery源码相关的资料.今天总算是跌跌撞撞的看完了,有点小激动,也有点 ...
- 不同CSS布局实现与文字鼠标选择的可用性——张鑫旭
by zhangxinxu from http://www.zhangxinxu.com本文地址:http://www.zhangxinxu.com/wordpress/?p=2401 一.文字选择的 ...
- 2018年5月20日--西安icpc邀请赛打铁总结
2018年5月20日--西安icpc邀请赛打铁总结 事后诸葛亮 大致回顾一下比赛,29号的热身赛和30号的正式赛. 热身赛总共三道题,一个小时,没有AC一道题目. A题是一个几何题目,审题时犯了一个 ...
- 数据结构中的树(二叉树、二叉搜索树、AVL树)
数据结构动图展示网站 树的概念 树(英语:tree)是一种抽象数据类型(ADT)或是实作这种抽象数据类型的数据结构,用来模拟具有树状结构性质的数据集合.它是由n(n>=1)个有限节点组成一个具有 ...
- 第一次编程作业(My Own Score)
博客班级 https://edu.cnblogs.com/campus/fzzcxy/2018SE2 作业要求 https://edu.cnblogs.com/campus/fzzcxy/2018SE ...
随机推荐
- 微信不再提供小程序打开App?借助H5为App引流的方式你必须知道!
简介: 2021年5月14日App开发者领域发布了一条重要消息:微信开放平台为了提升用户体验,将于2021年5月20日(后来延期到2021年5月27日)起不再提供"小程序打开App技术服务& ...
- iOS App 启动优化
简介: 作为程序猿来说,"性能优化"是我们都很熟悉的词,也是我们需要不断努⼒以及持续进⾏的事情:其实优化是⼀个很⼤的课题,因为细分来说的话有⼤⼤⼩⼩⼗⼏种优化⽅向 ,但是切忌在实 ...
- 2021云栖大会丨阿里云发布第四代神龙架构,提供业界首个大规模弹性RDMA加速能力
简介: 10月20日,2021年杭州栖大云会上,阿里云发布第四代神龙架构,升级至全新的eRMDA网络架构,是业界首个大规模弹性RDMA加速能力. 10月20日,2021年杭州栖大云会上,阿里云发布第 ...
- Joint Consensus两阶段成员变更的单步实现
简介: Raft提出的两阶段成员变更Joint Consensus是业界主流的成员变更方法,极大的推动了成员变更的工程应用.但Joint Consensus成员变更采用两阶段,一次变更需要提议两条日 ...
- dotnet 使用 ConfigureAwait.Fody 库设置默认的 await 同步上下文切换配置
在 dotnet 里面,使用 await 进行异步逻辑,默认是会尝试切换回调用 await 的线程同步上下文.这个机制对于大多数的上层应用来说都是符合逻辑且方便的逻辑,例如对于带 UI 线程的 WPF ...
- 以 standalone 模式启动 Aapche Pulsar
以 standalone 模式启动 Aapche Pulsar standalone 模式常用于开发测试阶段,请勿在生产环境使用. 目录 以 standalone 模式启动 Aapche Pulsar ...
- appium测试混合应用
最近用appium测试公司APP,APP是原生+H5的模式,测试过程中发现大部分H5的页面使用原生的方式可以进行操作,只有少部分H5页面的按钮虽然在uiautomatorviewer的界面能解析出来, ...
- SAP HANA计算视图
Text. Text. Text. Text. Text. Text. Text. Text. Text. Text. 越来越多的SAP用户正在将SAP HANA实施为现有SAP BW的基础和数据库. ...
- 【爬虫数据集】滇西小哥YouTube频道TOP10热门视频的热评数据,共2W条!
目录 一.背景介绍 二.爬取目标 三.结果展示 四.演示视频 五.附完整数据 一.背景介绍 滇西小哥是一位来自中国云南省的视频博主,他在YouTube上拥有超过1000万的订阅者和上亿的观看量.他的视 ...
- 智能体Agent-书生浦语大模型实战营学习笔记6&大语言模型10
大语言模型学习:10.智能体Agent 书生浦语大模型实战营学习笔记6 定义 即P(感知)-> P(规划)->A(行动).类似人类「做事情」的过程,Agent的核心功能,可以归纳为三个步骤 ...