Python连接es笔记一之连接与查询es
本文首发于公众号:Hunter后端
原文链接:Python连接es笔记一之连接与查询es
有几种方式在 Python 中配置与 es 的连接,最简单最有用的方法就是定义一个默认的连接,如果系统不是需要访问多个集群,最建议的方式就是使用 create_connection 方法创建连接,然后所有的操作都会自动使用这个连接。
以下是本篇笔记目录:
- 安装依赖
- 连接
- Search 查询
- Response 返回结果详解
1、安装依赖
我们使用的依赖名称为 elasticsearch_dsl,我们这里使用的 es 版本是 7.2.0,所以安装方式如下:
pip3 install elasticsearch_dsl==7.2.0
2、连接
默认连接方式
我们可以通过下面的方式来连接 es:
from elasticsearch_dsl import connections
connections.create_connection(hosts=["localhost"], timeout=20)
或者我们也可以加一个 alias,用作连接的别名,在后面可以很方便的用上:
from elasticsearch_dsl import connections
connections.create_connection(alias="new_conn", hosts=["localhost"], timeout=20)
多集群连接
如果我们想同时连接多个集群,可以使用 configure 方法:
connections.configure(
default={"hosts": "localhost"},
dev={
"hosts": ["example.com:9200"],
"sniff_on_start": True,
}
)
使用别名
当使用多个连接的时候,我们可以使用别名,也就是前面的 alias 参数来指代连接:
s = Search(using="default")
3、Search 查询
接下来介绍下如何在 Python 中查询 es 数据。
注意下,当我们安装 elasticsearch_dsl 依赖的时候,系统会自动为我们安装 elasticsearch 模块,我们可以直接引用。
我们默认前面已经设置好了全局的 es 连接,之后的操作都基于这个连接:
from elasticsearch_dsl import connections
connections.configure(
default={"hosts": "localhost:9200"},
)
我们来执行一下查询和打印操作:
response = Search(using="default").query("match", name="张三丰").execute()
print(response)
可以看到 response 就打印出了我们在之前往 es 的 exam 这个 index 中写入的数据:
<Response: [<Hit(exam/16): {'name': '张三丰', 'address': '一个苹果'}>]>
我们先来介绍下执行查询的操作。
链式操作
这个查询的 API 是链式操作,可以允许你链接多个操作,比如我们前面的 Search() 后直接跟了 query() 方法,然后直接 execute()。
我们分开执行也是可以的:
s = Search(using="default")
s = s.query("match", name="张三丰")
response = s.execute()
指定 index
在上面的 Search() 方法里,我们通过 using 指定了连接,但是没有指定 index,那么就默认搜索的是该连接的全部 index,我们可以通过 index() 函数指定 index,也可以向 Search() 中添加 index 参数来指定 index。
s = Search(using="default", index="exam").query("match", name="张三丰")
response = s.execute()
s = Search(using="default").index("exam").query("match", name="张三丰")
response = s.execute()
转换 es 查询语句
如果我们想要查看执行的语句转换成的 es 的语句,可以使用 to_dict() 方法:
s = Search(using="default", index="exam").query("match", name="张三丰")
print(s.to_dict())
# {'query': {'match': {'name': '张三丰'}}}
删除语句
前面介绍了 s = Search().query() 的 execute() 是执行,获取返回结果,to_dict() 是转换成 es 语句,如果是需要删除查询的数据,可以如下操作:
s = Search(using="default").index("exam").query("match", name="张三丰")
s.delete()
4、Response 返回结果详解
为了详细查看 response 中的详细情况,我们可以在 Python 的 shell 中挨个执行下面的命令,获得 response 对象,然后再操作 response,当然,前面记得创建 es 的连接:
>>> s = Search(using="default").index("exam").query("match", name="张三丰")
>>> response = s.execute()
对于 response,本身我们可以使用 Python 中的列表的形式来访问它,来获取它的数据,比如执行 print(response[0]) 可以看到这条数据本身的信息:
>>> print(response[1])
# <Hit(exam/24): {'name': '张三丰', 'address': '中国湖北省', 'age': 22}>
如果我们查看 type(response) 可以发现它来源于 <class 'elasticsearch_dsl.response.Response'> 定义了一个 iter() 方法,所以我们可以对这个对象使用迭代方法。
在这个方法内部它迭代的其实是 response.hits 属性,也就是我们 es 查询返回的数据。
所以我们执行 response[0] 和 response.hits[0] 是等效操作。
获取总数
因为我们上面的查询操作没有设置 size,所以默认最多返回的是 10 条数据,但如果我们想要获取符合我们查询条件的总数,我们可以这样获取:
count = response.hits.total.value
单条数据详情
上面介绍了我们可以通过 response[0] 获得单条数据,对于单条数据,我们还可以获取更多的详情信息。
hit = response.hits[0]
如果我们想一次性获取返回的数据的各个字段及相应的值,我们可以使用 to_dict() 方法:
hit.to_dict()
# {'name': '张三丰', 'address': '中国', 'age': 21}
获取单个值,比如 name,也可以直接:
print(hit.name)
也可以获取数据的 meta 信息,其中包含了这条数据所在的 index,id,匹配分值 score 等:
hit.meta
# {'index': 'exam', 'id': '23', 'score': 0.4700036, 'doc_type'...}
如果想获取更多后端相关文章,可扫码关注阅读:

Python连接es笔记一之连接与查询es的更多相关文章
- 白日梦的ES笔记三:万字长文 Elasticsearch基础概念统一扫盲
目录 一.导读 二.彩蛋福利:账号借用 三.ES的Index.Shard及扩容机制 四.ES支持的核心数据类型 4.1.数字类型 4.2.日期类型 4.3.boolean类型 4.4.二进制类型 4. ...
- python中的MySQL数据库操作 连接 插入 查询 更新 操作
MySQL数据库 就数据库而言,连接之后就要对其操作.但是,目前那个名字叫做qiwsirtest的数据仅仅是空架子,没有什么可操作的,要操作它,就必须在里面建立“表”,什么是数据库的表呢?下面摘抄自维 ...
- python socket 编程之三:长连接、短连接以及心跳
长连接:开启一个socket连接,收发完数据后,不立刻关闭连接,可以多次收发数据包. 短连接:开启一个socket连接,收发完数据后,立刻关闭连接. 心跳:长连接在没有数据通信时,定时发送数据包(心跳 ...
- python socket 编程之三:长连接、短连接以及心跳(转药师Aric的文章)
长连接:开启一个socket连接,收发完数据后,不立刻关闭连接,可以多次收发数据包. 短连接:开启一个socket连接,收发完数据后,立刻关闭连接. 心跳:长连接在没有数据通信时,定时发送数据包(心跳 ...
- CNN学习笔记:全连接层
CNN学习笔记:全连接层 全连接层 全连接层在整个网络卷积神经网络中起到“分类器”的作用.如果说卷积层.池化层和激活函数等操作是将原始数据映射到隐层特征空间的话,全连接层则起到将学到的特征表示映射到样 ...
- 关于python语言使用redis时,连接是否需要关闭的问题
python操作完redis,需要关闭连接的吧,怎么关闭呢 1人赞 回复 君惜丶: redis-server会关闭空闲超时的连接redis.conf中可以设置超时时间:timeout 300 2017 ...
- Python 使用 PyMysql、DBUtils 创建连接池,提升性能
转自:https://blog.csdn.net/weixin_41287692/article/details/83413775 Python 编程中可以使用 PyMysql 进行数据库的连接及诸如 ...
- python通过socket实现多个连接并实现ssh功能详解
python通过socket实现多个连接并实现ssh功能详解 一.前言 上一篇中我们已经知道了客户端通过socket来连接服务端,进行了一次数据传输,那如何实现客户端多次发生数据?而服务端接受多个客户 ...
- 用python调试Appium和雷电模拟器连接时出现Original error: Could not find 'adb.exe' in PATH
用python调试Appium和雷电模拟器连接时出现Original error: Could not find 'adb.exe' in PATH 确定环境变量没错,用管理员启动Appium就不会出 ...
- python操作 linux连接wifi,查看wifi连接状态方法
Python连接Ubuntu 环境 wifi流程 1.获取网络接口列表 通过wifi_net.py 的query_net_cards方法获取终端物理网络接口列表及IP信息: 获取物理网络接口列表: ...
随机推荐
- ovs-dpdk:revalidator源码解析
revalidator是做什么的?需要知道哪些东西? 有关于revalidator需要弄明白的是以下三个问题: 通过ovs-vsctl list open_vs可以看到other_config里面有两 ...
- Windows10绿色植物主题Kemikal
给大家分享一个Windows10的主题,Kemikal主题,内置8张绿色植物树木的壁纸.使用这个主题前需要破解系统主题文件. 想要完整的使用这个主题,需要下载安装下方的三个文件: Windows10主 ...
- 记录hive一次数据倾斜问题的解决以及思考总结
解决数据倾斜是大数据开发中比较重要的能力,这个现象指的是分布式集群中,由于数据分发的不当,导致某个节点要处理的错误过多,导致整个计算机任务迟迟结束不了,甚至可能节点出现OOM使得任务失败 处理数据倾斜 ...
- 相同基准点的多个rvt BIM模型数据配准后位置有错位偏差问题处理
场景:提供的bim模型数据包含多个rvt格式数据,这些数据具有相同的基准点,如: 在使用ArcGIS Pro处理了其中两份rvt格式数据(建筑和给排水),发布后在前端展示发现数据错位: 红色管线的给排 ...
- 你不得不了解的CSS数据类型
在我之前的开发中,CSS对于我来说,要用什么找什么,对CSS的了解并不算深入:在我刚开始深入学习CSS时,第一个遇到的就是CSS数据类型,我听说过JS.TS的数据类型,CSS怎么也有数据类型?但是随着 ...
- ChatGPT 和 Midjourney 初体验
ChatGPT 和 Midjourney 这两个系统这些天红的发紫,自己也尝试着注册和使用了一下. 一.ChatGPT 我在上周才刚刚注册 OpenAI,注册过程也比较麻烦. 国内的 IP 是无法访问 ...
- Exception-List
一.500错误:找不到 jar包 应用根目录/WEB-INF/lib目录中没有对应的jar包. ctrl+shift+alt+s,打开artifacts,发现outputRoot里缺少lib目录.添加 ...
- 重新理解RocketMQ Commit Log存储协议
本文作者:李伟,社区里大家叫小伟,Apache RocketMQ Committer,RocketMQ Python客户端项目Owner ,Apache Doris Contributor,腾讯云Ro ...
- SMBMS超市管理系统(Javaweb项目)
SMBMS超市管理系统(Javaweb项目) 项目环境 jdk 1.8.0_261 mysql 8.0.21 IDEA 2021.2.2 项目架构 数据库 项目源代码 filer 字符编码过滤器 pa ...
- 使用select需要注意的细节
使用select需要注意的细节 在学校的时候就使用过select,但是在项目中使用的时候却犯了个错误. select如何使用就不进行总结了,网上教程太多,以下是项目中我写的一小段代码,便于总结. in ...