elasticsearch之DSL查询结果处理

news/2025/1/16 14:43:48/文章来源:https://www.cnblogs.com/WarBlog/p/18674958

搜索的结果可以按照用户指定的方式去处理或展示。

  • 排序
  • 分页
  • 搜索关键词高亮

排序

elasticsearch默认是根据相关度算分(_score)来排序,但是也支持自定义方式对搜索结果排序。可以排序字段类型有:keyword类型、数值类型、地理坐标类型、日期类型等。

普通字段排序

keyword、数值、日期类型排序的语法基本一致。

语法

GET /indexName/_search
{"query": {"match_all": {}},"sort": [{"FIELD": {"order":"desc"}  // 排序字段、排序方式ASC、DESC
    }]
}

地理坐标排序

地理坐标排序略有不同。

语法说明

GET /indexName/_search
{"query": {"match_all": {}},"sort": [{"_geo_distance" : {"FIELD" : {纬度,经度}, // 目标坐标点,根据坐标点判断距离"order" : "asc", // 排序方式,距离此坐标点越来越远"unit" : "km" // 排序的距离单位
      }}]
}

示例:

需求描述:实现对酒店数据按照到你的位置坐标的距离升序排序

提示:获取你的位置的经纬度的方式:https://lbs.amap.com/demo/jsapi-v2/example/map/click-to-get-lnglat/

假设我的位置是:31.034661,121.612282,寻找我周围距离最近的酒店。

 

 sort中存储的是:计算文档中指定字段(必须是geo_point类型)【location】的坐标 到目标点的距离

分页

基本的分页

分页的基本语法如下:

GET /hotel/_search
{"query": {"match_all": {}},"from": 0, // 分页开始的位置,默认为0"size": 10, // 期望获取的文档总数"sort": [{"price": "asc"}]
}

深度分页问题

GET /hotel/_search
{"query": {"match_all": {}},"from": 990, // 分页开始的位置,默认为0"size": 10, // 期望获取的文档总数"sort": [{"price": "asc"}]
}

这里是查询990开始的数据,也就是 第990~第1000条 数据。

不过,elasticsearch内部分页时,必须先查询 0~1000条,然后截取其中的990 ~ 1000的这10条:

查询TOP1000,如果es是单点模式,这并无太大影响。

但是elasticsearch将来一定是集群,例如我集群有5个节点,我要查询TOP1000的数据,并不是每个节点查询200条就可以了。

因为节点A的TOP200,在另一个节点可能排到10000名以外了。

因此要想获取整个集群的TOP1000,必须先查询出每个节点的TOP1000,汇总结果后,重新排名,重新截取TOP1000。

那如果我要查询9900~10000的数据呢?是不是要先查询TOP10000呢?那每个节点都要查询10000条?汇总到内存中?

当查询分页深度较大时,汇总数据过多,对内存和CPU会产生非常大的压力,因此elasticsearch会禁止from+ size 超过10000的请求。

针对深度分页,ES提供了两种解决方案,官方文档:

  • search after:分页时需要排序,原理是从上一次的排序值开始,查询下一页数据。官方推荐使用的方式。
  • scroll:原理将排序后的文档id形成快照,保存在内存。官方已经不推荐使用。

分页查询的常见实现方案以及优缺点:

  • from + size

    • 优点:支持随机翻页
    • 缺点:深度分页问题,默认查询上限(from + size)是10000
    • 场景:百度、京东、谷歌、淘宝这样的随机翻页搜索
  • after search

    • 优点:没有查询上限(单次查询的size不超过10000)
    • 缺点:只能向后逐页查询,不支持随机翻页
    • 场景:没有随机翻页需求的搜索,例如手机向下滚动翻页
  • scroll

    • 优点:没有查询上限(单次查询的size不超过10000)
    • 缺点:会有额外内存消耗,并且搜索结果是非实时的
    • 场景:海量数据的获取和迁移。从ES7.1开始不推荐,建议用 after search方案。

高亮

高亮原理

什么是高亮显示呢?

我们在百度,京东搜索时,关键字会变成红色,比较醒目,这叫高亮显示:

 

高亮显示的实现分为两步:

  • 1)给文档中的所有关键字都添加一个标签,例如<em>标签
  • 2)页面给<em>标签编写CSS样式

实现高亮

高亮的语法

GET /hotel/_search
{"query": {"match": {"FIELD": "TEXT" // 查询条件,高亮一定要使用全文检索查询
    }},"highlight": {"fields": { // 指定要高亮的字段"FIELD": {"pre_tags": "<em>",  // 用来标记高亮字段的前置标签"post_tags": "</em>" // 用来标记高亮字段的后置标签
      }}}
}

注意:

  • 高亮是对关键字高亮,因此搜索条件必须带有关键字,而不能是范围这样的查询。
  • 默认情况下,高亮的字段,必须与搜索指定的字段一致,否则无法高亮
    • 如果高亮的字段与搜索指定的字段不一致,则需要添加一个属性:required_field_match=false

查询结果处理:

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/870127.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

倍增求lca

非常重要的东西 我甚至模拟赛都不打了来打笔记 很简单啊,朴素lca是这样,两个节点,先令深度相等,然后一个一个往上跳直到跳到相同的位置则那个点为两点的lca 但是令深度相等与往上跳的过程都要一个一个慢慢跳所以时间复杂度拉满了 那么我们能以什么方式优化呢 我们可以发现,…

可视化管理:并行开发的必备工具

随着软件开发复杂度的提升,如何在并行开发模式中有效管理资源与进度成为团队面临的重要挑战。而看板工具以其对瓶颈的直观展示与管理能力,成为解决这一问题的关键手段。一、并行开发中的典型瓶颈问题 并行开发是一种高效但复杂的模式,其主要瓶颈包括: 1. 资源分配不均:各模…

C# NAudio 获取控制系统音量

https://github.com/naudio/NAudio NAudio 是一个开源的 .NET 音频库,由 Mark Heath 开发,开源地址:https://github.com/naudio/NAudio 支持多种音频操作,可实现多种API播放与录制、多种不同音频格式、音频格式转换(重采样、位深、声道等)、音频编码、多通道播放、音频效…

DBeaver随笔(1)——如何生成改表sql语句

用习惯了Navicat,非常喜欢改完表之后点击SQL预览直接查看改表sql的功能一图看懂,只需要新增或修改字段后点击保存就弹出改表sql了。

初识ES ---倒排索引

正向索引: mysql 倒排索引: elasticsearch采用倒排索引:文档(document):每条数据就是一个文档。 词条(term): 文档按照语义分成的词语(中文按照中文语义分)。词条不能重复。 eg: 会对用户输入的关键字数据进行分词 华为手机-》分词: 华为 手机 可以看出: 正向索引:…

构造刷题记录

[AGC001D] Arrays and Palindrome 首先观察发现奇数的个数看起来很重要,然后手玩一会发现最多只能有两个奇数,然后再分讨构造就可以了。[AT_hitachi2020_c] ThREE 观察到 \(3\mid a\times b\) 要求 \(a,b\) 中至少一个 3 的倍数。 发现如果两个点的距离为 3 的话他们的深度的…

【Python安全】Python .pth 文件作为后门持久化机制的分析

引言 update.py 脚本的目的是在以下路径部署后门:/usr/lib/python3.6/site-packages/system.pth。这个用 Python 编写的后门从一个导入语句开始,其主要内容以 base64 编码的 blob 形式存储。.pth 扩展名用于向 Python 模块添加额外的路径。从 Python 3.5 版本开始,在.pth 文件…

如何禁止外网通过IP和端口访问特定站点?

当您希望禁止外网通过IP和端口直接访问某个特定站点时,可以通过配置服务器的安全组规则和防火墙设置来实现。以下是详细的步骤和注意事项:理解安全组和防火墙的区别:安全组规则主要作用于云服务器层面,控制进出服务器的流量;而防火墙则是在操作系统级别进行流量过滤。两者…

如何解决宝塔面板升级后无法访问的问题?

您好,根据您的描述,宝塔面板在升级后无法正常访问。以下是详细的分析和解决方案:确认升级过程:确保升级过程中没有中断或异常,所有文件均已正确下载并安装。有时网络不稳定可能导致升级失败。 检查宝塔面板的日志文件(通常位于/www/server/panel/logs),查看是否有报错信…

如何重置宝塔账户密码为默认密码?

您好,根据您的描述,您希望将宝塔账户密码重置为默认密码。以下是详细的步骤和注意事项:确认重置需求:确认确实需要重置宝塔账户密码,并了解重置后的影响。重置密码将覆盖现有密码,确保记录下新的默认密码。 如果不确定是否需要重置,请先尝试找回密码功能,避免不必要的麻…

宝塔面板升级后无法访问

问题: 宝塔面板在升级后无法正常打开,用户尝试通过提供的入口地址和登录凭据进行访问时遇到问题。此外,用户的网站也经常出现无法访问的情况,怀疑是由于服务器受到攻击或配置问题导致的。请问如何排查并解决这些问题? 答案: 您好!宝塔面板在升级后无法正常访问的问题可能…

TAITherm - 专业热管理工具

TAITherm是ThermoAnalytics公司开发的专业三维热仿真分析工具,广泛应用于国内外汽车、摩托车、工业自动化、重型机械等行业的热仿真设计中。同系列的CoTherm耦合优化模块可支持稳态/准瞬态/瞬态热流耦合、一三维耦合、FMU集成、设计优化、敏感性分析、代理模型训练等应用。概述…