ES入门八:Mapping的详细讲解

什么是Mapping?**Mapping定义了索引中的文档有哪些字段及其类型、这些字段是如何存储和索引的。**每个文档都是一个字段的集合,每个字段都有自己的数据类型,例如我们定义的books索引,其中有book_id、name等字段。所以Mapping的作用有:

  • 定义索引中各个字段的名称和对应的类型
  • 定义各个字段、倒排索引的相关设置。如使用某字段使用什么分词器等
PUT books
{"mappings": {"properties": {"book_id": {"type": "keyword"},"name": {"type": "text","analyzer": "standard"}}}
}

如上示例是我们定义了一个索引的Mapping例子,可以看到book_id的类型为keyword,而name的类型为text,并且name字段指定了分词器为standard

我们本篇的内容主要分为以下几点:

  1. 什么是Dynamic Mapping
  2. Mapping支持的基本数据类型有哪些
  3. 如何快速定义Mapping
  4. Mapping常用的参数有哪些

Dynamic Mapping

除了预先定义好Mapping外,如果写入文档时索引不存在的时候会自动创建索引,或者写入的字段不存在也会自动创建这个字段,官方把这个功能称之为 Dynamic Mapping。

动态索引的好处是使得我们无需手动定义Mapping,ES帮我们根据文档的信息自动推算出各个字段的信息。但是啊,推算的东西不一定准确的,很多时候并不是我们想要的东西。所以还是尽量自定义Mapping

# 在不存在的索引中写入一个文档
PUT test_mapping/_doc/1
{"name": "es","count": 1
}# 使用下面指令查看其 Mapping 的结果
GET test_mapping/_mapping# Dynamic Mapping 产生的 Mapping 结果
{"test_mapping" : {"mappings" : {"properties" : {"count" : { "type" : "long" },"name" : {"type" : "text","fields" : {"keyword" : {"type" : "keyword","ignore_above" : 256}}}}}}
}

Mapping支持的数据类型

Dynamic Mapping的功能可以自动推断字段的类型,这些类型都是ES支持的基本类型,这些类型主要有:
image.png

字符串

在7.x之后的版本中,字符串类型只有keyword和text两种,旧版本的string类型不再支持

  • keyword类型适合存储简短、结构化的字符串,例如产品Id、产品名称等。它适合用于聚合、过滤、精确查询

  • text类型的字段适合存储全文本数据,如短信内容,邮件内容等。text的类型数据将会被分词器进行分词,最终成为一个一个词项存储在倒排索引中

日期类型

我们知道JSON是没有热情类型的,所以其形式可以如下表示

  • 字符串包含日期格式,例如:“2015-01-01” 或者 “2015/01/01 12:10:30”。
  • 时间戳,以毫秒或者秒为单位

实际上,在底层ES都会把日期类型转换为UTC,并且作为毫秒形式的时间戳用一个long来存储

数字类型

数字类型分为byte、short、integer、long、float、double、half_float、scaled_float、unsigned_long

在需求满足的条件下,应当选择尽可能小的数据类型,除了可能会减少存储空间外,也会提高索引数据和检索数据的效率

对象和嵌套类型

我们的数据很多时候都需要用到数组和对象、嵌套类型等复杂数据类型来表示的,例如书本作者可以有多个,这个作者字段就需要保存为一个数组。

下面来介绍一下对象和数组,至于嵌套对象,后面会讲

对象

JSON中是可以嵌套对象的,保存对象类型可以用object类型,但实际上在ES中会讲原JSON文档扁平化存储的,加入作者字段是一个对象,那么可以表示为:

{"author": {"first":"zhang","last":"san"}
}

实际在存储的时候,ES在存储的时候会转换为以下格式:

{"author.first": "zhang","author.last": "san"
}

数组

对于数组来说,ES并没有定义关键字来表示一个字段为数组类型。默认情况下,**任何一个字段都可以包含0个或多个值,只需要这些值是相同的数据类型。**所以我们在创建数据的时候可以直接写入数组类型:

PUT books/_doc/3
{"author": ["Neil Matthew","Richard Stones"],
}

快速自定义Mapping

前面我们提到最好不要用Dynamic Mapping来生成Mapping,但是如果Mapping拥有的字段非常多的时候,自定义Mapping是非常痛苦的并且容易出错。那有没有办法减轻一下我们的工作量哪?

我们可以把JSON对象直接写入,利用Dynamic Mapping的特性帮我们生成一个初步可用的Mapping,然后我们修改这个 Mapping来直到满足我们的需求。

大概的步骤如下:

  1. 创建临时索引,并写入业务数据
  2. 获取这个临时索引的Mapping
  3. 根据业务场景,完善这个Mapping。如对某些字段定义的分词器等
  4. 完成后删除临时的索引,并创建符合需求的索引

我们在使用Dynamic Mapping的时候,JSON文档的字段类似会自动转换为ES的类型,下面是对照表:
image.png

Mapping的常用参数

Mapping参数可以用来控制某个字段的特性。例如这个字段是否被索引、用什么分词器、空值是否可以被搜索到等。Mapping提供的参数有很多,我们看看常见的几个:index、analyzer、dynamic、null_value、copy_to

index

当某个字段不想被索引或者查询的时候,可以用index参数来进行控制,其接受的值为true或者false。使用示例如下:

PUT index_param_index
{"mappings": {"properties": {"name": {"type": "text","index": false # name 字段不进行索引操作},"address": { "type": "text" }}}
}

analyzer

这个参数其实我们用过多次了,它是用来指定使用哪个分词器的
当我们进行全文本搜索的时候,会将检索的内容先进行分词,然后在进行匹配。默认情况下,检索的内容使用的分词器和与字段指定的分词器是一致的,但如果设置了search_analyzer,检索内容使用的分词器将与search_analyzer设定的一致。其使用示例如下:

PUT analyzer_index
{"mappings": {"properties": {"name": {"type": "text","analyzer": "simple", "search_analyzer": "standard" }}}
}

dynamic

可以在文档和对象级别对Dynamic Mapping进行控制,刚刚在Dynamic Mapping一节的内容中介绍过dynamic属性对文档级别的影响了,现在结合文档和对象级别来一个示例:

PUT dynamic_index
{"mappings": {"dynamic": "strict", # 1,文档级别,表示文档不能动态添加 top 级别的字段"properties": { "author": { # 2,author 对象继承了文档级别的设置。    "properties": {"address": { "dynamic": "true", # 3,表示 address 对象可以动态添加字段"properties":{}},"country": { "properties":{} }}}}}
}
  • dynamic:strict,如果写入不存在的字段,文档数据写入会失败。其中author对象没有设置dynamic属性,其将会继承top级别的dynamic设置,也就是说author必须有
  • author.address对象级别中也设置了dynamic属性为true,其效果address对象可以动态添加字段

null_value

如果需要对null值实现搜索的时候,需要设置字段的null_value参数。null_value参数默认值为null,其允许用户使用指定值替换控制,以便它可以索引和搜索

需要注意的是,**null_value只决定数据是如何索引的,不影响_source的内容,并且null_value的值的类型需要与字段的类型一致。**例如一个long字段的字段,其null_value的值不能为空字符串。使用“NULL”显示值来代替null,使用示例如下:

# 创建索引
PUT null_value_index
{"mappings": {"properties": {"id": { "type": "keyword" },"email": {"type": "keyword","null_value": "NULL" # 使用 "NULL" 显式值}}}
}# 插入数据
PUT null_value_index/_doc/1
{"id": "1","email": null
}# 查询空值数据
GET null_value_index/_search
{"query": {"term": { "email": "NULL" } # 使用显式值来查询空值的文档}
}

copy_to

copy_to参数允许用户复制多个字段的值到目标字段,这个字段可以像单个字段那样呗查询。其示例如下:

# 创建索引
PUT users
{"mappings": {"properties": {"first_name": {"type": "text","copy_to": "full_name" },"last_name": {"type": "text","copy_to": "full_name" },"full_name": { "type": "text" }}}
}# 插入数据
PUT users/_doc/1
{"first_name": "zhang","last_name": "san"
}# 查询
GET users/_search
{"query": {"match": {"full_name": {"query": "zhang san","operator": "and"}}}
}# 结果
{"hits" : {"hits" : [{"_source" : {"first_name" : "zhang","last_name" : "san"}}]}
}

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/513438.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

自动驾驶预测与决策规划(基于运动模型的预测)

欢迎大家关注我的B站: 偷吃薯片的Zheng同学的个人空间-偷吃薯片的Zheng同学个人主页-哔哩哔哩视频 (bilibili.com) 本文为深蓝学院《自动驾驶预测与决策规划》 的学习笔记 目录 1 Constant Velocity模型 2 Constant Turn 模型 1 Constant Velocity模型 Constan…

DDS笔记

1.DDS 直接数字式频率合成器(Direct Digital Synthesizer,DDS)是通过相位和幅值 的映射实现任意频率的正弦曲线样本的方法 系统时钟CLK频率为fclk,输出信号频率为fout,频率字输入K的位宽为N位。 相位累加器通常由一个N位加法器和…

安森美 推出首款 TOLL 封装中低压 MOS 650V SiC MOSFET,碳化硅二极管

新器件封装尺寸缩小 60%,性能增强,损耗减少 Onsemi 在 PCIM Europe 上宣布了世界上第一个 TO-Leadless (TOLL) 封装的 SiC MOSFET。该晶体管满足了对适用于高功率密度设计的高性能开关器件快速增长的需求。直到最近,SiC 器件一直采用 D2PAK …

基于openKylin与RISC-V的MindSpore AI项目实践

项目目标: 在openKylin系统上安装和配置MindSpore框架。开发一个简单的图像分类模型,并在RISC-V平台上进行训练和推理。根据RISC-V的特性,对MindSpore框架进行必要的优化。 目录 项目目标: 训练模型 编写训练代码,设…

一键生成超好用的简历设计模板

对于缺乏工作经验和职业规划的应届生而言,使用简历设计平台,辅助我们完成简历分区、排版和美化流程,早就成为简历设计环节的 “潜规则”。这里我们挑选了 5 个能够实现免费下载、一键生成的简历设计平台,供大家参考借鉴。 即时设…

Java毕业设计 基于SpringBoot vue 社团管理系统

Java毕业设计 基于SpringBoot vue 社团管理系统 SpringBoot vue 社团管理系统 功能介绍 社团成员: 登录 首页 社团列表 加入社团申请 我的社团 在线留言 社长: 登录 首页 用户信息管理 入团申请管理 社团活动管理 社团成员管理 社团新闻管理 社团费用管理 系统管理员: 登录…

前端小案例——登录界面(正则验证, 附源码)

一、前言 实现功能: 提供用户名和密码输入框。当用户提交表单时,阻止默认提交行为。使用正则表达式验证用户输入的内容,判断输入的是有效的邮箱地址还是身份证号码。根据验证结果,在输入框下方显示相应的提示信息。 实现逻辑&a…

vue3 图片/视频 加载失败重试

vue3 图片/视频 加载失败重试 需求背景 用户手机上传图片走oss ,在pc端在线客服连接socket 需要实时推送消息,接受到消息后,由于oss还回没有回调成功,所以图片/视频不能及时展示,所以做了一个失败重试的功能 效果图 技…

千帆AppBuilder使用指南-创建应用

概述 百度智能云千帆AppBuilder使用指南(以下简称为AppBuilder)提供了多个预置应用框架的零代码创建能力或代码态开发能力,降低AI原生应用开发门槛。 1、知识问答应用(RAG框架) 高效的大模型知识检索增强框架&#…

二分以及练习题目

二分模板 判断是否可以二分 (1)单调性 备选答案集是有序的 (2)二段性 在检查了mid是否符合要求之和,我可以舍弃左右某一边的答案 两个模板 关键词:满足条件的最小值,最大值最小&#xff0…

掌握 MySQL 的数据类型

知道了表是由不同数据类型的列组成的,然后填充了一行一行的数据。 当我们要创建表的时候,就要根据业务需求,选择合适的数据类型。比如在实战项目中,文章表就是由下面这些不同数据类型的字段定义的。 目前用到了 bigint、tinyint、…

Vue基础篇

Vue Vue是一套用于构建用户界面的渐进式JavaScript框架 什么是渐进式? Vue可以自底向上逐层地应用; 当构建简单应用时, 只需一个轻量小巧的核心库; 当构建复杂应用时, 可以引入各式各样的Vue插件 Vue具有以下特点: 采用组件化模式, 提高代码复用率且让代码更好维护 声明式编…