66_索引管理_复杂上机实验:基于scoll+bulk+索引别名实现零停机重建索引

news/2024/10/5 12:25:50/文章来源:https://www.cnblogs.com/siben/p/18444593

课程大纲

1、重建索引

一个field的设置是不能被修改的,如果要修改一个Field,那么应该重新按照新的mapping,建立一个index,然后将数据批量查询出来,重新用bulk api写入index中

批量查询的时候,建议采用scroll api,并且采用多线程并发的方式来reindex数据,每次scoll就查询指定日期的一段数据,交给一个线程即可

(1)一开始,依靠dynamic mapping,插入数据,但是不小心有些数据是2017-01-01这种日期格式的,所以title这种field被自动映射为了date类型,实际上它应该是string类型的

PUT /my_index/my_type/3
{
"title": "2017-01-03"
}

{
"my_index": {
"mappings": {
"my_type": {
"properties": {
"title": {
"type": "date"
}
}
}
}
}
}

(2)当后期向索引中加入string类型的title值的时候,就会报错

PUT /my_index/my_type/4
{
"title": "my first article"
}

{
"error": {
"root_cause": [
{
"type": "mapper_parsing_exception",
"reason": "failed to parse [title]"
}
],
"type": "mapper_parsing_exception",
"reason": "failed to parse [title]",
"caused_by": {
"type": "illegal_argument_exception",
"reason": "Invalid format: "my first article""
}
},
"status": 400
}

(3)如果此时想修改title的类型,是不可能的

PUT /my_index/_mapping/my_type
{
"properties": {
"title": {
"type": "text"
}
}
}

{
"error": {
"root_cause": [
{
"type": "illegal_argument_exception",
"reason": "mapper [title] of different type, current_type [date], merged_type [text]"
}
],
"type": "illegal_argument_exception",
"reason": "mapper [title] of different type, current_type [date], merged_type [text]"
},
"status": 400
}

(4)此时,唯一的办法,就是进行reindex,也就是说,重新建立一个索引,将旧索引的数据查询出来,再导入新索引

(5)如果说旧索引的名字,是old_index,新索引的名字是new_index,终端java应用,已经在使用old_index在操作了,难道还要去停止java应用,修改使用的index为new_index,才重新启动java应用吗?这个过程中,就会导致java应用停机,可用性降低

(6)所以说,给java应用一个别名,这个别名是指向旧索引的,java应用先用着,java应用先用goods_index alias来操作,此时实际指向的是旧的my_index

PUT /my_index/_alias/goods_index

(7)新建一个index,调整其title的类型为string

PUT /my_index_new
{
"mappings": {
"my_type": {
"properties": {
"title": {
"type": "text"
}
}
}
}
}

(8)使用scroll api将数据批量查询出来

GET /my_index/_search?scroll=1m
{
"query": {
"match_all": {}
},
"sort": ["_doc"],
"size": 1
}

{
"_scroll_id": "DnF1ZXJ5VGhlbkZldGNoBQAAAAAAADpAFjRvbnNUWVZaVGpHdklqOV9zcFd6MncAAAAAAAA6QRY0b25zVFlWWlRqR3ZJajlfc3BXejJ3AAAAAAAAOkIWNG9uc1RZVlpUakd2SWo5X3NwV3oydwAAAAAAADpDFjRvbnNUWVZaVGpHdklqOV9zcFd6MncAAAAAAAA6RBY0b25zVFlWWlRqR3ZJajlfc3BXejJ3",
"took": 1,
"timed_out": false,
"_shards": {
"total": 5,
"successful": 5,
"failed": 0
},
"hits": {
"total": 3,
"max_score": null,
"hits": [
{
"_index": "my_index",
"_type": "my_type",
"_id": "2",
"_score": null,
"_source": {
"title": "2017-01-02"
},
"sort": [
0
]
}
]
}
}

(9)采用bulk api将scoll查出来的一批数据,批量写入新索引

POST /_bulk
{ "index": { "_index": "my_index_new", "_type": "my_type", "_id": "2" }}

(10)反复循环8~9,查询一批又一批的数据出来,采取bulk api将每一批数据批量写入新索引

(11)将goods_index alias切换到my_index_new上去,java应用会直接通过index别名使用新的索引中的数据,java应用程序不需要停机,零提交,高可用

POST /_aliases
{
"actions": [
{ "remove": { "index": "my_index", "alias": "goods_index" }},
{ "add": { "index": "my_index_new", "alias": "goods_index" }}
]
}

(12)直接通过goods_index别名来查询,是否ok

GET /goods_index/my_type/_search

2、基于alias对client透明切换index

PUT /my_index_v1/_alias/my_index

client对my_index进行操作

reindex操作,完成之后,切换v1到v2

POST /_aliases
{
"actions": [
{ "remove": { "index": "my_index_v1", "alias": "my_index" }},
{ "add": { "index": "my_index_v2", "alias": "my_index" }}
]
}

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/806959.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

57_初识搜索引擎_分布式搜索引擎内核解密之query phase

1、query phase (1)搜索请求发送到某一个coordinate node,构构建一个priority queue,长度以paging操作from和size为准,默认为10 (2)coordinate node将请求转发到所有shard,每个shard本地搜索,并构建一个本地的priority queue (3)各个shard将自己的priority queue返回…

(六)WPF数据驱动模式

WPF开发方式; MVVM(Model View ViewModel)1.绑定XAML数据方式 在 XAML中添加绑定数据和绑定的操作属性 Content="{Binding MyVar}"  在XAML对应了的窗体类的构造函数添加数据绑定 this.DataContext = mainViewModel; //让此页面的数据取MainView…

LevOJ平台 - 持续更新

LevOJ题目练习答案LevOJ平台题目可能的解决方法 P1001 a+b的问题 题目描述解决方法 #include <stdio.h>int main() {int a, b;scanf("%d%d", &a, &b);printf("%d\n", a + b);return 0; }P1031 三角形的面积 题目描述解决方法 #include <s…

[半成品]群晖cups链接打印机

本文是半成品, 仅提供思路. 不保证能完全成功 (因为我就没成功, USB 识别不了) 本文基于 github 开源项目以及 docker 关闭群晖自带的 cups 群晖是自带 cups, 你只需要把 USB 接口链接打印机后, 即可在控制面板->外接设备, 链接即可 我的由于不知名的原因压根识别不到, 所以…

AI+明厨亮灶解决方案

AI+明厨亮灶解决方案通过AI视觉分析算法,AI+明厨亮灶解决方案可接入现场已有的监控摄像头运行多种主流算法,AI+明厨亮灶解决方案可以对后厨实现如口罩识别、厨师服穿戴、夜间老鼠监测、厨师帽识别、厨师玩手机打电话识别、抽烟识别等。AI+明厨亮灶解决方案通过视频智能分析技…

【Wing】背后的插件们

wing 作为我们日常开发的命令行开发工具,项目开源以来,陆陆续续接入了多个插件,在这里集中分享给大家。wing 作为我们日常开发的命令行开发工具,项目开源以来,陆陆续续接入了多个插件,在这里集中分享给大家。 ☞ Github ☜  ☞ Gitee ☜ 01. wing -screen 作为Android…

Salesforce AI Specialist篇之 Einstein Trust Layer

本篇参考: https://trailhead.salesforce.com/content/learn/trails/drive-productivity-with-einstein-ai https://help.salesforce.com/s/articleView?id=sf.generative_ai_trust_layer.htm&type=5 https://blog.salesforceairesearch.com/meet-salesforces-trusted-ai…

工地人员工装穿戴识别系统

工地人员工装穿戴识别系统通过AI视频智能分析技术,工地人员工装穿戴识别系统可在建筑工地复杂场景下对多个施工作业人员进行高精度识别,工地人员工装穿戴识别系统对施工现场监控区域人员是否佩戴安全帽进行自动识别预警。工地人员工装穿戴识别系统通过AI技术手段,实现了施工…

人员跌倒识别检测系统

人员跌倒识别检测系统通过YOLO网络模型算法,人员跌倒识别检测系统对监控画面区域进行7*24小时自动监测,不需人为干预当人员跌倒识别检测系统监测到现场画面中有人员倒地摔倒时,立即抓拍存档告警同步提醒后台值班人员及时处理。人员跌倒识别检测系统通过AI技术,人员跌倒识别…

工地高空作业安全带穿戴识别系统

工地高空作业安全带穿戴识别系统通过AI视觉分析技术,工地高空作业安全带穿戴识别系统对现场监控画面中施工作业区域的高空作业人员安全绳安全带穿戴进行检测,当检测到作业人员未按要求系安全带作业时,不需人为干预立即触发告警存档,同步通知后台值班人员及时制止。工地高空…

工作-k8s问题处理篇

前言:公司这边为集团,所以项目较多,我目前总负责的就到达十几个项目的总架构,其中还有海外项目,不过底下也有一定的细分,同事解决不了的问题会升级到我这,只k8s容器平台常用的就有三种,一种是技术中心部门研发的二开版,一种是国产XC化推广的xc容器平台,还有一种就是开…

【训练记录】2024年莆田市高中信息学奥赛国庆集训CSP-S提高组(第二天场外)

训练情况 rk#4 \(100 + 100 + 100 + 70 = 370\) 赛后反思 没什么很严重的失误,只是国庆早八起不来,打到后面时间不够做第四题了QAQ,下次一定早起TAT A题开场怎么是CF Div4 原题,显然因为 \(a,b,c,d\) 互不相同,最后切出来的结果只有三块或四块,三块的情况是两线没有交叉,…