Flink精确消费一次

news/2024/11/17 5:36:41/文章来源:https://www.cnblogs.com/beststrive/p/18200573

 在大数据计算里面,计算引擎是处于承上启下的作用,对上承接数据源,对下承接各种各种数据库,比如mysql、oracle。对于任何数据计算来说要想精确消费一次,就需要支持事务或者幂等,我们最常见的支持事务的就是单点的oracle、mysql数据库,那么Flink作为分布式计算引擎,是如何做到精确消费一次的呢?

   Source端的精确消费一次比较好实现,毕竟Flink是消费者,比如它消费Kafka时,它可以记录下相关的偏移量,恢复时重置偏移量就可以了,Flink应用内部就是通过checkpoint机制来实现精确一次的,难点是sink端如何保证精确消费一次,毕竟数据写到外部系统后,Flink就无法管控了,目前针对sink端是kafka的情况时,是通过两段提交(预提交、正式提交)的方式来实现的,所以理论上提供了必要的协调机制的三方系统,都是可以实现精确一次的。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/708862.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

电子传输系统安全-进展1

实验二 电子传输系统安全-进展1 上周任务完成情况完成了上学期电子公文传输系统的重新调试通过 部署了bouncycastle 学习了bouncycastle 将jar包添加到依赖项本周计划将上学期电子公文传输系统重新调试通过 部署bouncycastle 学习bouncycastle 将jar包添加到依赖项参考链接Boun…

【日记】被零食有鸣的工作人员轰出来了……(544 字)

正文今天全在睡觉。早上睡到十点起床,下午又从三点睡到五点,我愿称之为睡觉仙人…… 这就是上班的副作用吗……下午同事一个电话打过来,决定不接。周末同事来电话,准没好事。结果她微信发消息问,要不要出去走走,一个人有点闷。我都惊了,头一回。我还以为又要我做啥事儿呢…

d3d12龙书阅读----绘制几何体(上) 课后习题

d3d12龙书阅读----绘制几何体(上) 课后习题 练习1 完成相应的顶点结构体的输入-布局对象typedef struct D3D12_INPUT_ELEMENT_DESC{一个特定字符串将顶点结构体数组里面的顶点映射到顶点着色器的输入签名LPCSTR SemanticName;语义索引 如果语义名相同的话 使用索引进行区分UI…

SAP PS 打开关闭的项目

1 ) 编辑-状态-关闭-撤销 2) TECO 撤销: ) 编辑-状态-技术完成-撤销

stm32f103c8t6使用bootloader进行ymodem下载和app程序测试,部分总结(暂未测试中断向量偏移问题)

bootloader程序部分(功能测试)print_boot_message();/* USER CODE END 2 *//* Infinite loop *//* USER CODE BEGIN WHILE */uint8_t key_get_state;while (1){/* USER CODE END WHILE *//* USER CODE BEGIN 3 */key_get_state = get_key();switch(key_get_state){case 1: //…

夸克自动签到转存到emby

夸克自动签到不同于之前的阿里盘内夸克签到脚本,这里可以自动转存管理文件,添加到emby中 b站视频地址:https://www.bilibili.com/video/BV1ry411a7Lt 一、准备 你有服务器或者nas等等,有docker或者青龙都行。 由于nas在家关机了,我在外地。就不演示推到emby了。 来自于Cp0…

AI绘画拉取模型失败,DOS开启代理

我用了这么久的代理第一次知道DOS里面要开代理,惭愧惭愧。在我远程拉取模型的时候,挂科学也一直失败。在网上找报错找了很长时间没找到,最后经过一位群友的提示下,才知道问题出在DOS代理上面。直接看文章第一部分就行,要是直接tun不行,再看下面的直接开启tun这个是V2的开…

e语言 文本换行问题

我帮这人重写了下本文来自博客园,作者:__username,转载请注明原文链接:https://www.cnblogs.com/code3/p/18200506

【Quant102】如何计算 N 日斜率

一元线性回归的斜率公式是: \[k = \frac{(x - \bar{x})^T (y - \bar{y})}{\|x - \bar{x}\|^2} \]由于斜率具有平移不变性,x通常取 0 到窗口大小减一。 def slope(df, close_col=close, slope_col=slope, window=5, inplace=True):if not inplace: df = df.copy()x = np.arang…

利用MKL实现OpenCV的模板匹配(matchTemplate)

基于FFT实现OpenCV的模板匹配(matchTemplate) 以 TM_CCORR_NORMED 为例,因为这个实现简单,并且效率高。 先看公式 \[R(x,y)= \frac{\sum_{x,y} (T(x,y) \cdot I(x+x,y+y))}{\sqrt{ \sum_{x,y}T(x,y)^2 \cdot \sum_{x,y} I(x+x,y+y)^2}} \]显然,分子是I图和T图的卷积。 分母是…

主流原型设计工具介绍(●ϖ`●)

原型设计工具在产品设计、交互设计和用户体验设计中扮演着重要角色,本篇博客将介绍Axure RP、墨刀、Pixso、Adobe XD这4种主流原型设计工具。 Axure RP 特点强大的交互能力:强大的交互设计功能,支持复杂的交互流程和状态转换。 丰富的组件库:Axure RP 内置了大量的组件,包…

windev28 试用版 测试

下载地址 https://package.windev.com/pack/versiondemo/28/us/WDE28PACKDVDUS095g.zip建议迅雷下载 非常快 需要申请一个试用码 界面没啥变化 依旧只能生成32位程序,不过客户端在中国早就没落了 也没啥价值了 还不如去学electron