【Kafka】2.深入理解Kafka事件流平台及其核心概念

1.事件流(Event streaming)

事件流是人体中枢神经系统的数字化的等价物。它是构建“始终在线”世界的技术基础,在这个世界中,企业越来越多地被定义为软件化和自动化,而软件的用户本身也是软件。

从技术上讲,事件流是从数据库、传感器、移动设备、云服务和软件应用程序等事件源实时捕获数据的做法,以事件流的形式;将这些事件流持久化存储以供以后检索;实时以及回顾性地操作、处理和响应事件流;并根据需要将事件流路由到不同的目标技术。因此,事件流确保了数据的持续流动和解释,以便正确的信息在正确的地点,正确的时间可用。

2.事件流作用

事件流适用于各种用例,跨越众多行业和组织。它的许多例子包括:

  • 实时处理支付和金融交易,例如在证券交易所、银行和保险公司。
  • 实时跟踪和监控汽车、卡车、车队和货物,例如在物流和汽车行业。
  • 持续捕获和分析来自IoT设备或其他设备的传感器数据,例如在工厂和风力公园。
  • 收集并立即响应客户互动和订单,例如在零售、酒店和旅游行业以及移动应用程序中。
  • 在医院护理中监测患者并预测病情变化,以确保在紧急情况下及时治疗。
  • 连接、存储并使公司不同部门产生的数据可用。
  • 作为数据平台、事件驱动架构和微服务的基础。

3.Kafka是一个事件流平台意味着什么?

Kafka结合了三个关键能力,因此您可以使用一个经过实战考验的解决方案端到端实现您的事件流用例:

  • 发布(写入)和订阅(读取)事件流,包括从其他系统中持续导入/导出您的数据。
  • 持久可靠地存储事件流,只要您需要。
  • 实时或回顾性地处理事件流。

所有这些功能都以分布式、高度可扩展、弹性、容错和安全的方式提供。Kafka可以在裸机硬件、虚拟机上部署,也可以在容器中部署,在本地以及云中。您可以选择自行管理Kafka环境或使用各种供应商提供的全托管服务。

4.Kafka如何运作?

Kafka是一个由服务器和客户端组成的分布式系统,通过高性能的TCP网络协议进行通信。它可以在本地硬件、虚拟机和容器上部署,在本地以及云环境中。

服务器: Kafka作为一台或多台服务器的集群运行,可以跨越多个数据中心或云区域。其中一些服务器形成存储层,称为代理。其他服务器运行Kafka Connect,以持续地将数据作为事件流导入和导出,将Kafka与您现有的系统集成,例如关系数据库以及其他Kafka集群。为了让您实现关键任务用例,Kafka集群具有高度的可扩展性和容错性:如果任何服务器失败,其他服务器将接管它们的工作,以确保不间断的操作,而不会丢失任何数据。

客户端: 它们允许您编写分布式应用程序和微服务,以并行、大规模和容错的方式读取、写入和处理事件流,即使在网络问题或机器故障的情况下也是如此。Kafka随附了一些这样的客户端,这些客户端由Kafka社区提供的数十个客户端增强:客户端可用于Java和Scala,包括更高级别的Kafka Streams库,适用于Go、Python、C/C++等许多其他编程语言,以及REST API。

5.主要概念和术语

事件记录了“某事发生”的事实,无论是在世界还是您的业务中。它也称为记录或消息(Message)。当您读取或写入Kafka中的数据时,您是通过事件的形式进行的。概念上,一个事件有一个键、值、时间戳和可选的元数据头。这里是一个示例事件:

  • 事件键:“Alice”
  • 事件值:“向Bob支付了200美元”
  • 事件时间戳:“2020年6月25日下午2:06”
    生产者(Producer)是发布(写入)事件到Kafka的客户端应用程序,消费者(Consumer)是订阅(读取和处理)这些事件的应用程序。在Kafka中,生产者和消费者是完全解耦的,并且彼此不知情,这是实现Kafka众所周知的高可扩展性的关键设计元素。例如,生产者永远不需要等待消费者。Kafka提供了各种保证,例如能够精确处理事件的能力。

事件被组织并持久地存储在主题(Topic)中。非常简化地说,主题类似于文件系统中的文件夹,事件是该文件夹中的文件。一个示例主题名称可能是“payments”。Kafka中的主题始终是多生产者和多订阅者:一个主题可以有零、一个或多个生产者将事件写入其中,以及零、一个或多个消费者订阅这些事件。主题中的事件可以根据需要读取尽可能多次 - 与传统的消息系统不同,事件在消费后不会被删除。相反,您通过每个主题的配置设置定义Kafka应该保留您的事件多长时间,之后旧的事件将被丢弃。Kafka的性能对于数据大小实际上是恒定的,因此长时间存储数据完全没有问题。

主题是分区(Partition)的,这意味着主题分布在位于不同Kafka代理上的“桶”上。您的数据的分布式放置对于可扩展性非常重要,因为它允许客户端应用程序同时从/向许多代理读取和写入数据。当发布到主题的新事件时,它实际上被追加到主题的某个分区中。具有相同事件键(例如,客户或车辆ID)的事件被写入到同一个分区中,并且Kafka保证任何给定主题-分区的消费者总是能够按照它们被写入的完全相同的顺序读取那些分区中的事件。
 图示:这个示例主题有四个分区P1-P4。两个不同的生产者客户端正独立于彼此地向主题发布新事件,通过在网络中向主题的分区写入事件。具有相同键(在图中用颜色表示)的事件被写入同一个分区。请注意,如果适当,两个生产者都可以向同一个分区写入。
为了使您的数据具有容错性和高可用性,每个主题都可以复制,甚至可以跨地理区域或数据中心复制,以便在出现问题、您想要对代理进行维护等情况下,始终有多个代理拥有数据的副本。一个常见的生产设置是3的复制因子,即,您的数据将始终有三份副本。这种复制是在主题-分区级别上执行的。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/703233.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

通电即用,极简运维:带您10分钟零配置启动超大型园区网络

为顺应数字经济发展潮流,越来越多企业选择云网融合,这给企业园区的运维人员,特别是中大型企业园区的运维人员带来新的挑战:随着企业规模扩大,系统和应用程序的复杂性也在增加,运维人员需要不断学习新技术&a…

【数据库02】优化、视图、触发器、锁、InnoDB引擎、事务高级

个人学习笔记记录 参考资料:数据库从入门到精通 😀SQL优化 🎶insert 主键优化 主键顺序插入的性能是要高于乱序插入的 InnoDB的逻辑结构图 数据行是记录在page中的,而每一个页的大小是固定的,默认16K。 那也就意味…

什么是等保测评?等保测评必须进行吗?

等保测评,全称为信息安全等级保护测评,是指对信息系统安全等级保护状况进行测试评估的活动。它是根据国家信息安全等级保护规范规定,由具有相应资质的测评机构,按照相关管理规范和技术标准进行的,目的是验证信息系统是…

广汽原车控制系统CAN协议控制汽车基本信息获取及数据应用

在现代汽车工业的迅速发展中,车辆控制系统的智能化和网络化已成为提升汽车性能的关键。广汽作为中国汽车行业的佼佼者,其在原车通信网络方面也取得了显著的成就。特别是广汽原车CAN(Controller Area Network)协议的应用&#xff0…

关于大漠6.1544和谐版本的那些事

今天群里有人说,网络有这个版本的和谐版本,我就去淘宝花巨款买了1个来测试,下面把测试的结果聊一聊。 1,6.1544 属于很早的版本,发布时间应该是1998年??属于老古董。 2,查看对应的大…

C++系统编程篇——Linux初识(系统安装、权限管理,权限设置)

(1)linux系统的安装 双系统---不推荐虚拟机centos镜像(可以使用)云服务器/轻量级云服务器(强烈推荐) ①云服务器(用xshell连接) ssh root公网IP 然后输入password ①添加用户: addus…

软件压力测试怎么做

随着信息技术的迅猛发展,软件在各行各业的应用越来越广泛,其稳定性、可靠性和性能表现也受到了越来越多的关注。在这样的背景下,软件压力测试显得尤为重要。本文将详细介绍软件压力测试的概念、目的、方法以及实施步骤,帮助读者更…

Python自动化SQL注入和数据库取证工具库之sqlmap使用详解

概要 在网络安全领域,SQL注入仍然是最常见的攻击之一。sqlmap是一个开源的自动化SQL注入和数据库取证工具,它提供了广泛的功能来检测和利用SQL注入漏洞。本文将详细介绍sqlmap的安装、特性、基本与高级功能,并结合实际应用场景,展示其在网络安全测试中的应用。 安装 sqlm…

翻译《The Old New Thing》- What does the CS_CLASSDC class style do?

What does the CS_CLASSDC class style do? - The Old New Thing (microsoft.com)https://devblogs.microsoft.com/oldnewthing/20060602-00/?p30993 Raymond Chen 2006年06月02日 CS_CLASSDC 类样式有什么作用? 简要 本文讨论了CS_CLASSDC类样式的问题&#xff…

在深圳如何办理港澳通行证

目录 一、办理费用&签注二、准备材料三、办理流程(一) 线上预约(二) 拍摄照片回执1. 方式一2. 方式二3. 方式三 (三) 现场办理 四、等待拿证五、常见答疑1. 是否需要深圳居住证?2. 其他城市怎么办理?3. 什么是签注? 参考资料 自 2023 年 …

企业研发必备网络:这些关键特性,你get了吗?

对于以研发为核心的企业,如软件开发、生物制药、智能汽车等,安全、稳定的研发网络可是他们业务发展不可或缺的。那么,这些研发网络究竟有哪些独特之处,又能为企业带来哪些价值呢? 首先,我们知道企业研发常常…

笔记本电脑如何录音?小白也能轻松学会!

“笔记本电脑如何录音呀?我正在准备一场线上的演讲,想录制一段自己的声音作为练习。可是我翻遍了笔记本电脑的各个角落,还是找不到录音功能在哪里。演讲对我来说很重要,我真的很需要这个功能。有人知道笔记本电脑的录音功能在哪里…