3、brokerkafka集群的服务者一个broker就是一个节点主要是负责处理消息的读、写的请求和存储消息。

在kafka

4、topic消息的队列/分类就类似一张表里面用来接收数据数据的格式可以随意但是一般都会统一。

1、每一个topic可以分成多个partition每一个分区一张表数据在Kafka底层中就是一个以log结尾的文件分别存在对应的data目录下通过配置文件指定的

使用分区的原因是实现分布式一个topic中的数据非常大的时候如果只存在一个分区那么数据压力就比较大。

2、每个partition内部消息强有序其中的每个消息都有一个序号叫offset消费偏移量再取数据的时候就会根据这个偏移量来取数据

3、一个partition只对应一个broker一个broker可以管多个partition

5、根据时间策略删除数据并不是数据消费完成就删除数据。

默认是7天删除一次数据删除的一整个文件默认是1G左右生成一个文件。

对于存储的时间可以通过修改配置文件来决定存储的日期。

6、producer自己决定往哪个partition写消息可以是轮询的负载均衡或者是基于hash的partition策略

轮询的负载均衡数据数循环的向每一partition中写数据比较均衡

基于hash的partition策略数据会根据hash值据欸的那个进入哪个partition可以根据相同的key进入同一个partition中。

但是可能会造成一个问题数据倾斜的问题。

7、consumer消费者自己维护消费到哪个offset每一个用户都记录自己所消费的offset这些数据都是默认存在--toppic__consumer_offsetsL中

8、每一个consumer都有对应的group一个组中可以是一个用户也可以是多个用户。

各个consumer消费不同的partition因此一个消息在group内只消费一次这样能保证消费数据不重复

各个group各自独立消费互不影响因此一个消息在被每个group消费一次