Kafka简介
Apache Kafka是分布式发布-订阅消息系统,它最初由LinkedIn公司开发,之后成为Apache顶级项目。
Kafka是一个由Scala和Java编写的企业级的消息发布和订阅系统,主要应用场景有:日志收集系统和消息系统。
Kafka的特性
1.高吞吐量、低延迟:kafka每秒可以处理几十万条消息,它的延迟最低只有几毫秒。
2.可扩展性:kafka集群支持热扩展;
3.持久性&可靠性:消息被持久化到本地磁盘,并且支持数据备份防止数据丢失;
4.高并发:支持数千个客户端同时读写。
Kafka架构
它的架构包括以下组件:
1.话题(Topic)
消息的类别,主要用于对消息进行逻辑上的区分,每条发送到Kafka集群的消息都需要有一个指定的Topic,消费者根据Topic对指定的消息进行消费。
Kafka的数据就保存在Topic上,在每个 broker 上都可以创建多个 Topic。
2.分区 (Partition)
Topic的分区,每个 topic 可以有多个分区,分区的作用是做负载,提高 kafka 的吞吐量。
3.生产者(Producer)
Producer 即消息的生产者,负责往Kafka集群中发送消息,是消息的入口。
4.服务代理(Broker)
Kafka集群中的服务实例,也称之为节点,每个Kafka集群包含一个或者多个Broker。
简单的理解就是一台 Kafka服务器,Kafka Ccluster表示集群的意思,也被称为代理(Broker)。
5.消费者(Consumer)
消息的消费者,主动从Kafka集群中拉取消息,比如:从Broker拉数据,从而消费这些已发布的消息。
Kafka工作原理
1.消息生产
我们将消息的发布(publish)称作 producer。
2.消费消费
将消息的订阅(subscribe)表述为 consumer。
3.broker(代理)
将中间的存储阵列称作 broker(代理),这样就可以大致描绘出这样一个场面:
上图基本都是目前主流消息中间件的原型,可以很清楚的看见三者的关系。
生产者将数据生产出来,交给 broker 进行存储,如下图所示:
消费者需要消费数据了,就从broker中去拿出数据来,然后完成一系列对数据的处理操作。
备注:图上有个细节需要注意:producer 到 broker 的过程是 push也就是有数据就推送到 broker,而 consumer 到 broker 的过程是 pull是通过 consumer 主动去拉数据的。
多个 broker 协同合作,producer 和 consumer 部署在各个业务逻辑中被频繁的调用,三者通过 zookeeper管理协调请求和转发。
Kafka使用zookeeper作为其分布式协调框架,很好的将消息生产、消息存储、消息消费的过程结合在一起。
如下图所示:
这样一个高性能的分布式消息发布订阅系统就完成了。
Kafka的应用场景
1.日志收集
一个公司可以用Kafka可以收集各种服务的log。
2.消息系统
解耦和生产者和消费者,这也是目前使用比较多的场景,相当于起了一个缓存消息的作用。
3.用户活动跟踪
Kafka经常被用来记录web用户,或者app用户的各种活动,如浏览网页、搜索、点击等活动。
4.运营指标
Kafka也经常用来记录运营监控数据,包括:收集各种分布式应用的数据,生产各种操作的集中反馈,比如报警和报告。
5.流式处理
比如spark streaming和storm等。
陈睿mikechen
10年+大厂架构经验,资深技术专家,就职于阿里巴巴、淘宝、百度等一线互联网大厂。
关注「mikechen」公众号,获取更多技术干货!
后台回复【面试】即可获取《史上最全阿里Java面试题总结》,后台回复【架构】,即可获取《阿里架构师进阶专题全部合集》