查看“Kafka 中的优化问题”的源代码
←
Kafka 中的优化问题
跳到导航
跳到搜索
因为以下原因,您没有权限编辑本页:
您所请求的操作仅限于该用户组的用户使用:
用户
您可以查看和复制此页面的源代码。
https://www.bilibili.com/video/BV1Xy4y1G7zA?p=28 ===1.如何防止消息丢失=== 生产者: #使用同步发送 #把 ack 设成1或者 all,并且设置同步的分区数 >= 2 消费者:把自动提交改成手动提交 ===2.如何防止重复消费=== 在防止消息丢失的方案中,如果 生产者发送完消息后,因为网络抖动,没有收到 ack,但实际上 broker 已经收到了。 此时生产者会进行重试,于是 broker 就会收到多条相同消息,而造成消费者重复消费。 怎么解决: *生产者关闭重试:会造成丢消息(不建议) *消费者解决幂等性消费问题: 所谓的幂等性:多次访问的结果是一样的。对于 rest 的请求(get(幂等)、post(非幂等)、put(幂等)、delete(幂等)) 解决方案: *在数据库中创建联合主键,防止相同的主键创建出多条记录 * 使用分布式锁,保证只有一条记录能够创建成功 [[文件:如何防止重复消费.png|无|缩略图|1300x1300像素]] === 3.如何做到消息的顺序消费 === https://www.bilibili.com/video/BV1Xy4y1G7zA?p=29 * 生产者:保证消息按顺序消费,且消息不丢失——使用同步的发送,ack 设置成非0的值。 * 消费者:主题只能设置一个分区,消费组中只能有一个消费者 Kafka 的顺序消费使用场景不多,因为牺牲掉了性能,但是比如 RocketMQ 在这一块有专门的功能已设计好。 === 4.如何解决消息积压问题 === https://www.bilibili.com/video/BV1Xy4y1G7zA?p=30 [[文件:如何解决消息积压问题.png|无|缩略图|1100x1100像素]] # 消息积压问题的出现 消息的消费者的消费速度远赶不上生产者的生产消息的速度,导致 Kafka 中有大量的数据没有被消费。 随着没有被消费的数据越堆积越多,消费者寻址的性能会越来越差,最后导致整个 Kafka 对外提供的服务的性能很差,从而造成其他服务也访问速度变慢,造成服务雪崩。
返回至
Kafka 中的优化问题
。
导航菜单
个人工具
登录
名字空间
页面
讨论
变种
视图
阅读
查看源代码
查看历史
更多
搜索
导航
首页
Spring Boot 2 零基础入门
Spring Cloud
Spring Boot
设计模式之禅
VUE
Vuex
Maven
算法
技能树
Wireshark
IntelliJ IDEA
ElasticSearch
VirtualBox
软考
正则表达式
程序员精讲
软件设计师精讲
初级程序员 历年真题
C
SQL
Java
FFmpeg
Redis
Kafka
MySQL
Spring
Docker
JMeter
Apache
Linux
Windows
Git
ZooKeeper
设计模式
Python
MyBatis
软件
数学
PHP
IntelliJ IDEA
CS基础知识
网络
项目
未分类
MediaWiki
镜像
问题
健身
国债
英语
烹饪
常见术语
MediaWiki帮助
工具
链入页面
相关更改
特殊页面
页面信息