20

车主无忧:为什么放弃开源Kafka?

 3 years ago
source link: https://mp.weixin.qq.com/s?__biz=MzU4NzU0MDIzOQ%3D%3D&%3Bmid=2247490948&%3Bidx=5&%3Bsn=6544da48e4f6a9e52d5e32f1ba66bbfe
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

jyiIFrB.png!mobile

车主无忧是属于广州小迈网络科技公司服务于汽车后市场的重要产品。小迈网络是一家以一、二线城市车主为目标用户的移动互联网公司,通过构建串联车主与商家的O2O平台,降低车主用车成本,提升车主用车品质。 目前车主用户已破亿,在艾瑞咨询 App 热点指数“汽车护理”领域排名第一

开源 Kafka 的痛点

最开始,车主无忧采用开源 Kafka ,但在实践过程中,开源 Kafka 的短板越来越明显。 在容量弹性层面: 开源 Kafka 在 Partition 分区规模超过1000后有明显的抖动,集群扩容小时级别,业务有感知。 在存储开销方面: 开源 Kafka 多副本存储,存储压力大,且会在磁盘写满的情况下直接停止运行,没有保扩机制,需要额外提供告警人工处理。 在性能方面: 在处理冷数据读的时候处理速度明显下降,数据写入有一定失败几率;拉取G级别的数据时,Full GC高频出现。

针对开源 Kafka 与阿里云消息队列 Kafaka 对比后,车主无忧决定采用经过优化的阿里云商业版消息队列 Kafka ,它的优势就是开箱即用,完全兼容开源的无缝迁移的特性,结合最佳实践《在线迁移消息队列Kafka》 的指导,自主高效地完成了迁移工作。

  • 由阿里云团队进行专业的运维,利用Kafka的自动化内检功能, 保证Broker以及依赖组件Zookeeper的健康稳定。

  • 运维白屏化管理,可以协助用户进行 快速的分钟级扩容

  • 提供了有效的 故障管理

  • 借助商业版本提供的 监控告警能力 ,实时掌握硬件资源与服务可用性情况,指导车主无忧的应用进行优化调整。

通过迁移到商业版本的 Kafka,车主无忧的系统稳定性得到了大幅提升,消息无丢失,生产与消费端的抖动明显好转,整个消息集群平稳运行,有效地支持了业务的快速发展。

效率提升 Kafka 提供了白屏化的管理方式, 基于阿里云提供的控制台,车主无忧可以方便快捷地扩展实例,对 Topic 进行管理,以及扩展 Partition。另外还提供了堆积、 消息查询等实时监控功能,并且可以设定各种资源的报警规则,用于快速定位问题、提升诊断效率、指导优化系统。

成本控制 节省了大量的运维人力成本,解放了生产力,综合比较,使用商业版本的使用成本更划算。

直播预告

为了让大家更好地理解阿里云消息队列 Kafka, 阿里云专门策划了“互联网架构升级实战课” ,每周由一位阿里云解决方案架构师以课程直播的形式详细讲解实战经验,并在群内答疑。

直播议题:

阿里云消息队列 Kafka 实战经验分享

讲师简介:

鹿玄,阿里云智能解决方案架构师,经历过大型分布式系统的开发和维护,并在云计算、云原生等领域有多年从业经验。对系统架构选型、问题排查、性能调优有着丰富的实战经验。致力于通过云原生架构转型来帮助阿里云各行业客户实现业务价值。

直播时间:

2020/11/10(周二) 15:00

分享简介:

消息队列 Kafka 版是阿里云提供的分布式、高吞吐、可扩展的消息队列服务。消息队列 Kafka 版广泛用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等大数据领域,已成为大数据生态中不可或缺的一部分。本次直播将为您深入分享消息队列 Kafka 的实战经验。

议题大纲:

1. 阿里云消息队列 Kafka 的优势
2. 如何迁移到阿里云 Kafka,有哪些注意事项和应对策略?
3. 客户端原理及实践
4. 典型应用场景与案例经验分享

观看方式:

【加入钉钉群观看】阿里云专门成立了“互联网架构升级实战课”钉钉群,每周邀请一位阿里云专家在群内进行行业最佳实践直播,每天分享行业前沿干货,欢迎钉钉扫码或钉钉搜索群号加入:35712134。

uu2uE3j.jpg!mobile


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK