kafka的应用场景有_后端用到kafka的地方

kafka的应用场景有_后端用到kafka的地方kafka作为一个消息流处理平台。很多开发人员都作它作为一个生产&消费的中间件,并没有细细去思考kafka可以在哪些应用场景中使用,下面根据我的经验,总结下kafka可以应用在以下场景中。消息队列这种场景是日常用得最多之一。我日常需要将多台服务器上的日志集中收集到一个点上,通过logstash进行扫描并发到kafka队列中,然后通过消费者程序进行消费写到hbase或者es中。…

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE稳定放心使用

kafka作为一个消息流处理平台。很多开发人员都作它作为一个生产&消费的中间件,并没有细细去思考kafka可以在哪些应用场景中使用,下面根据我的经验,总结下kafka可以应用在以下场景中。

消息队列

kafka的应用场景有_后端用到kafka的地方

这种场景是日常用得最多之一。我日常需要将多台服务器上的日志集中收集到一个点上,通过logstash进行扫描并发到kafka队列中,然后通过消费者程序进行消费写到hbase或者es中。

消息订阅与发布

kafka的应用场景有_后端用到kafka的地方

这种场景也是日常使用最多之一。在日常项目中,我们可以需要重复消费相同的数据,例如一路数据用来收集入库,另一路数据进行实时分析,两路数据消费使用不到的groupid进行区分即 可。

消息削峰

kafka的应用场景有_后端用到kafka的地方

这种场景相对少一些,类似愚公移山,将超过的请求峰值降低到平缓期去处理,使用的是kafka具有一定的缓存能力,默认可以将数据保留7天,当然在硬盘资源允许情况下可以设置更长,最终还是根据实际情况而定。

数据采集

kafka的应用场景有_后端用到kafka的地方

这种应用场景也是最常用之一。当我们面对很多平台或组件的日志时,需要将这些平台或组件的日志统一起来,可以通过kafka统一起来,再分类处理,毕竟kafka是将数据进行字节流处理,不关注数据格式。

流处理

kafka的应用场景有_后端用到kafka的地方

这种用法我暂时也没有用过,这种是在kafka2.0的版本才出现的,对于这种处理目前我还是使用flink或者spark进行处理,有机会可以尝试下是否具有较高的可用性,毕竟这可以减少组件的维护同时提高数据处理能力。

以上图片是积累下来的,并不是本人亲自去画的,感谢上面几个图的作者,但忘记在哪里找些图的了。

 

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/182021.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • oracle设置用户密码永不过期_oracle密码设置无限期

    oracle设置用户密码永不过期_oracle密码设置无限期1、查看用户的proifle是哪个,一般是default:sql>SELECTusername,PROFILEFROMdba_users;2、查看指定概要文件(如default)的密码有效期设置:sql>SELECT*FROMdba_profilessWHEREs.profile=’DEFAULT’ANDresource_name=’PASSWORD_LIFE_TIME’;3、将密码有效期由默认的180天修改成“无限制”:sql>ALTERPROF

    2022年7月28日
    41
  • python 实现一个属于自己的语音播报器

    python 实现一个属于自己的语音播报器

    2021年11月10日
    41
  • a标签下划线的坑

    a标签下划线的坑问题来源描述在使用Vux的tabbar组件,发现底部导航文字会有下划线,用chrome的开发者工具去找到该标签,发现就是一个span,利用各种CSS手段去删除下划线,都不起作用,但是删除这个span标签文字就消失了,span的样式里面也没有出现让其产生下划线的样式,绞尽脑汁去想各种CSS或者是JS能让span控件产生下划线的东西,一点头绪都没有。后面想想唯一的可能性就是a标签了,于是往上去找s…

    2022年5月2日
    48
  • leapftp乱码_如何用网格本做笔记

    leapftp乱码_如何用网格本做笔记生活对我下了手2019年7月23星期二大晴天1.主要掌握怎么连接服务器2.单个文件上传3.整个文件夹上传leapftp界面主要功能板块介绍1.管理ftp服务器配置的地方2.服务器网站文件窗口界面3.上传状态的窗口界面4.正在上传的文件窗口界面5.本地电脑文件窗口界面怎么连接ftp服务器服务器上要有ftp服务,1.你要有ftp服务器的账号,2.你要有ftp服务器的密…

    2025年7月10日
    0
  • android 学习资料[通俗易懂]

    android 学习资料[通俗易懂]■安卓在线源码http://androidxref.com/https://www.androidos.net.cn/sourcecode■AndroidMediaPlayer8.0a

    2022年8月2日
    3
  • PyCharm汉化之后,点击设置没反应,完美解决方法[通俗易懂]

    PyCharm汉化之后,点击设置没反应,完美解决方法[通俗易懂]请先检查下pycharm的安装目录lib下是不是有中文汉化包resources_cn.jar有过有的话建议:1.更换一个汉化包或者将原来的resources_en.jar也放进lib目录下2.将中文汉化包resources_cn.jar删除,只留下原版的resources_en.jar…

    2022年5月9日
    334

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号