kafka的应用场景有_后端用到kafka的地方

kafka的应用场景有_后端用到kafka的地方kafka作为一个消息流处理平台。很多开发人员都作它作为一个生产&消费的中间件,并没有细细去思考kafka可以在哪些应用场景中使用,下面根据我的经验,总结下kafka可以应用在以下场景中。消息队列这种场景是日常用得最多之一。我日常需要将多台服务器上的日志集中收集到一个点上,通过logstash进行扫描并发到kafka队列中,然后通过消费者程序进行消费写到hbase或者es中。…

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE稳定放心使用

kafka作为一个消息流处理平台。很多开发人员都作它作为一个生产&消费的中间件,并没有细细去思考kafka可以在哪些应用场景中使用,下面根据我的经验,总结下kafka可以应用在以下场景中。

消息队列

kafka的应用场景有_后端用到kafka的地方

这种场景是日常用得最多之一。我日常需要将多台服务器上的日志集中收集到一个点上,通过logstash进行扫描并发到kafka队列中,然后通过消费者程序进行消费写到hbase或者es中。

消息订阅与发布

kafka的应用场景有_后端用到kafka的地方

这种场景也是日常使用最多之一。在日常项目中,我们可以需要重复消费相同的数据,例如一路数据用来收集入库,另一路数据进行实时分析,两路数据消费使用不到的groupid进行区分即 可。

消息削峰

kafka的应用场景有_后端用到kafka的地方

这种场景相对少一些,类似愚公移山,将超过的请求峰值降低到平缓期去处理,使用的是kafka具有一定的缓存能力,默认可以将数据保留7天,当然在硬盘资源允许情况下可以设置更长,最终还是根据实际情况而定。

数据采集

kafka的应用场景有_后端用到kafka的地方

这种应用场景也是最常用之一。当我们面对很多平台或组件的日志时,需要将这些平台或组件的日志统一起来,可以通过kafka统一起来,再分类处理,毕竟kafka是将数据进行字节流处理,不关注数据格式。

流处理

kafka的应用场景有_后端用到kafka的地方

这种用法我暂时也没有用过,这种是在kafka2.0的版本才出现的,对于这种处理目前我还是使用flink或者spark进行处理,有机会可以尝试下是否具有较高的可用性,毕竟这可以减少组件的维护同时提高数据处理能力。

以上图片是积累下来的,并不是本人亲自去画的,感谢上面几个图的作者,但忘记在哪里找些图的了。

 

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/182021.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • mse pytorch_pytorch scatter

    mse pytorch_pytorch scatter基本概念均方误差(meansquareerror,MSE),是反应估计量与被估计量之间差异程度的一种度量,设ttt是根据子样确定的总体参数θ\thetaθ的一个估计量,(θ−t)2(\theta-t)^{2}(θ−t)2的数学期望,称为估计量ttt的均方误差。pytorch中MSELoss函数介绍torch.nn.MSELoss(size_average=True,reduce=Tru…

    2022年9月18日
    0
  • smartgwt (A)「建议收藏」

    smartgwt (A)「建议收藏」 smartgwt一个比较陌生的名字,却充满了神奇,模糊了web应用和windows应用的界限。很多人听过gwt,是的,用java写Ajax,smartgwt不仅多了一层华丽的包装,而且将gwt发挥到了极致!三者结合所产生的优势:跨操作系统、跨浏览器(主流的)、异步的实现web应用程序。 smartgwt很大的一个特点是,即使你不会美工,也能将页面处理的很得体,很美观(限网络应用程序,不需

    2022年5月8日
    62
  • map转map_java获取map的值

    map转map_java获取map的值String转map:Mapmap_new=newGson().fromJson(s,map.getClass());//需要引入jar包引用的jar<!–配置gson–><dependency><groupId>com.google.code.gson</groupId><artifactId>gson</artifactId><version>2.2.4</v.

    2022年9月10日
    0
  • matlab中coef是什么,LinearRegression()中的coef_U值代表什么?

    matlab中coef是什么,LinearRegression()中的coef_U值代表什么?我是机器学习的初学者。这只是一个简单的问题,LinearRegression()中的coef帴代表什么?我知道它代表的是系数,但我不明白这些值,高的和正的系数意味着更强的关系吗?在而且,如果coef_u值是指数型的,这是否意味着我的线性回归是错误的?在array([-3.12840684e+02,-1.01279891e+13,-1.42682874e+13,-1.42682874e+13,…

    2022年10月27日
    0
  • 一. WireShark 抓包及常用协议分析「建议收藏」

    一. WireShark 抓包及常用协议分析「建议收藏」WireShark抓包及常用协议分析简介WireShark简介和抓包原理及过程实战:WireShark抓包及快速定位数据包技巧实战:使用WireShark对常用协议抓包并分析原理实战:WireShark抓包解决服务器被黑上不了网总结:简介1.1WireShark简介和抓包原理及过程1.2实战:WireShark抓包及快速定位数据包技巧1.3实战:使用WireSha…

    2022年9月4日
    3
  • ajax使用案例

    ajax使用案例1、初步了解这里可以修改网络快和慢。限网,流量式的,做模拟的。network->all代表加载的所有事件后面的那个显示有/,这个是首路由。后面有很多svg和js等文件想要这个服务器的地址

    2022年7月2日
    21

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号