flume与kafka应用场景解析「建议收藏」

flume与kafka应用场景解析「建议收藏」今天也要努力学习flume与kafka是同级的一个消息传输通道:但是有各自的定位1:kafka定位消息队列,它可以有许多的生产者和消费者,并可以共享一个主题topic队列。而flume是定位数据传输,相比下,flume是一个专用工具被设计为旨在往HDFS,HBASE发送数据。它对H…

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE稳定放心使用

                                                     今天也要努力学习

 flume与kafka是同级的一个消息传输通道:但是有各自的定位

 1:kafka定位消息队列,它可以有许多的生产者和消费者,并可以共享一个主题topic队列。而flume是定位数据传输,相比下,flume是一个专用工具被设计为旨在往HDFS,HBASE发送数据。它对HDFS有特殊的优化,并且集成了hadoop的安全特性。如果有多个dataconsumer,选择kafka,如果数据设计给hadoop使用,使用flume。

2:flume可以使用拦截器(timestamp interceptor,host interceptor,regex filtering interceptor)实时处理数据。这些对数据屏蔽或者过量是很有作用的,而kafka需要外部的流处理系统才能做到。

3:kafka和flume都是可靠的系统,可以通过适当的配置保证零数据丢失,区别在于flume不支持副本事件,当flume节点挂掉的时候,即便你使用了高可用的文件管道方式,你也将丢失这些事件直到你恢复这些磁盘,如果你需要一个高可靠的传输,kafka是一个更好的选择。

4:相对于日志采集,线上数据一般是通过落地文件或者通过socket传输给另外一个系统,这种情况下,你很难推动线上的应用或者服务去修改接口,直接向kafka里面写数据,这时候你可能就需要flume这样的系统去帮你做传输。

 

 

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/182143.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • 分布式爬虫部署[通俗易懂]

    分布式爬虫部署[通俗易懂]【服务器端】1.下载redis,RedisDesktopManagerredis。2.修改配置文件(找到redis下的redis.windows.conf双击打开,找到bind并修改为0.0.0.0,然后protected-mode“no”3.打开cmd命令行进入redis的安装目录,输入redis-server.exeredis.windows.conf回车,保持程序一直开着。如果不是这个界面,证明redis服务已经开启了,需要redis-clishutdow

    2022年10月26日
    0
  • java weakhashmap_解析WeakHashMap与HashMap的区别详解

    java weakhashmap_解析WeakHashMap与HashMap的区别详解WeakHashMap,此种Map的特点是,当除了自身有对key的引用外,此key没有其他引用那么此map会自动丢弃此值,见实例:此例子中声明了两个Map对象,一个是HashMap,一个是WeakHashMap,同时向两个map中放入a、b两个对象,当HashMapremove掉a并且将a、b都指向null时,WeakHashMap中的a将自动被回收掉。出现这个状况的原因是,对于a对象而言,…

    2022年5月6日
    40
  • java中jbpm工作流_安卓框架

    java中jbpm工作流_安卓框架JBPM工作流框架应用导入jar包jbpm案例中获取配置文件,并配置本地数据库创建流程,并进行相关修改流程及流程内任务等的草操作importjava.io.File;importjava.io.FileInputStream;importjava.io.FileOutputStream;importjava.io.IOException;importj

    2022年9月8日
    0
  • msys2安装与使用_mingw使用教程

    msys2安装与使用_mingw使用教程一、安装官方下载地址http://www.msys2.org/指定好安装路径(一般D根目录即可),一路下一步就好。二、配置国内镜像、设置窗体修改颜色使用[清华大学开源软件镜像站]中的地址,修

    2022年8月6日
    7
  • 数据库关系模型基本概念「建议收藏」

    数据库关系模型基本概念「建议收藏」0.什么是关系模型?1.关系模型以表为基本结构2.包括了基本的操作:并,差,广义积,选择,投影以及拓展的操作:交,连接,除3.还有完整性约束:实体完整性,参照完整性,用户自定义完整性。1.什么是关系?什么是表?关系是所有域的笛卡尔积的子集,关系是严格的数学定义,是一个集合,不允许有相同的元组出现。表是现代数据库依照关系的理论基础,它允许有相同的记录。2.关系模型有哪些操作?基本的操作:并,差,广义积,选择,投影拓展的操作:交,连接,除3.关系模型的完整性有哪些?实体完整性(主键

    2022年7月16日
    11
  • Unity AssetBundle

    Unity AssetBundle#AssetBundle作用原理把资源导出成一种叫做AssetBundle的文件,然后打包后可以在Unity程序运行的时候再加载回来用。AssetBundle是采取某一种压缩方式压缩成的资源文件。节省存储空间,控制游戏包的大小,实现游戏的热更新。AssetBundle文件分类AssetBundle文件可以分为两类:序列化文件(serializedfile)和资源文件(resource…

    2022年6月24日
    22

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号