Flume和kafka连接测试

Flume和kafka连接测试Flume的配置文件:(和kafka连接的配置文件)#文件名:kafka.properties#配置内容:分别在linux系统里面建两个文件夹:一个文件夹用于存储配置文件(flumetest),一个文件夹用于存储需要读取的文件(flume)a1.sources=s1a1.channels=c1a1.sinks=k1a1.sources.s1.type=netcata1.s…

大家好,又见面了,我是你们的朋友全栈君。

Flume的配置文件:(和kafka连接的配置文件)

#文件名:kafka.properties

#配置内容:

分别在linux系统里面建两个文件夹:一个文件夹用于存储配置文件(flumetest),一个文件夹用于存储需要读取的文件(flume)

a1.sources = s1
a1.channels = c1
a1.sinks = k1

a1.sources.s1.type = netcat
a1.sources.s1.bind = 192.168.123.102
a1.sources.s1.port = 44455

a1.channels.c1.type = memory

a1.sinks.k1.type = org.apache.flume.sink.kafka.KafkaSink
a1.sinks.k1.kafka.topic = t1
a1.sinks.k1.kafka.bootstrap.servers = 192.168.123.103:9092

a1.sources.s1.channels = c1
a1.sinks.k1.channel = c1

需要先启动zookeeper。

启动kafka集群:(配置的节点都要启动)

[hadoop@hadoop02 kafka_2.11-1.0.0]$ bin/kafka-server-start.sh config/server.properties

kafka集群需要有 t1 这个 topic

a1.sinks.k1.kafka.topic = t1

启动Flume:

[hadoop@hadoop02 apache-flume-1.8.0-bin]$ flume-ng agent --conf conf --conf-file /home/hadoop/apps/apache-flume-1.8.0-bin/flumetest/kafka.properties --name a1 -Dflume.root.logger=INFO,console

在hadoop03上启动kafka消费的信息:

[hadoop@hadoop03 kafka_2.11-1.0.0]$ bin/kafka-console-consumer.sh --zookeeper hadoop02:2181 --from-beginning --topic t1       
Using the ConsoleConsumer with old consumer is deprecated and will be removed in a future major release. Consider using the new consumer by passing [bootstrap-server] instead of [zookeeper].
ok
aaa

然后在hadoop02上面连接:

[hadoop@hadoop02 kafka_2.11-1.0.0]$ telnet 192.168.123.102 44455  
Trying 192.168.123.102...
Connected to 192.168.123.102.
Escape character is '^]'.
aaa
OK

发送aaa会在hadoop03节点的kafka消费信息中显示。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/152389.html原文链接:https://javaforall.net

赞 (0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • maven常见命令及打包方式

    maven常见命令及打包方式做项目时使用maven构建项目已经是现在的流行做法了。maven最大的作用就是用于对项目中jar包依赖的统一管理。maven还有一些常用的命令,更加方便项目的管理。下面介绍一些常用的命令及其作用。(1)mavenclean。对项目进行清理,清理的过程中会删除删除target目录下编译的内容。(2)mavencompile。编译项目源代码。(3)maventest。对项目的运…

    2022年5月10日
  • linux安装启动nginx_centos7 安装

    linux安装启动nginx_centos7 安装环境:VMware16pro,centos7解决:安装nginx前的准备安装gcc环境:在官网下载的nginx源码需要编译,所以需要gcc环境。yuminstallgcc-c++安装PCREpcre-develNginx的Rewrite模块和HTTP核心模块会使用到PCRE正则表达式语法。这里需要安装两个安装包pcre和pcre-devel。第一个安装包提供编译版本的库,而第二个提供开发阶段的头文件和编译项目的源代码。安装命令如下:yuminstall-ypcr

    2022年10月5日
  • 基数排序(LSD+MSD)详解

    基数排序(LSD+MSD)详解一.计数排序二.基数排序

    2022年6月9日
  • winrar 去广告 使用 hxd 或 任意二进制修改器

    winrar 去广告 使用 hxd 或 任意二进制修改器不喜使用winrar,但是winrar解压算法偶尔会更新,其他解压缩软件没有及时更新,就会造成只能用winrar来解压的情况参考方法来自https://www.52pojie.cn/thread-648133-1-1.html只是觉得用ResHacker太麻烦“##0aN9…”这串字符串是以宽字符串为保存的,如果要用搜索字符串方法,需要用搜索unicode字符串…

    2022年5月27日
  • redis :read error on connection

    redis :read error on connection

    2021年10月27日
  • php _initialize()与__construct()的区别

    php _initialize()与__construct()的区别

    2022年2月20日

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号