清空kafka_kafka的topic

清空kafka_kafka的topic1.问题描述使用kafka-topics–delete命令删除topic时并没有真正的删除,而是把topic标记为:“markedfordeletion”,导致重新创建相同名称的Topic时报错“alreadyexists”。2.问题复现1.登录Kafka集群所在的服务器,创建一个test的topic[root@cdh1~]#kafka-topics–create…

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE使用 1年只要46元 售后保障 童叟无欺

1.问题描述

使用kafka-topics –delete命令删除topic时并没有真正的删除,而是把topic标记为:“marked for deletion”,导致重新创建相同名称的Topic时报错“already exists”。

2.问题复现

1.登录Kafka集群所在的服务器,创建一个test的topic

[root@cdh1 ~]# kafka-topics –create –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –replication-factor 1 –partitions 1 –topic test

0022-如何永久删除Kafka的Topic

2.查看新创建的topic

[root@cdh1 ~]# kafka-topics –list –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181

0022-如何永久删除Kafka的Topic

3.通过如下命令删除新建的topic

[root@cdh1 ~]# kafka-topics –delete –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –topic test

0022-如何永久删除Kafka的Topic

此处显示“Topic test is marked for deletion”

4.尝试重新创建一个test的Topic

[root@cdh1 ~]# kafka-topics –create –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –replication-factor 1 –partitions 1 –topic test

0022-如何永久删除Kafka的Topic

提示该Topic已存在,说明在第3步操作的删除并没有真正的将Topic删除。

3.问题原因

默认情况下Kafka是禁用了删除Topic的操作,所以在执行Topic删除的时候只是将删除的Topic标记为“marked for deletion”状态。可以通过修改Kafka服务的配置参数启用。

4.解决方法

4.1方法1

在kafka服务配置delete.topic.enable=false的情况下,如果需要永久删除topic则需要做如下操作:

  • 通过kafka命令删除相应的topic
  • 在zookeeper中删除相应的topic
  • 在topic所在的broker节点上删除topic的log数据

操作如下:

1.查看topic的描述信息,命令如下

kafka-topics –describe –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –topic test

0022-如何永久删除Kafka的Topic

上图标注部分为topic对应的数据存放节点

2.通过kafka命令删除,命令如下:

kafka-topics –delete –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –topic test

0022-如何永久删除Kafka的Topic

3.通过zookeeper客户端删除topic,命令如下

zookeeper-client -server ip-172-31-1-175.ap-southeast-1.compute.internal:2181

ls /brokers/topics

rmr /brokers/topics/test

注:标红部分为topic的名称

0022-如何永久删除Kafka的Topic

4.登录到第1步中列出的对应节点的topic的log数据目录,此处我们Kafka的log.dirs目录配置为/var/local/kakfa,执行命令

[ec2-user@ip-172-31-9-186 data]$ sudo rm -rf test-0/

0022-如何永久删除Kafka的Topic

5.验证是否生效

创建一个名称为“test”的Topic,可以正常创建

0022-如何永久删除Kafka的Topic

注意:此处将topic为test的日志目录(/var/local/kafka/test-0)删除后,新创建的topic为test的日志目录不存在,重启Kafka服务后正常,目录能正常显示。

4.2方法2

在Kafka服务已配置delete.topic.enable=true的情况下,永久删除topic需要做如下操作:

  • 使用kafka命令删除topic

操作如下:

  1. 删除前数据查看:

kafka-topics –describe –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –topic test

0022-如何永久删除Kafka的Topic

各个数据节点的信息:

0022-如何永久删除Kafka的Topic

0022-如何永久删除Kafka的Topic

0022-如何永久删除Kafka的Topic

Zookeeper信息:

0022-如何永久删除Kafka的Topic

2.通过kafka命令删除需要删除的topic,命令如下

kafka-topics –delete –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –topic test

0022-如何永久删除Kafka的Topic

3.查看Zookeeper客户端topic信息

[zk: ip-172-31-1-175.ap-southeast-1.compute.internal:2181(CONNECTED) 9] ls /brokers/topics

0022-如何永久删除Kafka的Topic

4.查看brober节点上topic的日志数据

0022-如何永久删除Kafka的Topic

0022-如何永久删除Kafka的Topic

0022-如何永久删除Kafka的Topic

5.删除后成功后,验证是否能创建名称为test的Topic

0022-如何永久删除Kafka的Topic

注意:

如果Kafka服务配置了delete.topic.enable=true,直接通过命令行删除,未能删除Topic则可以通过zookeeper-client来进行删除。

如果Kafka服务未配置delete.topic.enable=true,直接通过delete命令删除topic,删除时只会将topic标记为“marked for deletion”,然后通过zookeeper-client进行删除是不会删除topic的data.log数据目录的,需要将相应的broker服务器上的data.log目录下相应的topic目录删除,data.log目录获取,可以通过CM界面查看:

0022-如何永久删除Kafka的Topic

建议:Kafka服务开启delete.topic.enable=true,开启方式如下:

0022-如何永久删除Kafka的Topic

开启后需要重启Kafka服务。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/183906.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • cmd运行ping不是内部或外部命令_cmd中用PING命令时,出现’Ping’不是内部或外部命令…

    cmd运行ping不是内部或外部命令_cmd中用PING命令时,出现’Ping’不是内部或外部命令…在 cmd 中用 PING 命令时 出现 Ping 不是内部或外部命令 也不是可运行的程序或批处理文件 先了解一下内容 1 可执行文件 命令文件和批处理文件以 exe 或者 com 或者 bat 为扩展名的文件分别被称为可执行文件 命令文件和批处理文件 2 外部命令和内部命令 DOS 命令可以分为外部命令和内部命令 内部命令包含在一个名为 command com 的文件 在系统启动时候驻留在内存中 外部命令是保存在 c

    2025年11月23日
    3
  • 使用 SSH 连接到 Linux 实例

    使用 SSH 连接到 Linux 实例

    2022年2月15日
    61
  • 【SCOI补全记】SCOI2016 bzoj4567-4572

    【SCOI补全记】SCOI2016 bzoj4567-4572T1:背单词(bzoj4567)题解代码T2:幸运数字(bzoj4568)题解代码T3:萌萌哒(bzoj4569)T4:妖怪(bzoj4570)T5:美味(bzoj4571)题解代码T6:围棋(bzoj4572)T1:背单词(bzoj4567)题解关键词:trie树贪心题意有些难懂,简单解释一下。对于在位置xxx的单词:…

    2022年7月26日
    7
  • @RequestParam注解使用

    @RequestParam注解使用1、作用:@RequestParam:将请求参数绑定到你控制器的方法参数上(是springmvc中接收普通参数的注解)2、语法:语法:@RequestParam(value=”参数名”,required=”true/false”,defaultValue=””)value:参数名required:是否包含该参数,默认为true,表示该请求路径中必须包含该参数,如果不包含就报…

    2022年6月30日
    20
  • C#调用windows api示例

    这是运行结果:Api函数是构筑Windws应用程序的基石,每一种Windows应用程序开发工具,它提 供的底层函数都间接或直接地调用了Windows API函数,同时为了实现功能

    2021年12月21日
    49
  • 【收藏向】模拟电子技术超强知识点总结 20小时不挂科「建议收藏」

    【收藏向】模拟电子技术超强知识点总结 20小时不挂科「建议收藏」模电真的有难度的一门课,一定要好好学…用的教材是华科康华光版,其他版本教材也可参考,内容是差不多的。话不多说直接上思维导图干货(后有思维导图高清原图链接)1绪论2运算放大器3二极管及其基本电路4场效应管及其放大电路5双极结型三极管及其放大电路三种组态总结看不清,给个特写发现虽然csdn上传的是原图,但是显示的图片不是特别清晰,在此贴出B站知乎地址,第五章之后的内容都在上面,还可以查看原图————————————————————B站专栏地址(可以点击查看原图)htt

    2022年6月20日
    38

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号