清空kafka_kafka的topic

清空kafka_kafka的topic1.问题描述使用kafka-topics–delete命令删除topic时并没有真正的删除,而是把topic标记为:“markedfordeletion”,导致重新创建相同名称的Topic时报错“alreadyexists”。2.问题复现1.登录Kafka集群所在的服务器,创建一个test的topic[root@cdh1~]#kafka-topics–create…

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE使用 1年只要46元 售后保障 童叟无欺

1.问题描述

使用kafka-topics –delete命令删除topic时并没有真正的删除,而是把topic标记为:“marked for deletion”,导致重新创建相同名称的Topic时报错“already exists”。

2.问题复现

1.登录Kafka集群所在的服务器,创建一个test的topic

[root@cdh1 ~]# kafka-topics –create –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –replication-factor 1 –partitions 1 –topic test

0022-如何永久删除Kafka的Topic

2.查看新创建的topic

[root@cdh1 ~]# kafka-topics –list –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181

0022-如何永久删除Kafka的Topic

3.通过如下命令删除新建的topic

[root@cdh1 ~]# kafka-topics –delete –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –topic test

0022-如何永久删除Kafka的Topic

此处显示“Topic test is marked for deletion”

4.尝试重新创建一个test的Topic

[root@cdh1 ~]# kafka-topics –create –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –replication-factor 1 –partitions 1 –topic test

0022-如何永久删除Kafka的Topic

提示该Topic已存在,说明在第3步操作的删除并没有真正的将Topic删除。

3.问题原因

默认情况下Kafka是禁用了删除Topic的操作,所以在执行Topic删除的时候只是将删除的Topic标记为“marked for deletion”状态。可以通过修改Kafka服务的配置参数启用。

4.解决方法

4.1方法1

在kafka服务配置delete.topic.enable=false的情况下,如果需要永久删除topic则需要做如下操作:

  • 通过kafka命令删除相应的topic
  • 在zookeeper中删除相应的topic
  • 在topic所在的broker节点上删除topic的log数据

操作如下:

1.查看topic的描述信息,命令如下

kafka-topics –describe –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –topic test

0022-如何永久删除Kafka的Topic

上图标注部分为topic对应的数据存放节点

2.通过kafka命令删除,命令如下:

kafka-topics –delete –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –topic test

0022-如何永久删除Kafka的Topic

3.通过zookeeper客户端删除topic,命令如下

zookeeper-client -server ip-172-31-1-175.ap-southeast-1.compute.internal:2181

ls /brokers/topics

rmr /brokers/topics/test

注:标红部分为topic的名称

0022-如何永久删除Kafka的Topic

4.登录到第1步中列出的对应节点的topic的log数据目录,此处我们Kafka的log.dirs目录配置为/var/local/kakfa,执行命令

[ec2-user@ip-172-31-9-186 data]$ sudo rm -rf test-0/

0022-如何永久删除Kafka的Topic

5.验证是否生效

创建一个名称为“test”的Topic,可以正常创建

0022-如何永久删除Kafka的Topic

注意:此处将topic为test的日志目录(/var/local/kafka/test-0)删除后,新创建的topic为test的日志目录不存在,重启Kafka服务后正常,目录能正常显示。

4.2方法2

在Kafka服务已配置delete.topic.enable=true的情况下,永久删除topic需要做如下操作:

  • 使用kafka命令删除topic

操作如下:

  1. 删除前数据查看:

kafka-topics –describe –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –topic test

0022-如何永久删除Kafka的Topic

各个数据节点的信息:

0022-如何永久删除Kafka的Topic

0022-如何永久删除Kafka的Topic

0022-如何永久删除Kafka的Topic

Zookeeper信息:

0022-如何永久删除Kafka的Topic

2.通过kafka命令删除需要删除的topic,命令如下

kafka-topics –delete –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –topic test

0022-如何永久删除Kafka的Topic

3.查看Zookeeper客户端topic信息

[zk: ip-172-31-1-175.ap-southeast-1.compute.internal:2181(CONNECTED) 9] ls /brokers/topics

0022-如何永久删除Kafka的Topic

4.查看brober节点上topic的日志数据

0022-如何永久删除Kafka的Topic

0022-如何永久删除Kafka的Topic

0022-如何永久删除Kafka的Topic

5.删除后成功后,验证是否能创建名称为test的Topic

0022-如何永久删除Kafka的Topic

注意:

如果Kafka服务配置了delete.topic.enable=true,直接通过命令行删除,未能删除Topic则可以通过zookeeper-client来进行删除。

如果Kafka服务未配置delete.topic.enable=true,直接通过delete命令删除topic,删除时只会将topic标记为“marked for deletion”,然后通过zookeeper-client进行删除是不会删除topic的data.log数据目录的,需要将相应的broker服务器上的data.log目录下相应的topic目录删除,data.log目录获取,可以通过CM界面查看:

0022-如何永久删除Kafka的Topic

建议:Kafka服务开启delete.topic.enable=true,开启方式如下:

0022-如何永久删除Kafka的Topic

开启后需要重启Kafka服务。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/183906.html原文链接:https://javaforall.net

(0)
上一篇 2022年8月31日 上午9:16
下一篇 2022年8月31日 上午9:16


相关推荐

  • vs2019中scanf返回值被忽略_vs2017scanf

    vs2019中scanf返回值被忽略_vs2017scanf一、问题再现如下是笔者在学习数据结构中的二叉树时遇到的问题:报错警告:返回值被忽略:”scanf”。二、问题分析百度一下之后大致原因是:scanf()函数在读取时不检查边界,所以可能会造成内存泄漏。有一定的安全隐患。微软公司觉得其不安全,所以在VS编译器中提供了scanf_s()函数,这是VS编译器特有的函数。强制用户提升安全性,如果想要在VS中使用scanf()函数,则可以通过一下4中方法解决。三、解决方案1、把scanf改成:scanf_s把所有的scanf()改

    2025年6月8日
    5
  • 流程图的绘图规范_流程图绘制的基本规则

    流程图的绘图规范_流程图绘制的基本规则画了多年的流程图,你真的画规范了吗?|人人都是产品经理流程有哪些作用?我们为什么要画流程图呢?正确的画流程图规范是什么?流程图是一个很强大的工具,在我们的日常工作中经常会使用到。但我们也发现,有时看到别人流程图的画法、规范都不太一样,这是为什么呢?难道流程图就没有统一的标准或规范吗?基于这个疑问,我出于好奇认http://www.woshipm.com/zhichang/2329530.html以上为笔记来源出!一、流程图的符号要求 有几个重要且常用的符号:…

    2025年7月15日
    5
  • 单片机和4G模块通信总结(EC20)

    单片机和4G模块通信总结(EC20)第一代数据汇集单元基本开发完毕 运行也有一年了 做下总结吧 希望能够给大家提供帮助 4G 模块选择的是移远的 EC20 通过串口和单片机交互 其实是什么型号并不重要 大体的流程和注意事项基本都一样 一 硬件首先 4G 模块本身功耗很高 尤其是 4G 模块刚上电开机瞬间 会有一个大的电流脉冲 这里我们选择的芯片本身参数符合指标 但是实际使用时候 发现有一些模块损坏问题 现场反馈是后台没有数据 查问题发现是 MCU 不断在重启 在查发现是 4G 模块重启导致 MCU 复位 再分析是 4G 电源貌似处于一种震荡状

    2026年3月20日
    3
  • FlashFXP v3.5.4注册码+FlashFXP v3.6.0注册码+FlashFXP v3.7.2.build.1266…[通俗易懂]

    FlashFXP v3.5.4注册码+FlashFXP v3.6.0注册码+FlashFXP v3.7.2.build.1266…[通俗易懂]
    FlashFXP是功能强大的FXP/FTP软件,融合了一些其他优秀FTP软件的优点,如像CuteFTP一样可以比较文件夹,支持彩色文字显示;像BpFTP支持多文件夹选择文件,能够缓存文件夹;像LeapFTP一样的外观界面,甚至设计思路也差相仿佛。支持文件夹(带子文件夹)的文件传送、删除;支持上传、下载及第三方文件续传;可以跳过指定的文件类型,只传送需要的文件;可以自定义不同文件类型的显示颜色;可以缓存远端文件夹列表,支持FTP代理及Socks4&5;具有避免空闲功

    2022年7月26日
    10
  • Springboot的jar包和war包的区别

    Springboot的jar包和war包的区别转自: https://blog.csdn.net/qq_32331073/article/details/81544061SpringBoot默认支持很多模板引擎,但是JSP只能够在War中使用,同时mvc.view.prifix/suffix必须主动配置给出,另外必须导入JSP的默认渲染servlet:”org.apache.jasper.servlet.JspServlet”,即添加依赖:…

    2022年5月23日
    29
  • STM32CubeMX实战教程(七)——TFT_LCD液晶显示(附驱动代码)

    STM32CubeMX实战教程(七)——TFT_LCD液晶显示(附驱动代码)液晶显示前言材料TFT_LCD前言想来想去,也不知道更新什么内容比较好了,犹豫了好久还是先跟大家讲讲液晶显示的配置吧,毕竟我觉得这个在很多项目中都非常实用,我个人是比较喜欢用一块TFT液晶来做显示终端的,大大的屏幕显示什么都方便,接到产品上面也显得特别高端,当然在考虑成本的情况下OLED和12864这些也是不错的选择。材料STM32F4正点原子探索者开发板原理图TFT_LCD(我这里用的是4.3寸的液晶,芯片为ILI9341,但理论上本驱动程序支持的芯片包括ILI9341/ILI9325/RM

    2022年5月10日
    69

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号