清空kafka_kafka的topic

清空kafka_kafka的topic1.问题描述使用kafka-topics–delete命令删除topic时并没有真正的删除,而是把topic标记为:“markedfordeletion”,导致重新创建相同名称的Topic时报错“alreadyexists”。2.问题复现1.登录Kafka集群所在的服务器,创建一个test的topic[root@cdh1~]#kafka-topics–create…

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE使用 1年只要46元 售后保障 童叟无欺

1.问题描述

使用kafka-topics –delete命令删除topic时并没有真正的删除,而是把topic标记为:“marked for deletion”,导致重新创建相同名称的Topic时报错“already exists”。

2.问题复现

1.登录Kafka集群所在的服务器,创建一个test的topic

[root@cdh1 ~]# kafka-topics –create –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –replication-factor 1 –partitions 1 –topic test

0022-如何永久删除Kafka的Topic

2.查看新创建的topic

[root@cdh1 ~]# kafka-topics –list –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181

0022-如何永久删除Kafka的Topic

3.通过如下命令删除新建的topic

[root@cdh1 ~]# kafka-topics –delete –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –topic test

0022-如何永久删除Kafka的Topic

此处显示“Topic test is marked for deletion”

4.尝试重新创建一个test的Topic

[root@cdh1 ~]# kafka-topics –create –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –replication-factor 1 –partitions 1 –topic test

0022-如何永久删除Kafka的Topic

提示该Topic已存在,说明在第3步操作的删除并没有真正的将Topic删除。

3.问题原因

默认情况下Kafka是禁用了删除Topic的操作,所以在执行Topic删除的时候只是将删除的Topic标记为“marked for deletion”状态。可以通过修改Kafka服务的配置参数启用。

4.解决方法

4.1方法1

在kafka服务配置delete.topic.enable=false的情况下,如果需要永久删除topic则需要做如下操作:

  • 通过kafka命令删除相应的topic
  • 在zookeeper中删除相应的topic
  • 在topic所在的broker节点上删除topic的log数据

操作如下:

1.查看topic的描述信息,命令如下

kafka-topics –describe –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –topic test

0022-如何永久删除Kafka的Topic

上图标注部分为topic对应的数据存放节点

2.通过kafka命令删除,命令如下:

kafka-topics –delete –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –topic test

0022-如何永久删除Kafka的Topic

3.通过zookeeper客户端删除topic,命令如下

zookeeper-client -server ip-172-31-1-175.ap-southeast-1.compute.internal:2181

ls /brokers/topics

rmr /brokers/topics/test

注:标红部分为topic的名称

0022-如何永久删除Kafka的Topic

4.登录到第1步中列出的对应节点的topic的log数据目录,此处我们Kafka的log.dirs目录配置为/var/local/kakfa,执行命令

[ec2-user@ip-172-31-9-186 data]$ sudo rm -rf test-0/

0022-如何永久删除Kafka的Topic

5.验证是否生效

创建一个名称为“test”的Topic,可以正常创建

0022-如何永久删除Kafka的Topic

注意:此处将topic为test的日志目录(/var/local/kafka/test-0)删除后,新创建的topic为test的日志目录不存在,重启Kafka服务后正常,目录能正常显示。

4.2方法2

在Kafka服务已配置delete.topic.enable=true的情况下,永久删除topic需要做如下操作:

  • 使用kafka命令删除topic

操作如下:

  1. 删除前数据查看:

kafka-topics –describe –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –topic test

0022-如何永久删除Kafka的Topic

各个数据节点的信息:

0022-如何永久删除Kafka的Topic

0022-如何永久删除Kafka的Topic

0022-如何永久删除Kafka的Topic

Zookeeper信息:

0022-如何永久删除Kafka的Topic

2.通过kafka命令删除需要删除的topic,命令如下

kafka-topics –delete –zookeeper ip-172-31-1-175.ap-southeast-1.compute.internal:2181 –topic test

0022-如何永久删除Kafka的Topic

3.查看Zookeeper客户端topic信息

[zk: ip-172-31-1-175.ap-southeast-1.compute.internal:2181(CONNECTED) 9] ls /brokers/topics

0022-如何永久删除Kafka的Topic

4.查看brober节点上topic的日志数据

0022-如何永久删除Kafka的Topic

0022-如何永久删除Kafka的Topic

0022-如何永久删除Kafka的Topic

5.删除后成功后,验证是否能创建名称为test的Topic

0022-如何永久删除Kafka的Topic

注意:

如果Kafka服务配置了delete.topic.enable=true,直接通过命令行删除,未能删除Topic则可以通过zookeeper-client来进行删除。

如果Kafka服务未配置delete.topic.enable=true,直接通过delete命令删除topic,删除时只会将topic标记为“marked for deletion”,然后通过zookeeper-client进行删除是不会删除topic的data.log数据目录的,需要将相应的broker服务器上的data.log目录下相应的topic目录删除,data.log目录获取,可以通过CM界面查看:

0022-如何永久删除Kafka的Topic

建议:Kafka服务开启delete.topic.enable=true,开启方式如下:

0022-如何永久删除Kafka的Topic

开启后需要重启Kafka服务。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/183906.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • 梯度下降法和随机梯度下降法的区别_梯度下降法的优缺点

    梯度下降法和随机梯度下降法的区别_梯度下降法的优缺点1.梯度  在微积分里面,对多元函数的参数求∂偏导数,把求得的各个参数的偏导数以向量的形式写出来,就是梯度。比如函数f(x,y),分别对x,y求偏导数,求得的梯度向量就是(∂f/∂x,∂f/∂y)T,简称gradf(x,y)或者▽f(x,y)。对于在点(x0,y0)的具体梯度向量就是(∂f/∂x0,∂f/∂y0)T.或者▽f(x0,y0),如果是3个参数的向量梯度,就是(∂f/∂x,…

    2022年9月10日
    3
  • pycharm多行代码同时注释、去除注释_pycharm提示快捷键

    pycharm多行代码同时注释、去除注释_pycharm提示快捷键单行和多行注释快捷键选中后:Ctrl+/(done)

    2022年8月25日
    6
  • 一致性哈希算法详解

    一致性哈希算法详解1、使用哈希算法有什么问题?假设有一个由A、B、C三个节点组成的KV服务,每个节点存放不同的KV数据。通过哈希算法,每个key都可以寻址到对应的服务器,比如,查询key是key-01,计算公式为hash(key-01)%3,经过计算寻址到了编号为1的服务器节点A但如果服务器数量发生变化,基于新的服务器数量来执行哈希算法的时候,就会出现路由寻址失败的情况,Proxy无法找到之前寻址到的那个服务器节点假如3个节点不能满足业务需求了,这时增加了一个节点,节点的数量从3变化为4,那么之前的hash(key

    2022年7月27日
    6
  • vue深拷贝与浅拷贝_vue深拷贝与浅拷贝

    vue深拷贝与浅拷贝_vue深拷贝与浅拷贝先说说1.栈内存,它的存取速度比较快,仅此于寄存器,栈中的数据还可以共享。其缺点表现在,存在栈中的数据大小与生存期必须是确定的,缺乏灵活性。使用完毕会被“隐式”回收2.堆内存,这和数据类型就有关系了,举个简单的例子leta=1,leta=b,你复制a,b会开辟新的栈内存,动态地分配内存大小,可以“按需分配”,其生存期也不必事先告诉编译器,在使用完毕后,Java的垃圾收集器会自动收走这些不再使用的内存块。其缺点为,由于要在运动时才动态分配内存,相比于栈内存,它的存取速度较慢。然后修改a

    2022年9月30日
    5
  • 原码反码补码运算规则_正数的原码反码补码相同吗

    原码反码补码运算规则_正数的原码反码补码相同吗一.机器数和真值在学习原码,反码和补码之前,需要先了解机器数和真值的概念.1、机器数一个数在计算机中的二进制表示形式,叫做这个数的机器数。机器数是带符号的,在计算机用一个数的最高位存放符号,正数为0,负数为1.比如,十进制中的数+3,计算机字长为8位,转换成二进制就是00000011。如果是-3,就是10000011。那么,这里的00000011和10000011就是机器数。2、因为第一位是符号位,所以机器数的形式值就不等于真正的数值。例如上面的有符号数100

    2022年9月23日
    3
  • sqlserver简便创建用户并授权

    sqlserver简便创建用户并授权

    2021年11月27日
    44

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号