关于kafka集群搭建前后

关于kafka集群搭建前后近期搭建了kafka集群服务器,遇到了问题进行记录1.遇到某台服务器网卡出现问题,导致无效,因为网卡是集成的,即是zookeeper组中一个,也是kafka的brokers之一解决办法:重新更换服务器,重装系统,进行安全配置,在配置好zookeeper和kafka,和损坏的服务器一样的配置2.替换服务器后,遇到过了数据量太大,其中替换的服务器磁盘利用率不断增加,达到最大值,导致服务启动

大家好,又见面了,我是你们的朋友全栈君。

近期搭建了kafka集群服务器,遇到了问题进行记录

1.遇到某台服务器网卡出现问题,导致无效,因为网卡是集成的,即是zookeeper组中一个,也是kafka的brokers之一

解决办法:重新更换服务器,重装系统,进行安全配置,在配置好zookeeper和kafka,和损坏的服务器一样的配置

2.替换服务器后,遇到过了数据量太大,其中替换的服务器磁盘利用率不断增加,达到最大值,导致服务启动不了,而其他集群却60%左右

解决办法:将替换服务器的部分历史数据删除,重启zookeeper和kafka服务器,将所有服务器的kafka配置项中的数据保留时间为2小时,(由于下游节点有消费者在不停的消费),并在配置项设置了数据动态平衡,观察结果,发现ok

3.由于数据量比较大,需要扩容两台服务器,有个小失误就是,应该先分区为broker总数量(包括新增的)倍数,再进行扩容

kafka集群调优可参照网址 https://www.iteblog.com/archives/1879.html   今天看完后,发现集群还有更大的优化空间,

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/131285.html原文链接:https://javaforall.net

(0)
上一篇 2022年4月29日 下午6:00
下一篇 2022年4月29日 下午6:00


相关推荐

  • 【渝粤教育】21秋期末考试宏微观经济学10545k1

    【渝粤教育】21秋期末考试宏微观经济学10545k11 摩擦性失业是一种 失业 2 分 A 在衰退时期上升繁荣时期下降的 B 当 比如说 失业者缺乏新创造出来的工作机会所要求的工作技能时出现的 C 当那些求职者放弃找到工作的希望是出现的 D 从一种工作转换到另一种工作的过程中发生的 2 宏观经济学的中心理论是 2 分 A 国民收入决定理论 B 汇率决定理论 C 价格决定理论 D 工资决定理论 3 如果人们收入水平提高 则食物支出在总支出中的比重将 2 分 A 不变 B 大大提高 C 下降 D 稍有增加 4 西方经济学产生的根本原因是

    2026年3月19日
    2
  • Scrapy307重定向

    Scrapy307重定向最近在用 Scrapy 写爬虫 但是爬取有的网站时会出现 307 重定向的错误 使得无法爬取到正确网站 这往往是因为原网站采用了反爬虫机制导致的 在 StackOverFlo 上有人提出了这个问题 scrapy307red 这里的答案指出了 307 是 Cookie 的问题 它的建议是打开 Cookie 并需要自己分析哪些是网站真正需要的用来鉴别是机器访问还是认为访问的数据

    2026年3月16日
    3
  • UserDetailsService小记

    UserDetailsService小记Resourcepriv 当你采用上面的方式引入 UserDetailsS 时 你需要像下面一样在 Service 中加上名称 因为 UserDetailsS 中会先产生一个 InMemoryUser 它也是 UserDetailsS 的实现类 Spring 选择了 InMemoryUser 这时 U

    2026年3月17日
    1
  • Linux下安装mysql完整教程

    最新写了一个小项目需要部署到远程服务器,就在阿里云买了一台centos7.x的服务器,想找个完整的教程,却发现都是坑,要不执行到一半执行不下去,要不就是命令错误,经过多次踩坑总结如下:下载安装包wgethttp://repo.mysql.com/mysql57-community-release-el7-8.noarch.rpm未安装wget的同学执行以下命令安装su…

    2022年4月13日
    40
  • dhcp option 82 接入交换机_dhcpoption怎么配置

    dhcp option 82 接入交换机_dhcpoption怎么配置Option82应用场景在该场景下,临时接入者可以在不安装认证客户端的情况下,直接访问Internet资源,但是不能访问学校、企业、政府单位的内网,适用于各种会务、学术交流、临时参观等应用场景,正式员工可以在会议区通过认证接入到内网。为了实现该场景,我们首先要对神州数码网络交换机产品的DHCPOption82功能进行描述。Option82相关技术Option82功能介绍  DH…

    2022年10月16日
    5
  • Vue.extend详解,自定义toast弹窗

    Vue.extend详解,自定义toast弹窗Vue.extend方法,返回的是一个扩展实例构造器可以理解为组件类的一个构造函数,其属性都为组件内的对应的属性//定义一个组件的构造函数constdivComponent=Vue.extend({ template:`<divv-on:click=”click”>{{text}}</div>`, data(){ return{ text:’helloword’ } }, methods:{ click(){ consol

    2026年3月5日
    4

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号