Hadoop下载与安装

Hadoop下载与安装安装 Hadoop 介绍 Hadoop 是一个开源软件框架 用于在商用硬件集群上存储数据和运行应用程序 它为任何类型的数据提供海量存储 巨大的处理能力以及处理几乎无限的并发任务或作业的能力 https blog csdn net tototuzuoqua article details 安装教程 第一步 前期需要准备的材料 Hadoop 3 0 0 下载从 http archive apache org dist hadoop core 下载 Hadoop 3 0 0 下

安装Hadoop

介绍:Hadoop是一个开源软件框架,用于在商用硬件集群上存储数据和运行应用程序。它为任何类型的数据提供海量存储,巨大的处理能力以及处理几乎无限的并发任务或作业的能力。

https://blog.csdn.net/tototuzuoquan/article/details/ (安装教程)

第一步:前期需要准备的材料:

(https://blog.csdn.net/mr_yuntuo/article/details/)

第二步:安装包及环境变量配置

①解压hadoop-3.0.0安装包到本地路径

出错: 在这里插入图片描述
解决:系统变量里查看JAVA_HOME,发现路径是C:\Program Files,其中包含了空格,因此hadoop报错。所以要把JDK移动到另一个不包含空格名称的文件夹下,例如C:\Java\jdk1.8.0_201

在这里插入图片描述
第三步:修改hadoop配置文件
文件位置:hadoop-3.0.0\etc\hadoop\XXX




1.配置core-site.xml

<configuration> <property> <name>fs.default.name</name> <value>hdfs://localhost:9000</value> </property> </configuration> 

2.配置hdfs-site.xml

<configuration> <!-- 这个参数设置为1,因为是单机版hadoop --> <property> <name>dfs.replication</name> <value>1</value> </property> <property> <name>dfs.permissions</name> <value>false</value> </property> <property> <name>dfs.namenode.name.dir</name> <value>/D:/Installed/hadoop-3.0.0/data/namenode</value> </property> <property> <name>fs.checkpoint.dir</name> <value>/D:/Installed/hadoop-3.0.0/data/snn</value> </property> <property> <name>fs.checkpoint.edits.dir</name> <value>/D:/Installed/hadoop-3.0.0/data/snn</value> </property> <property> <name>dfs.datanode.data.dir</name> <value>/D:/Installed/hadoop-3.0.0/data/datanode</value> </property> </configuration> 

3.配置mapred-site.xml

<configuration> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> </configuration> 

4.配置yarn-site.xml

<configuration> <!-- Site specific YARN configuration properties --> <property> <name>yarn.nodemanager.aux-services</name> <value>mapreduce_shuffle</value> </property> <property> <name>yarn.nodemanager.auxservices.mapreduce.shuffle.class</name> <value>org.apache.hadoop.mapred.ShuffleHandler</value> </property> </configuration> 

5.运行hadoop

以管理员方式打开cmd,运行hadoop:

在这里插入图片描述

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/202432.html原文链接:https://javaforall.net

(0)
上一篇 2026年3月20日 上午7:09
下一篇 2026年3月20日 上午7:09


相关推荐

  • 史上最全ThreadLocal 详解(一)

    史上最全ThreadLocal 详解(一)史上最全 ThreadLocal 详解目录史上最全 ThreadLocal 详解一 ThreadLocal 简介二 ThreadLocal 的作用三 ThreadLocal 与 Synchronized 的区别四 ThreadLocal 的简单使用五 ThreadLocal 的原理 5 1 ThreadLocal 与 Thread ThreadLocalM 之间的关系六 ThreadLocal 常见使用场景一 ThreadLocal 简介 ThreadLocal 叫做线程变量

    2026年3月19日
    2
  • WSAStartup详解

    WSAStartup详解在做计网课程设计 DNS 中继服务器的实现 实验中 在相关代码中看到了该函数的出现 去网上查了下相关的资料 发现这个博主写的挺全的 是我需要的内容 因此特意转到这里 方便以后查看 原博文链接 WSAStartup 这里用通俗的语言解释一下这个函数 就类似于 opencv 一样 要添加链接库函数 cv lib 等 要添加到附加依赖项 或者通过 pragmaco

    2026年3月20日
    1
  • pytest重试_联系人去重失败

    pytest重试_联系人去重失败安装:pip3installpytest-rerunfailures重新运行所有失败用例要重新运行所有测试失败的用例,请使用–reruns命令行选项,并指定要运行测试的最大次数:$py

    2022年7月29日
    8
  • Cursor集成终端怎么用? Cursor集成终端详细图文使用指南

    Cursor集成终端怎么用? Cursor集成终端详细图文使用指南

    2026年3月16日
    5
  • 分布式架构设计中的CAP原理

    分布式架构设计中的CAP原理https://blog.csdn.net/chancein007/article/details/53730991

    2022年5月19日
    36
  • linux恢复硬盘初始状态,初始化Linux数据盘(fdisk)[通俗易懂]

    linux恢复硬盘初始状态,初始化Linux数据盘(fdisk)[通俗易懂]初始化Linux数据盘(fdisk)TkV南京数据恢复-西数科技:硬盘/手机/SSD数据恢复专家.025-8360863618913825606查看PDFTkV南京数据恢复-西数科技:硬盘/手机/SSD数据恢复专家.025-8360863618913825606分享操作场景本文以云服务器的操作系统为“CentOS7.464位”为例,采用fdisk分区工具为数据盘设置分区。TkV…

    2022年5月27日
    61

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号