08_运行hadoop提供的示例程序

08_运行hadoop提供的示例程序

通过上篇文章,我们已经搭建好了整个hadoop体系。我们都知道,hadoop由三大组建:

(1)HDFS集群:负责海量数据的存储,集群中的角色主要有 NameNode / DataNode/SecondaryNameNode。

(2)YARN集群:负责海量数据运算时的资源调度,集群中的角色主要有 ResourceManager /NodeManager

(3)MapReduce:它其实是一个应用程序开发包。

接下来,我们通过hadoop提供的实例程序来体会一下hadoop的功能。并由此验证我们的整个hadoop体系是否能够正常运行。

该示例程序的主要作用时统计HDFS上的某个文件中每个单词出现的次数。

1 在master上新建一个文本文档:input.txt

vi input.txt 

文件内容:

08_运行hadoop提供的示例程序

2 使用文件上传命令,将该文件上传到hdfs存储的input目录下。

hadoop fs -put ./input.txt /input


08_运行hadoop提供的示例程序

3 查找需要运行的实例程序

 find /usr/local/hadoop -name *example*.jar 

08_运行hadoop提供的示例程序4 运行wordcount程序

hadoop jar /usr/local/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.5.jar wordcount /input/input.txt /countoutput


08_运行hadoop提供的示例程序

此时在浏览器查看8088端口,我们可以看到

08_运行hadoop提供的示例程序其中ID:当前运行应用的ID,State:Running

之后出现

08_运行hadoop提供的示例程序

state变为Finished

此时在在浏览器在查看50070端口

08_运行hadoop提供的示例程序进入对应的countoutput目录

08_运行hadoop提供的示例程序

当看到_SUCCESS时,表示程序运行成功

08_运行hadoop提供的示例程序

点击Download查看结果

08_运行hadoop提供的示例程序

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/111286.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • 基于C++、MySQL的图书销售管理系统

    基于C++、MySQL的图书销售管理系统数据库课程设计报告开发环境与开发工具开发语言:C++、MySQL操作系统:macOSMojaveVersion10.14.5开发工具:XcodeIDE、iTerm命令行终端终端环境:iTerm+zsh、Xcode终端调试台MySQLServer版本:5.7.25MySQLCommunityServer(GPL)运行方式:cd到目录下make可完成编译连接,而后直接./bsms即可运行系统需求分析  当今的图书销售行业有数据量大、数据结构复杂、数据变

    2022年6月12日
    27
  • 一篇写给程序员的提问艺术(转)

    一篇写给程序员的提问艺术(转)作为一个刚入it界的php菜鸟,我感觉自己需要学很多程序员的基本素养,学习如何学习,有效率的学习,精确地学习,热情的学习,加油,这是一篇关于提问的文章分享给大家吧,(2009年的更新:本文来自2005年的白云黄鹤BBS,未经排版,四年来,文末一直保留有英文原文出处并注明链接)这个版上太多的问题,不能让我以很愉快的心情来解答,于是,我放弃了强忍着指责别人的心情找到了这篇《提问的艺术…

    2022年6月23日
    19
  • mysql format不要逗号_笔记:number_format() 函数去掉数字千分位的逗号

    mysql format不要逗号_笔记:number_format() 函数去掉数字千分位的逗号最近有朋友找我仿站,为了实现某些效果,要去掉访问次数千分位的逗号,说真的,倡萌没有系统学习过PHP,所以只好求教露兜老大,得知可以通过number_format()函数通过千位分组来格式化数字。自己折腾下,还真实现了,记录一下。PHPnumber_format()函数定义和用法number_format()函数通过千位分组来格式化数字。语法number_format(number,de…

    2022年10月20日
    0
  • c语言uint16什么意思_int16的取值范围

    c语言uint16什么意思_int16的取值范围uint16intc#C#Int16和C#UInt16(C#Int16andC#UInt16)InC#,Int16knownasasignedintegerof2byteswhichcanstorebothtypesofvaluesincludingnegativeandpositivebetweentherangesof-32…

    2022年8月15日
    8
  • 500-内部服务器错误_显示内部服务器错误怎么办

    500-内部服务器错误_显示内部服务器错误怎么办其他相关HTTP500内部服务器错误”解决方法-苦涩的茶-博客园HTTP500内部服务器错误的提示,无法法查看错误的详细信息,用户也没办法根据具体的问题来解决,这对很多新用户确实是一件很麻烦的事情,遇来源:www.mingqicha.comHTTP500内部服务器错误”提示该怎么办-百度经验HTTP500内部服务器错误”的情况,当我们遇到了,怎么解决,学下:出现“HTTP500内部服务器错…

    2022年8月11日
    3
  • java构造函数可以重载么_Java 构造函数和函数重载「建议收藏」

    java构造函数可以重载么_Java 构造函数和函数重载「建议收藏」构造函数:⑴方法名和类名相同,而且没有返回类型(包括void也没有);⑵没有返回值;⑶如果没有输入构造函数,jvm会自动帮我们创建一个不带参数,没有任何函数体的的构造函数;如果我们手动的创建了其他构造函数,就不会帮我们创建这个不带参数的构造函数了;⑷一般情况下,如果想要实现自己的构造方法,最好重载一个不带参数的构造方法。函数重载:指多个函数可以使用同一个函数名,只要它们参数列表不同,将意义相近…

    2022年6月18日
    44

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号