hadoop hdfs命令 脚本源码_hadoop启动hdfs命令

hadoop hdfs命令 脚本源码_hadoop启动hdfs命令hadoop集群搭建好之后,通过HDFS命令操作HDFS分布式文件系统,HDFS命令与linux命令类似所有命令有/bin/hadoop脚本引发,可以使用命令查看帮助文档hadoopfs-help使用HDFS命令之前,必须启动hadoop集群,且命令执行在master节点上

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE稳定放心使用

hadoop集群搭建好之后,通过HDFS命令操作HDFS分布式文件系统,HDFS命令与linux命令类似

所有命令有/bin/hadoop脚本引发,可以使用命令查看帮助文档

hadoop fs-help

使用HDFS命令之前,必须启动hadoop集群,且命令执行在master节点上

hadoop常用命令

格式:

hadoop fs -命令 [-选项] [文件/目录]

命令 说明 补充
hadoop fs -mkdir 创建HDFS目录 -p选项,可以一次性创建多级目录
hadoop fs -ls 列出HDFS目录 -R选项,查看目录下所有的文件(递归Recursive)
hadoop fs –ls /查看HDFS根目录
hadoop fs –ls –R /查看HDFS所有子目录
hadoop fs -copyFromLocal 上传本地文件到HDFS -f选项,强制复制(存在则替换文件)
hadoop fs -put 上传本地文件到HDFS -f选项,强制复制(存在则替换文件),特别的可以写入内容
hadoop fs -copyToLocal 将HDFS文件下载到本地
hadoop fs -get 将HDFS文件下载到本地
hadoop fs -cp 复制HDFS文件
hadoop fs -rm 删除HDFS文件 -R选项,删除目录
hadoop fs -cat 查看HDFS目录下的文件内容 (只有文本文件的内容可以查看,其它类型会乱码)
hadoop fs –test查看文件
hadoop fs –tail查看文件

Linux本机和HDFS之间文件传输

即虚拟机的linux系统的文件与hadoop的HDFS分布式系统的文件之间的文件共享

上传文件(linux—>hdfs)

hadoop fs -copyFromLocal [linux] [hdfs]
hadoop fs -put [linux] [hdfs]

可以进行文件重命名
hdfs没有写文件名,默认为原来的命名
linux上传的文件必须存在
hdfs已经存在文件,不会上传,使用下面选项,强制上传
-f选项,强制复制(存在则替换文件)
可以上传多个文件
可以上传目录

-put命令,还可以接收输入stdin

将指定内容显示在屏幕上:echo [内容]
通过”|”(管道符pipe)将屏幕的内容传递存入文件(存入文件不能已经存在)
例:(注意有-put命令后还有 – )
echo abc | hadoop fs -put – /test/echoin.txt
ls ./hadoop—/etc/hadoop | hadoop fs -put – /test/hadoopetc.txt

文件下载(hdfs—>linux)

hadoop fs -copyToLocal [hdfs] [linux]
hadoop fs -get [hdfs] [linux]

可以进行文件重命名
hdfs下载的文件必须存在
可以下载目录

linux命令

命令 说明
cd 目录 进入目录(.表示当前目录,…表示上层目录)
ls [选项] 目录或文件 列出目录[-l -a -R -d -i -h]
cat [选项] 文件名 查看文件内容[-n -b -s]
mkdir [选项] 目录名 创建文件夹[-p]
rm [选项] 文件或目录 删除文件夹[-f -r -i]
cp [选项] 源文件或目录 目标文件或目录 复制文件夹[-p -f -r -i]
mv [选项] 源文件或目录 目标文件或目录 移动文件夹[-f -i -u]
pwd 显示当前工作目录的绝对路径
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/185740.html原文链接:https://javaforall.net

赞 (0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • 网站备案后 换服务器,网站备案后更换服务器怎么办_域名备案一定要服务器吗

    网站备案后 换服务器,网站备案后更换服务器怎么办_域名备案一定要服务器吗网站备案后更换服务器内容精选换一换通过华为云备案,需要先购买华为云中国大陆节点服务器。目前可用于华为云备案的资源有:ECS:弹性云服务器(含云耀云服务器)需包月3个月及以上(包含多次续费后累计时长),且有“包年/包月”计费模式(包月3个月及以上)的弹性公网IP。一台ECS(含云耀云服务器)最多可以备案5个域名。如何将“按需计费”的ECS切换为“包年/包月”计费模式,请参见如果系统提示“您用于备案…

    2022年10月24日
  • 倒排索引

    倒排索引

    2021年10月23日
  • KNN 回归算法_DTW算法

    KNN 回归算法_DTW算法KNN算法也能够用于回归预测。KNN算法用于分类的方法如下:首先,对于一个新来的预测实例,我们在训练集上寻找它的最相近的K个近邻;然后,采用投票法将它分到这K个邻居中的最多的那个类。但是,怎么将KNN算法用于回归呢?其实大致的步骤是一样的,也是对新来的预测实例寻找K近邻,然后对这K个样本的目标值取均值即可作为新样本的预测值。…

    2022年8月21日
  • Kong网关介绍[通俗易懂]

    Kong网关介绍[通俗易懂]传统服务如下左图,通用函数重复使用在多个服务中,系统庞大僵化难以管理,由于会冲击其他服务导致的扩展困难,由于系统限制导致生产率低,如下右图是kong的解决方案kong特点:云原生:平台无关,kong可以在裸机和Kubernetes上运行。动态负载平衡:跨多个上游服务的流量负载均衡。…

    2022年9月11日
  • Petshop4学习

    Petshop4学习Petshop4的研究分析:http://blog.csdn.net/sjklove/archive/2006/11/10/1377405.aspx1.项目概述与架构分析微软刚推出了基于ASP.NET2.0下的PetShop4,该版本有了一个全新的用户界面。是研究ASP.NET2.0的好范例啊,大家都知道,一直以来,在.NET和Java之间争论不休,到底使用哪个平台开发的企业级应用性…

    2022年10月17日
  • stm32直流电机控制—PID算法篇

    stm32直流电机控制—PID算法篇stm32直流电机控制—PID算法篇提示:这里可以添加系列文章的所有文章的目录,目录需要自己手动添加例如:第一章Python机器学习入门之pandas的使用**加粗样式*提示:写完文章后,目录可以自动生成,如何生成可参考右边的帮助文档文章目录stm32直流电机控制—PID算法篇前言一、pandas是什么?二、使用步骤1.引入库2.读入数据总结前言提示:这里可以添加本文要记录的大概内容:例如:随着人工智能的不断发展,机器学习这门技术也越来越重要,很多人都开启了学习机器学习,本文就介绍了

    2022年5月7日

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号