hive的元数据存储在derby和mysql_桌面云必须部署的组件包括

hive的元数据存储在derby和mysql_桌面云必须部署的组件包括搭建hive的环境需要hadoop的dfs和yarn可以正常运行的情况下。准备好apache-hive-1.2.1-bin.tar.gz和mysql-libs.zip两个包hive安装步骤:解压apache-hive-1.2.1-bin.tar.gz到/usr/local/src下,并且将其重命名为hivetar-zxvfapache-hive-1.2.1-bin.tar.gzmvapache-hive-1.2.1-binhive复制/hive/conf下的hive-en.

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全家桶1年46,售后保障稳定

在这里插入图片描述

??‍?博主介绍:大家好,我是芝士味的椒盐,一名在校大学生,热爱分享知识,很高兴在这里认识大家?
?擅长领域:Java、大数据、运维、电子
??如果本文章各位小伙伴们有帮助的话,?关注+??点赞+?评论+?收藏,相应的有空了我也会回访,互助!!!
?另本人水平有限,旨在创作简单易懂的文章,在文章描述时如有错,恳请各位大佬指正,在此感谢!!!


  • 搭建hive的环境需要hadoop的dfsyarn可以正常运行的情况下。
  • 准备好apache-hive-1.2.1-bin.tar.gzmysql-libs.zip两个包

hive安装

  1. 解压apache-hive-1.2.1-bin.tar.gz 到/usr/local/src下,并且将其重命名为hive

    tar -zxvf apache-hive-1.2.1-bin.tar.gz
    mv apache-hive-1.2.1-bin hive
    

    Jetbrains全家桶1年46,售后保障稳定

  2. 复制/hive/conf下的hive-env.sh.template模板并重命名为hive-env.sh

    cp hive-env.sh.template hive-env.sh
    
  3. 在重命名的hive-env.sh里配置参数

    export HADOOP_HOME=/usr/local/src/hadoop
    export HIVE_HOME=/usr/local/src/hive/conf
    
  4. 修改/usr/local/src/hive/bin下的hive脚本

    # add Spark assembly jar to the classpath
    if [[ -n "$SPARK_HOME" ]]
    then
    #如果装有spark需要指定Spark目录下的jars目录下的所有的jar包
      sparkAssemblyPath=`ls ${ 
          SPARK_HOME}/jars/*.jar`
      CLASSPATH="${CLASSPATH}:${sparkAssemblyPath}"
    fi
    
    
    • 否则启动hive将报如下错误

    提示ls: 无法访问/home/software/spark-2.0.1-bin-hadoop2.7/lib/spark-assembly-*.jar: 没有那个文件或目录...

  5. 启动hadoop的hdfs和yarn

    start-dfs.sh
    start-yarn.sh
    
  6. 在hdfs上创建tmp和/user/hive/warehouse两个目录,修改为同组可读

    #创建文件夹
    hadoop fs -mkdir /tmp
    hadoop fs -mkdir /user/hive/warehouse
    #赋予文件夹权限
    hadoop fs -chmod g+w /tmp
    hadoop fs -chmod g+w /user/hive/warehouse
    
  7. 将hive下的jline-2.12.jar 复制替换hadoop中的jline-2.12.jar

    cp /usr/local/src/hive/lib/jline-2.12.jar /usr/local/src/hadoop/share/hadoop/yarn/lib/
    rm jline-2.12.jar -rf
    
    
    • 否则启动hive会报如下错误

    Exception in thread "main" java.lang.IncompatibleClassChangeError: Found class jline.Termina

hive启动并测试

  1. 启动hive并测试查询

    #在配了环境变量bin的情况下才能使用
    hive
    
    • 查看数据

      hive> show databases;
      
    • 选择默认数据库

      hive> use default;
      
    • 显示默认数据库中的表

      hive> show tables;
      

      • TIPS:hive在hdfs中的结构
        • 数据库:在hdfs中表现为${hive.metastore.warehouse.dir}目录下一个文件夹

        • 表:在hdfs中表现所属db目录下一个文件夹,文件夹中存放该表中的具体数据

        • 如果使用Metastore自带的derby数据库,在已经有一个对话的时候再打开一个对话将报错

          Exception in thread "main" java.lang.RuntimeException: java.lang.RuntimeException: Unable to instantiate

          • 原因:推荐MySQL存储Metastore元数据,替换默认的Derby数据库
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/230736.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • swing58_ML2437A

    swing58_ML2437A给定一个长度为 n 的整数序列,初始时序列为 {1,2,…,n−1,n}。序列中的位置从左到右依次标号为 1∼n。我们用 [l,r] 来表示从位置 l 到位置 r 之间(包括两端点)的所有数字构成的子序列。现在要对该序列进行 m 次操作,每次操作选定一个子序列 [l,r],并将该子序列中的所有数字进行翻转。例如,对于现有序列 1 3 2 4 6 5 7,如果某次操作选定翻转子序列为 [3,6],那么经过这次操作后序列变为 1 3 5 6 4 2 7。请你求出经过 m 次操作后的序列。输入格式第

    2022年8月9日
    2
  • c++ map是有序还是无序的_实现有序map之go「建议收藏」

    c++ map是有序还是无序的_实现有序map之go「建议收藏」GoMap介绍Go中Map是一种无序的键值对的集合。Map最重要的一点是通过key来快速检索数据,key类似于索引,指向数据的值。Map是一种集合,所以我们可以像迭代数组和切片那样迭代它。不过,Map是无序的,我们无法决定它的返回顺序,这是因为Map是使用链式hash表来实现的。c++中的实现在C++STL中map采用红黑树实现,可以实现有序的Map.Go中实现实现原理这个实现方法的…

    2022年9月23日
    0
  • 端口分类_宽带端口是什么样的

    端口分类_宽带端口是什么样的一、端口通俗地讲,端口(Port)就是电脑向网络开放的信息出入“门户”。和小区大门不同的是,在电脑上这种“门户”有个256×256(65535)个,而且它们还有多种状态。1.端口的分类根据端口和服务的绑定情况,端口可分为公认端口、注册端口和动态端口。公认端口:0~1023。这个范围内的端口系统一般保留给一些常用的系统服务,比如WEB服务使用80端口,FTP服务使用21端口

    2022年9月5日
    3
  • php数据库根据手机号获取归属地,PHP通过API获取手机号码归属地

    php数据库根据手机号获取归属地,PHP通过API获取手机号码归属地该API接口自2011年SAE平台上线稳定运行至今,增加了17号段的支持,欢迎各种采集注限制,并发10详细使用说明接口地址:http://appyun.sinaapp.com/index.php?app=mobile&controller=index&action=api请求方法:GET请求参数:参数名类型必填参数位置描述默认值appstring是urlPar…

    2022年7月22日
    8
  • FPS游戏:实现GDI方框透视「建议收藏」

    FPS游戏:实现GDI方框透视「建议收藏」FPS游戏可以说一直都比较热门,典型的代表有反恐精英,穿越火线,绝地求生等,基本上只要是FPS游戏都会有透视挂的存在,而透视挂还分为很多种类型,常见的有D3D透视,方框透视,还有一些比较高端的显卡透视

    2022年7月1日
    153
  • 计算机组成原理(哈工大)学习笔记

    计算机组成原理(哈工大)学习笔记文章目录计算机组成原理一 计算机系统概论 1 1 计算机系统简介一 计算机的软硬件概念二 计算机系统的层次结构三 计算机体系结构和计算机组成 1 2 计算机的基本组成 1 3 计算机硬件的主要技术指标一 机器字长二 运算速度三 存储容量三 系统总线总线的基本概念总线的分类总线的特性和性能指标总线控制 重点 四 存储器 1 概述一 存储器分类二 存储器的层次结构 2 主存储器 1 概述 2 半导体存储芯片简介 3 随机存取存储器 RAM 4 只读存储器 ROM 5 存储器与 CPU 的连接 6 存储器的校验 7 提高访存速度的措施 3

    2025年6月22日
    0

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号