sqoop从mysql导入hive parquet表timestamp,decimal转换问题

sqoop从mysql导入hive parquet表timestamp,decimal转换问题

注意两个地方:
1.时间转换问题:timestamp、date,time
以上时间类型会被sqoop转成int,long型,无法直接转成时间类型
如果要转的有两个办法:

  • 1)转成long型,再用from_unixtime转回来,才能看时间(太麻烦)—–parquet表的类型对应为bigint
    select *, from_unixtime(cast(SOURCE_LOAD_DATE as BIGINT) DIV 1000000) as SOURCE_LOAD_DATE from table_name;
  • 2)直接转成string型(直观,可以直接看)——parquet表的数据类型对应为string

另外: 处理datetime中有null的情况
在sql connnect中加入:zeroDateTimeBehavior=convertToNull
如:

--connect jdbc:mysql://192.168.1.100/test?zeroDateTimeBehavior=convertToNull

参考:https://avro.apache.org/docs/current/spec.html

2.浮点类型(float,double,decimal)
sqoop导数据使用avro组件,启用小数(decimal) 必须要加以下参数:

-Dsqoop.avro.decimal_padding.enable=true -Dsqoop.parquet.logical_types.decimal.enable=true
-Dsqoop.avro.logical_types.decimal.default.precision=38
-Dsqoop.avro.logical_types.decimal.default.scale=10

—parquet中对应的数据类型为decimal(precision,scale),如decimal(19,3)

参考:https://archive.cloudera.com/cdh6/6.2.0/docs/sqoop-1.4.7-cdh6.2.0/SqoopUserGuide.html#_enabling_logical_types_in_avro_and_parquet_import_for_numbers

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/100396.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • OpenSSL密码库算法笔记——第5.1.1章 椭圆曲线点群的定义

    OpenSSL密码库算法笔记——第5.1.1章 椭圆曲线点群的定义下面定义的椭圆曲线点群不仅包含了域的信息和曲线的信息,甚至还包括了很多别的有利于实现的信息。椭圆曲线点群的定义如下。typedefstructec_group_stEC_GROUP;structec_group_st{constEC_METHOD*meth;EC_POINT*generator;BIGNUM…

    2022年7月20日
    21
  • Android App程序退出 黑屏问题

    Android App程序退出 黑屏问题在退出App的时候手机会闪动一下,出现像黑屏一样的效果,不是程序崩溃的效果就只是单单的黑一下,然后退出。。这个怎么破???记录下来:等解决了,回来更新。。。。。。。。。

    2022年7月17日
    23
  • 考研词汇 用语言记忆

    考研词汇 用语言记忆根据目前的时间安排及复习进度,相信大家都泡在英语堆里狂记单词,我也一样  不过在偶尔看了下面的单词复习方法后,我试着并为之坚持下来,感觉收获真的不一样  因此奉献给大家,希望对大家有所帮助!告戒一句:考研贵在坚持!!    好东西,记得顶顶顶顶顶啊!!  16天记住7000考研词汇(第一天)1.WithmyownearsIclearlyhe

    2022年5月26日
    39
  • win10 cuda安装_查看cudnn是否安装成功

    win10 cuda安装_查看cudnn是否安装成功官方安装教程CUDA:https://docs.nvidia.com/cuda/cuda-installation-guide-microsoft-windows/index.htmlcuDNN:https://docs.nvidia.com/deeplearning/sdk/cudnn-install/index.html#installwindowsWIN10安装CUDA10CUDA…

    2022年5月3日
    86
  • Idea激活码永久有效Idea2018.3.6激活码教程-持续更新,一步到位

    Idea激活码永久有效Idea2018.3.6激活码教程-持续更新,一步到位Idea激活码永久有效2018.3.6激活码教程-Windows版永久激活-持续更新,Idea激活码2018.3.6成功激活

    2022年6月17日
    57
  • lamp配置域名

    lamp配置域名windows访问的时候,记得把本机的windows/system32/drivers/etc/hosts文件中填上相应的配置(相当于dns)配置虚拟主机1)配置host文件/etc/hosts打开C:/windows/system32/drivers/etc/hosts文件增加域名记录如:192.168.9.38www.ec1.com192.168.9.38

    2022年6月6日
    26

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号