ods数据如何导入dw层_OD数据聚类

ods数据如何导入dw层_OD数据聚类ODS层数据导入脚本

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE稳定放心使用

ODS层数据导入脚本

1)在/home/atguigu/bin目录下创建脚本ods_db.sh

[atguigu@hadoop102 bin]$ vim ods_db.sh

在脚本中填写如下内容

#!/bin/bash

   APP=gmall
   hive=/opt/module/hive/bin/hive

# 如果是输入的日期按照取输入日期;如果没输入日期取当前时间的前一天
if [ -n "$1" ] ;then
	do_date=$1
else 
	do_date=`date -d "-1 day" +%F`
fi

sql=" 
load data inpath '/origin_data/$APP/db/order_info/$do_date' OVERWRITE into table "$APP".ods_order_info partition(dt='$do_date');

load data inpath '/origin_data/$APP/db/order_detail/$do_date' OVERWRITE into table "$APP".ods_order_detail partition(dt='$do_date');

load data inpath '/origin_data/$APP/db/sku_info/$do_date' OVERWRITE into table "$APP".ods_sku_info partition(dt='$do_date');

load data inpath '/origin_data/$APP/db/user_info/$do_date' OVERWRITE into table "$APP".ods_user_info partition(dt='$do_date');

load data inpath '/origin_data/$APP/db/payment_info/$do_date' OVERWRITE into table "$APP".ods_payment_info partition(dt='$do_date');

load data inpath '/origin_data/$APP/db/base_category1/$do_date' OVERWRITE into table "$APP".ods_base_category1 partition(dt='$do_date');

load data inpath '/origin_data/$APP/db/base_category2/$do_date' OVERWRITE into table "$APP".ods_base_category2 partition(dt='$do_date');

load data inpath '/origin_data/$APP/db/base_category3/$do_date' OVERWRITE into table "$APP".ods_base_category3 partition(dt='$do_date'); 
"
$hive -e "$sql"

2)增加脚本执行权限

[atguigu@hadoop102 bin]$ chmod 777 ods_db.sh

3)执行脚本导入数据

[atguigu@hadoop102 bin]$ ods_db.sh 2019-02-10

[atguigu@hadoop102 bin]$ ods_db.sh 2019-02-11

4)查询导入数据

hive (gmall)>

select * from ods_order_info where dt=’2019-02-10′ limit 1;

select * from ods_order_info where dt=’2019-02-11′ limit 1;

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/185625.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • 计算机二级python备考经验_计算机基础知识点

    计算机二级python备考经验_计算机基础知识点计算机二级于18年新增了Python栏目,我正好在上学期自学了Python语言。说实话,Python语言正的简洁强大,也是因为它让我改变了对编程的理解,当然还得感谢一位老师:北京理工的嵩天老师,他的网课很nice,也是他的讲解让我喜欢上了Python,喜欢上了编程,虽然之前有学过C/C++,web设计等语言,但有许多还是不够理解的。下面介绍正题:二级Python整体来说难度不大:20道选择…

    2022年10月8日
    2
  • 我是如何学习Android源码的

    我是如何学习Android源码的一连很长时间(从2017/06/09到2017/06/26)都在研究蓝牙,而且这只是文章发表的时间,再加上组织文章和研究的时间,不知不觉中就坚持这么久………,也写了蓝牙的三篇博客,而且篇幅很长如下:在这里就不放文章链接了,有需要的在我的文章中搜索即可,现在,是时候放空一下,给自己充充电了,来张美景,欣赏一下北京的晚霞。言归正传,先放上Android源码连接地址Android源码,至于研究源码的好处,

    2022年5月3日
    53
  • ASP.Net之发展史「建议收藏」

    ASP.Net之发展史「建议收藏」前言    小咸儿在学习Asp.net之后,对于asp.net的认知一直模糊不清,今天就来给大家分享一下Asp.net到底是什么?而且了解了Asp.net的发展史后才能够明白Asp.net给我们带来了多大的福利,以及让自己如何从设计者的角度去思考Asp.net。    ASP.NET又称为ASP+,不仅仅是ASP的简单升级,而是微软公司推出的新一代脚本语言。

    2022年7月11日
    19
  • Java 中构造器、初始化块、静态初始化块的执行顺序

    Java 中构造器、初始化块、静态初始化块的执行顺序静态初始化块 > 初始化块 > 构造器 父类 > 子类综合下来顺序就是:父类静态初始化块 子类静态初始化块 父类初始化块 父类构造器 子类初始化块 子类构造器需要注意静态初始化块是在类第一次加载的时候就会进行初始化。…

    2022年6月13日
    27
  • apache设置虚拟目录_iis怎么新建虚拟目录

    apache设置虚拟目录_iis怎么新建虚拟目录apache虚拟目录的创建及身份验证功能的开启

    2022年4月20日
    42
  • Nginx负载均衡算法有哪些?_netty负载均衡

    Nginx负载均衡算法有哪些?_netty负载均衡1.轮询(roundrobin)(默认)轮询方式,依次将请求分配到各个后台服务器中,默认的负载均衡方式。适用于后台机器性能一致的情况。挂掉的机器可以自动从服务列表中剔除。2.加权(weight)根据权重来分发请求到不同的机器中,指定轮询几率,weight和访问比率成正比,用于后端服务器性能不均的情况。例如:upstreambakend{serv…

    2022年10月12日
    2

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号