DWD层总结

DWD层总结DWD层:4步建模作用:1)对用户行为数据进行解析2)对核心数据进行判空过滤3)对业务数据采用维度模型重新建模。一、DWD层数据分析首先DWD层数据都来源于ODS层。具体数据可分为两类1)用户行为数据(多为json)2)业务数据1、用户行为数据业务行为数据一般都是来源于前端页面的埋点日志信息分为启动日志和普通日志启动日志表中每行数据对应一个启动记录,一个启动记录应该包含日志中的公共信息和启动信息。先将所有包含start字段的日志过滤出来,然后使用get_json_object

大家好,又见面了,我是你们的朋友全栈君。

DWD层:4步建模
作用:
1)对用户行为数据进行解析
2)对核心数据进行判空过滤
3)对业务数据采用维度模型重新建模。
一、DWD层数据分析
首先DWD层数据都来源于ODS层。具体数据可分为两类
1)用户行为数据(多为json)
2) 业务数据
1、 用户行为数据
业务行为数据一般都是来源于前端页面的埋点日志信息
分为 启动日志 和普通日志
启动日志表中每行数据对应一个启动记录,一个启动记录应该包含日志中的公共信息和启动信息。先将所有包含start字段的日志过滤出来,然后使用get_json_object函数解析每个字段。
2、分析用户行为数据
主要通过 hive提供的 get_json_object(“json主题”,”$[i]”)进行提取分析;将获得的数据进行提取,存入表数据中

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/153206.html原文链接:https://javaforall.net

(0)
全栈程序员-站长的头像全栈程序员-站长


相关推荐

  • bt3使用_手机怎么下载视频到u盘上

    bt3使用_手机怎么下载视频到u盘上BT3U盘版下载软件类型:国产软件授权方式:免费软件界面语言:简体中文软件大小:783M文件类型:.iso运行环境:Win2003,WinXP,Win2000,Win9X软件等级:★★★★★发布时间:2010-12-26官方网址:http://www.backtrack-linux.org演示网址:http://www.backtrack-linux.org下载次数:

    2022年10月1日
    2
  • 快速教会你,虚拟机如何上网

    快速教会你,虚拟机如何上网虚拟机如何上网###在真机里[kiosk@foundationDesktop]$su-##切换到超级用户电脑不联网。先检查一下是否有网关,如果有网关的话需要先删除,以下操作步骤是给真机还原一个初始环境[root@foundation5~]#route-n##…

    2022年5月19日
    41
  • Linux安装vim命令

    Linux安装vim命令最近在Linux上使用vim编辑器编写shell脚本的时候,遇到了这样一个问题,如下:-bash:vim:commandnotfound这是因为vim命令没有安装,于是我从网上搜索了很多关于安装vim命令的教程,不过大都比较繁琐,如今介绍一种简单的方法,大家可以试一下。首先,执行如下命令进行查询:rpm-qa|grepv…

    2025年8月11日
    2
  • Vue源码–解读vue响应式原理

    Vue源码–解读vue响应式原理原文链接:https://geniuspeng.github.io/2018/01/05/vue-reactivity/Vue的官方说明里有深入响应式原理这一节。在此官方也提到过:当你把一个普通的JavaScript对象传给Vue实例的data选项,Vue将遍历此对象所有的属性,并使用Object.defineProperty把这些属性全部转为getter/setter。Obj…

    2022年6月6日
    29
  • CPU后缀字母性能[通俗易懂]

    CPU后缀字母性能[通俗易懂]Intel桌面级CPUK代表此款CPU是不锁倍频的,是可以超频的,用户可以通过超频来提升CPU性能(需要搭配可超频的主板)。X:intel带X的CPU很少,是extreme,也就是代表着“极限“。只有当时intel的旗舰级CPU才有可能带X,代表同一时代性能最强的CPU。C:在Broadwell酷睿的时代,Intel搞出的一个新花样。代表了反CPU性能发展规律:CPU性能退步/最强集显GP…

    2022年5月30日
    49
  • 至少使用两种方式运行pycharm_python还是java

    至少使用两种方式运行pycharm_python还是java要!!!下了pycharm但是没下载python也是运行不了的原文链接:Python环境搭建—安利Python小白的Python和Pycharm安装详细教程-知乎工欲善其事,必先利其器。首先我们先来安装Python,在这里安利一下:其实在没有安装Python之前也可以安装Pycharm的,两者并没有什么冲突关系。但是话说回来,如果没有Python编译器,那么Pycharm其实只是个驱壳,即便你编好程序之后,也并不能运行。举个栗子,Python相当于子弹,Pycharm相当于手枪,如果手

    2022年8月29日
    2

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关注全栈程序员社区公众号