ODS层设计规范

更新时间：2021-06-08 14:37

本页目录

本文为您介绍ODS层设计规范。

数据同步及处理规范

数据同步方式的选择
基本规范通过需求形式落地到DataWorks的数据集成，规范落地情况依赖工具的推进节奏。一个系统的源表只允许同步一次到MaxCompute。
数据加载与处理
通过一键实时同步至MaxCompute方案实现，请参见配置查看数据同步任务。

表命名规范表命名规则： {层次}{源系统表名}{保留位/delta与否}。
- 增量数据：{project_name}.s{源系统表名}delta。
- 全量数据：{project_name}.s{源系统表名}。
- ODS ETL过程的临时表：{project_name}.tmp{临时表所在过程的输出表}{从0开始的序号}。
- 按小时同步的增量表：{project_name}.s{源系统表名}{delta}_{hh}。
- 按小时同步的全量表：{project_name}.s{源系统表名}{hh}。
- 当不同源系统同步到同一个Project下的表命名冲突时，您需要给同步较晚的表名加上源系统的dbname以解决冲突。
字段命名规范
- 字段默认使用源系统的字段名。
- 字段名与MaxCompute关键字冲突时，在源字段名后加上col，即源字段名col。MaxCompute关键字详情请参见保留字与关键字。
同步任务命名规范
- 任务名：{源系统表名}[delta]。
  说明同一Project下异库同名表的任务名为 {源系统表名}{tddl的appname}[_delta]。
- 任务的输出名称，即输出表的名称，需要与数据存储及生命周期管理规范保持一致。详情请参见数据存储及生命周期管理规范。


数据表类型	存储方式	最长存储保留策略
ODS流水型全量表	按天分区	不可再生情况下，永久保存。日志（数据量非常大，例如一天数据量大于100 GB）数据保留24个月。自主设置是否保留历史月初数据。自主设置是否保留特殊日期数据。
ODS镜像型全量表	按天分区	重要的业务表及需要保留历史的表视情况保存。 ODS全量表的默认生命周期为2天，支持通过`ds=max_pt(tablename)`方式访问数据。
ODS增量表	按天分区	有对应全量表，最多保留最近14天分区数据。无对应全量表，需要永久保留数据。
ODS ETL过程临时表	按天分区	最多保留最近7天分区。
DBSync非去重数据	按天分区	由应用通过中间层保留历史数据，默认ODS层不保留历史数据。

全量表不是做了全覆盖即可 –delete directory 而是每天一个最新的分区，这样可以查看历史变化情况

增量表是表名后面带时间。

发布者：全栈程序员-站长，转载请注明出处：https://javaforall.net/185455.html原文链接：https://javaforall.net