文档

通过表单加工创建离线数据集

更新时间:

Dataphin标签基于离线计算引擎,支持通过表单加工方式配置数据集指标,对来源表字段进行计数(count)、取和(sum)、取最大值(max)、取最小值(min)后定义数据集指标,以供离线标签使用。本文将指导您如何通过表单加工创建离线数据集。

前提条件

创建离线数据集前需先创建数据集所归属的标签项目。更多信息,请参见创建标签项目

操作步骤

  1. 在Dataphin首页,单击顶部菜单栏的标签。默认进入资产市场页面。

  2. 按照以下操作指引,进入新建离线数据集对话框。

    单击工作台->选择标签项目->单击离线数据集->单击新增数据集

    image

  3. 新建离线数据集对话框中,单击表单加工

    image

  4. 新增表单加工配置页面,配置数据集的基本信息。

    参数

    描述

    数据集名称

    填写数据集的名称信息。支持中英文、数字、下划线(_),需在64字符以内。

    数据集code

    离线数据集的唯一标识。在存在相同离线数据集名称时,可帮助您定位具体离线数据集。必须以字母开头,允许小写英文字母、数字、下划线(_),64字符以内。

    数据集更新方式

    支持周期更新手动更新方式。

    • 周期更新:在一定时间的间隔内自动更新数据集。

    • 手动更新:通过手动操作更新方式更新数据集。

    负责人

    请选择该离线数据集的负责人。

    描述

    填写离线数据集的简单描述,1000字符以内。

  5. 配置离线数据集的加工逻辑

    参数

    描述

    项目来源表主键-值类型

    选择您项目绑定的计算源名称以及需要定义数据集的来源表名称和主键-值类型

    说明
    • 主键默认支持选择字符型长整型的字段类型作为主键

    • 非分区表仅支持管理中心->标签平台设置的一级分区字段名的分区表。更多信息,请参见标签平台设置

    指标定义

    请选择您需进行加工的统计字段并选择所需的统计函数、时间窗口、指标展示名称及指标类型,系统将根据选择自动识别值类型。

    • 统计函数:根据统计字段类型支持不同统计函数。

      • 长整型:计数(count)、取和(sum)、取最大值(max)、取最小值(min)。

      • 字符串:计数(count)、取最大值(max)、取最小值(min)。

    • 时间窗口:支持前1天、前7天、前15天、前30天及自定义

    • 指标展示名称:支持中英文、数字、下划线(_),需在64字符以内。

    • 值类型:完成统计字段和统计函数的配置后,系统将自动识别指标的值类型。

    • 配置码值

      1. 单击image.png进入配置码表对话框。

      2. 配置码表对话框中,配置相关参数。

        • 配置码表:默认为不配置,可以选择码表为指标配置对应码表

        • 码表来源:目前仅支持手动配置

        • 码表名称:请输入码表名称。支持中文、英文数字及特殊字符,128个字符以内。

        • 码表描述:请输入码表的简单描述,1000个字符以内。

        • 批量输入框:可以批量输入代码值及代码名称,每组按行分割,代码值和代码名称中间用半角冒号(:)分隔。

        • 代码信息:支持手动输入代码值、代码名称。

          说明
          • 单击点击识别,系统将自动解析批量输入框的代码信息并填入代码信息列表。

          • 单击一键清除,系统将自动清除信息列表。

          • 代码值:支持所有字符类型,不可为空,且填写的代码值需唯一。

          • 代码名称:支持所有字符类型,不可为空,并且填写的代码值需唯一。

            说明

            单击image.png支持删除当前已创建的代码值。

      3. 单击确定,完成代码值配置。

    • 描述:填写指标的简单描述,128个字符以内。

    若您需要添加多个统计字段,您可单击+添加按钮进行新增。

    过滤条件

    若您需对统计字段数据进行过滤。您可使用筛选条件进行过滤。

    过滤条件支持:大于等于大于小于等于小于不为空为空在范围中不在范围中晚于等于晚于早于等于早于

    若您需多个过滤条件,您可单击+新增筛选条件进行新增。存在多个筛选条件时,支持或、且逻辑运算。

    • 或:满足其中一个筛选条件时进行过滤。

    • 且:需同时满足所有筛选条件才进行过滤。

  6. 配置离线数据集的运维配置

    说明

    若数据集更新方式为手动更新,无需进行配置。

    1. 调度周期

      支持按天的某一时刻进行调度。即任务每天自动运行一次,您可以根据需要,指定运行的时间点。

    2. 调度依赖

      调度依赖即节点间的上下游依赖关系,在Dataphin中,上游任务节点运行完成且运行成功,下游任务节点才会开始运行。

      image.png

      • 自动解析

        系统将根据任务血缘自动解析上游依赖节点并做关联,数据更新将依赖上游数据产出。

        说明
        • 若自动解析的结果不符合预期,您可以单击image.png关闭生效按钮,关闭后表示不选择依赖该节点。

        • 默认本周期依赖。

      • 添加依赖

        自动解析无法解析出调度依赖关系或自动解析生成的上游依赖配置与实际应用不符时,您可以手动单击+添加依赖添加节点的上游依赖。

  7. 单击保存并发布,完成离线数据集的创建。

    说明

    保存成功后,您可以单击预览。系统将根据配置的加工逻辑展示对应数据信息,以帮助您验证加工逻辑是否正确。

后续步骤

完成离线数据集的创建和配置后,您可以为离线数据集创建对应的离线标签。更多信息,请参见离线标签概述

  • 本页导读 (0)