为了满足丰富的Python应用场景,Dataphin支持创建可以使用Python语法的Python计算任务。本文为您介绍如何基于Dataphin构建Python计算任务和定义Python UDF。

前提条件

完成上传Python文件,详情请参见新建资源

背景信息

Python任务中引用到的Python文件需要提前创建,因此您在资源管理中先上传Python文件,然后在Python任务中引用。

操作步骤

  1. 登录Dataphin控制台
  2. 在Dataphin控制台页面,选择工作区地域后,单击进入Dataphin>>
  3. 在Dataphin首页,单击顶部菜单栏的研发
  4. 按照下图指引,进入新建文件对话框。
    agag您也可以通过以下方式进入新建文件对话框:
    • 单击项目名称后的图标,选择数据处理 > 计算任务 > Pythongagag
    • 开发首页,单击任务研发区域Python后的图标。gagag
  5. 编写并运行代码。
    1. 新建文件对话框,配置参数。
      vaffa
      参数 描述
      名称 填写代码任务的名称,例如Python。
      调度类型 选择任务的调度类型。调度类型包括:
      • 周期性节点,自动参与系统的周期性调度。
      • 手动节点,需要手动触发任务的运行。
      描述 填写对任务的简单描述。
      选择目录 选择代码任务的目录。
    2. 单击确定
    3. 在Python任务代码编写页面,进行编写代码任务。
      代码示例如下:
      #!/usr/bin/python
      # -*- coding: latin-1 -*-
      import time
      import datetime
      import base64
      import hashlib
      import json
      import sys
      import csv
      from odps import ODPS
      def main():   
          print "Hello World"
      建议您在Python文件前两行对编码进行主动注释 ,防止执行代码时使用系统编码,导致执行结果报错。
    4. 检查代码。
      代码编写完成后,单击预编译,系统帮助您检查编写的Python任务的代码的语法。

      如果预编译失败,您可以单击页面上方的格式化,系统自动帮助您调整语法格式。调整完格式,您可以单击刷新,刷新页面上的代码。

    5. 单击页面右上角的执行,运行代码。
  6. 可选:配置调度参数。
    • 如果离线计算任务的调度类型为周期性节点,则需要配置调度参数,详情请参见调度配置
    • 如果离线计算任务的调度类型为手动节点,需要手动触发任务的调度。
  7. 按照下图指引,保存并提交Python任务。
    ggga
  8. 如果项目空间的模式为Dev-Prod,则发布Python任务至生产环境。具体操作,请参见管理发布任务
  9. 查看调度任务。具体操作,请参见脚本任务手动任务