DataWorks使用小结(二)——功能面板使用指南
一、数据开发
1.任务开发
新建表
野路子可以直接新建一个任务,粘贴DDL,手动运行任务即可完成建表
正常应当是在“数据管理”->数据表管理中建表:
支持可视化建表和DDL建表(配合之前的宏,建表还是很快的)
当然,这种方式的局限也很明显,一是稍显繁琐,二是不能同时运行多个任务,三是不能保存建表脚本(每次都得去查找数据中找到建表DDL)
改进的方式是使用ODPS_SQL脚本,脚本开发,下文介绍
查看表
在数据管理->查找数据中可以查看表的信息,包括字段信息、血缘信息、导出建表DDL等
操作任务
新建任务就不赘述了(主要任务类型包括SQL任务以及数据同步任务用于将其他数据源同步到ODPS),保存和提交任务不赘述,(只有提交的任务才会进入调度系统被调度,可以在运维中心看到)
查看历史版本
(之前还傻傻的本地保存历史版本),所有提交过的任务,都会有历史版本(可以方便回退):
不仅可以查看,还可以比对历史版本
克隆任务
会将调度属性一起克隆
运行任务时,明明输入了系统参数,却还要手动输入值?参考常见问题:运行与测试运行
2.调度配置
周期配置
支持从小时到月级别的周期调度配置(周期调度时间优先级小于依赖优先级,也就是即使到了时间,如果上游依赖任务没成功,也不会跑)
提交任务后,调度系统会在第二天开始按照不同的周期配置进行调度运行
周、月调度任务中,在非调度日会“空跑”直接置为成功,例如周调度为每周一,则周二到周日直接置为成功
参数配置
参考官网;参数配置
依赖关系
依赖关系也实在任务属性中进行配置:
主要包括跨周期依赖和普通依赖两种依赖
3.脚本开发
脚本开发主要用于辅助数据开发,比如临时数据的增删改查,不需要调度属性与依赖关系,老版本脚本开发在左上:
脚本只能在页面上主动点击运行,仅限页面上!
开发规范:https://help.aliyun.com/document_detail/85305.html?spm=a2c4g.11186623.6.613.6d125c323GSg4u
修改版:
https://www.cnblogs.com/jiangbei/p/10647743.html
4.资源与函数管理
上传资源
资源管理的位置:
在资源管理中右键上传资源,选定需要的类型即可
其他资源操作不再赘述
函数管理
系统函数不再赘述
UDF流程:本地开发Java代码打包为jar->上传Jar到ODPS资源->新建函数与Jar关联(务必写上函数命令格式与相关注释)->使用函数
创建UDF后一般可以先用脚本来测试一下
5.发布管理
发布管理概述参考官网描述,常用来隔离开发与生产
在项目管理面板可以配置发布目标项目
提交以后便可以在创建发布包中进行发布到目标项目
节点代码也阔以进行版本管理
二、数据管理
查看表的一些信息,包括列信息、分区信息(分区值)、生成建表语句等,非常方便!
但是注意他有一个致命的缺点!非实时更新!实时更新的请写脚本查询,例如查看分区:
list partitions tb
DataWorks使用小结(二)——功能面板使用指南的更多相关文章
- Civil 3D API二次开发学习指南
Civil 3D构建于AutoCAD 和 Map 3D之上,在学习Civil 3D API二次开发之前,您至少需要了解AutoCAD API的二次开发,你可以参考AutoCAD .NET API二次开 ...
- nancy中的诊断功能面板1
nancyfx中有一项 诊断功能 ,可以查看网站的基本信息和其他相关信息,还包括查看会话信息,请求输出信息等. 假设你已经安装完了nancyfx.现在开始使用诊断功能: 一 安装 在你的Bootstr ...
- 李洪强iOS之集成极光推送二iOS 证书 设置指南
李洪强iOS之集成极光推送二iOS 证书 设置指南 创建应用程序ID 登陆 iOS Dev Center 选择进入iOS Provisioning Portal. 在 iOS Provisioning ...
- C#微信公众号开发系列教程二(新手接入指南)
http://www.cnblogs.com/zskbll/p/4093954.html 此系列前面已经更新了两篇博文了,都是微信开发的前期准备工作,现在切入正题,本篇讲解新手接入的步骤与方法,大神可 ...
- (三)IDEA使用,功能面板
IDEA 打开界面后周围有许多的功能面板 常用的界面 1.project:项目的目录结构: 2.Structure:结构界面:在这个界面里可以看到选择的类,接口 的结构,有哪些方法,字段,等: 3. ...
- 【javaFX学习】(二) 面板手册--1
找了好几个资料,没找到自己想要的,自己写个列表吧,方便以后用的时候挑选,边学边记.以学习笔记为主,所以会写的会偏个人记忆性.非教程,有什么问题一起讨论啊. 各个不同的控件放入不同的面板中有不同的效果, ...
- Vue学习小结(二)
接上一批,小结(二). 三.导航内容(含左侧导航及顶部面包屑导航) 其实导航条主要根据element-ui的教程进行编写,官网:http://element-ui.cn/#/zh-CN/compone ...
- DataWorks使用小结(一)——概述
一.概述 DataWorks数据工场,是MaxComputer的可视化开发平台,一站式开发.管理界面 1.功能概述 1.强大调度:支持分钟到月的调度 2.多种任务:支持ODPS.SHELL等多种任务 ...
- 【javaFX学习】(二) 面板手册
移至http://blog.csdn.net/qq_37837828/article/details/78732591 更新 找了好几个资料,没找到自己想要的,自己整理下吧,方便以后用的时候挑选,边学 ...
随机推荐
- Android Studio 使用ViewPager + Fragment实现滑动菜单Tab效果 --简易版
描述: 之前有做过一个记账本APP,拿来练手的,做的很简单,是用Eclipse开发的: 最近想把这个APP重新完善一下,添加了一些新的功能,并选用Android Studio来开发: APP已经完善了 ...
- Fiddler抓包使用教程-Https
转载请标明出处:http://blog.csdn.net/zhaoyanjun6/article/details/72956016 本文出自[赵彦军的博客] 开启 Https 抓包 Fiddler 默 ...
- solr搜索引擎配置使用mongodb作为数据源
环境说明: 操作系统:由于是使用的docker直接拉取的镜像部署的,系统是LINUX环境 mongodb: 4.0.3 solr: 7.5.0 python: 3.5 配置mongodb 1.拉取mo ...
- Cockpit subscriptions on CentOS 7 - This system is not registered with an entitlement server. You can use subscription-manager to register.
下午安装 cockpit 时,使用 yum 工具的时候哦,出现如下信息: This system is not registered with an entitlement server. You c ...
- Flask入门和快速上手
目录 Flask入门和快速上手 python三大主流框架对比 Flask安装 依赖 可选依赖 创建flask项目 flask最小应用--hello word 非法导入名称 调试模式 路由 唯一的 UR ...
- 6.1Python文件的操作(一)
目录 目录 前言 (一)基础类型 ==1.只读== ==2.只写== ==3.追加== (二)b二进制组合 ==1.读写二进制文件== (三)+ 附加组合 ==1.读附加== ==2.写附加== == ...
- Flume-1.8.0_部署与常用案例
该文章是基于 Hadoop2.7.6_01_部署 进行的 Flume官方文档:FlumeUserGuide 常见问题:记flume部署过程中遇到的问题以及解决方法(持续更新) 1. 前言 在一个完整的 ...
- ccf--20160403---路径解析
本题思路如下: 具体的细节如下:首先去掉字符串中重复出现的/,然后遇到..,就删除栈的最后一个元素,.忽略 下面是代码和题目: 问题描述 试题编号: 201604-3 试题名称: 路径解析 时间限制: ...
- 薛兆丰吴军何帆曾鸣万维刚李笑来罗永浩等得到APP专栏作者的书23本
最近看了何帆的<大局观>,是他在得到APP的专栏文章的精选.顺便整理以下最近两三年内看过的得到APP其他专栏与课程作者的得到精选文集和他们写过的其他的书共23本. 薛兆丰 4星|<薛 ...
- Sublime Text 3安装及常用插件安装
一.Sublime3下载 1.百度搜索Sublime3 download,选择进入下载页面 2.我选择下载Win64位安装程序 二.Sublime3安装 傻瓜式安装,一直点下一步即可. 三.Subli ...