MaxCompute问答整理之8月
本文是基于对MaxCompute产品的学习进度,再结合开发者社区里面的一些问题,进而整理成文。希望对大家有所帮助。
问题一、通过数据源数据增量同步后,如何查看某一条数据具体被同步到MaxCompute中的时间?
不支持,查看不了,可以看表元数据的LastModifiedTime时间,但具体某个记录看不到时间。
问题二、开发的数据处理脚本能否在不同地区项目空间迁移?
跨项目克隆只能同账号同region,所以不同地区之间可以使用项目备份恢复来完成。
可参考官方文档操作:https://help.aliyun.com/document_detail/95940.html
温馨提示:此功能现阶段支持恢复文件大小必须是30M以下大小,后续会更新版本,请大家持续关注。
问题三、创建工作空间时,会碰到客户端显示project不存在,或者切换空间显示project不存在,这是什么原因?
一般这种问题,是因为开通账号之后,在建project时没有选择MaxCompute计算引擎服务导致的。
可以重新建project来解决问题。正确选择如下。
温馨提示:按量付费和包年包月选项是需要购买服务才可以。开发者版本可免费试用。
开发者版开通地址:https://promotion.aliyun.com/ntms/act/cloud/maxcdeveloperfbh.html
问题四、如果把MaxCompute作为大数据平台,接入整个业务体系数据,有mysql,sqlserver等各种数据源。当源数据库的表,字段变更了,有没有好的监控手段。比如字段长度变长,表增加字段,等DDL操作。因为业务是变化的,这种如果监控不及时,整个调度流程是不是就会崩?
当前MaxCompute仅支持在DataWorks控制台数据地图中查看内部数据的变动以及监控。外部数据源的字段变化,当前是没有办法监控到。后续如有好的解决办法,会社群通知,请大家持续关注。
问题五、如何批量查询表的元数据?
在8月13日,由阿里云智慧事业群产品专家曲宁直播阿里巴巴大数据产品最新特性介绍—MaxCompute,其中有一项Information Schema元数据服务,以视图的形式提供准实时的元数据,包括Tables、PartitionsColumns、UDFs、Resources、Users、Roles、Packages、数据对象的授权信息、作业运行信息等。大家可以通过提交工单进行新功能测试申请
提交方法可参考:https://help.aliyun.com/document_detail/128366.html
问题六、使用 Pyodps 统计一个表里面某个字段的空值率的时候,是推荐用 execute_sql 来执行 SQL 语句来查询, 还是推荐用 DataFrame 来执行聚合操作。哪个性能更高?
DataFrame聚合性能更高一些,所以推荐使用DataFrame来执行聚合操作。具体DataFrame如何聚合操作可参考
官方文档:https://help.aliyun.com/document_detail/90458.html
问题七、MaxCompute常见错误信息如何理解,怎么定位问题?
MaxCompute的常见报错信息编号有规范定义,异常编号:通用描述 - 上下文相关说明。其中SQL、MapReduce、Tunnel的错误信息是不一样的。官方文档中列举了一些错误信息,
大家可以查询一一对应报错信息:https://help.aliyun.com/document_detail/34636.html
问题八、DataWorks中如何跨业务流程依赖?
可以通过节点方式解决,下游业务流程的第一个节点依赖上游业务流程的最后一个节点。
问题九、MaxCompute客户端(odpscmd)在windows命令行下查询中文乱码如何解决?
odpscmd中出现中文乱码是因为中文字符集的编码方式不一致导致的,
可以参考一篇实践文档来解决问题:https://yq.aliyun.com/articles/706600
问题十、MaxCompute Sql中如何判断一个字段是否为空?
IS NULL。MaxCompute Sql中包含关系运算符、算数运算符、位运算符、逻辑运算符。
可参考官方文档:https://help.aliyun.com/document_detail/27861.html
本文作者:亢海鹏
本文为云栖社区原创内容,未经允许不得转载。
MaxCompute问答整理之8月的更多相关文章
- MaxCompute问答整理之7月
本文是基于本人对MaxCompute产品的学习进度,再结合开发者社区里面的一些问题,进而整理成文.希望对大家有所帮助. 问题一.DataWorks V2.0简单模式和标准模式的区别?公司数仓的数据上云 ...
- MaxCompute问答整理之10月
本文是基于本人对MaxCompute产品的学习进度,再结合开发者社区里面的一些问题,进而整理成文.希望对大家有所帮助. 问题一.DataStudio中是否可以通过shell节点调取MaxCompute ...
- MaxCompute问答整理之9月
本文是基于本人对MaxCompute产品的学习进度,再结合开发者社区里面的一些问题,进而整理成文.希望对大家有所帮助. 问题一.如何查看information_schema的tables? 在使用OD ...
- MaxCompute问答整理之6月
本文是基于本人对MaxCompute产品的学习进度,再结合开发者社区里面的一些问题,进而整理成文.希望对大家有所帮助,下面咱们正式开始. 1.什么是MaxCompute呢?MaxCompute是由阿里 ...
- MySQL问答整理
1.Mysql中有哪些不同的表格? MyISAM: 基于IASM代码.可以被压缩,支持全文搜索,事务不安全,而且也不支持外键.如果事务回滚将会造成不完全回滚,从而不具备原子性.所以假如忽略事务以及访问 ...
- Java最新面试问答整理
Q:JDK和JRE区别? JDK是整个JAVA的核心,包括了Java运行环境JRE,一堆Java工具和Java基 础的类库.通过JDK开发人员将源码文件(java文件)编译成字节码文件(class文 ...
- 阿里云MaxCompute 2019-8月刊
您好,MaxCompute 2019.8月刊为您带来8月产品.技术最新动态,欢迎阅读. 导读 [重要发布]8月产品重要发布 [文档更新]8月重要文档更新推荐 [干货精选]8月精选技术文章推荐 [精彩活 ...
- CSDN问答频道“华章杯”7月排行榜活动开始,丰厚奖品等你拿
CSDN问答频道月度排行榜,是CSDN问答频道从3月开始举办的活动,旨在鼓励更多用户参与提问和解答,创造一个良好的互帮互助氛围,使参与者在问和答的过程中得到技术水平的提升,也希望大家能在技术交流中结交 ...
- CSDN问答频道“华章杯”11月排行榜活动开始,丰厚奖品等你拿
CSDN问答频道月度排行榜,是CSDN问答频道从3月开始举办的活动,旨在鼓励更多用户参与提问和解答,创造一个良好的互帮互助氛围,使参与者在问和答的过程中得到技术水平的提升,也希望大家能在技术交流中结交 ...
随机推荐
- git使用过程中问题
git提交文件命令顺序 fetch merge add commit pull push 取消已add文件 git reset HEAD 文件名 覆盖本地文件 git checkout 文件名 $ g ...
- web Magic报错 NoSuchMethodError NoSuchMethodError: com.google.common.util.concurrent.SimpleTimeLimiter
webMagic使用selenium的时候遇到报错: java.lang.NoSuchMethodError: com.google.common.util.concurrent.SimpleTime ...
- C/C++实现单向循环链表(尾指针,带头尾节点)
C语言实现单向循环链表,主要功能为空链表创建,链表初始化(头插法,尾插法),链表元素读取,按位置插入,(有序链表)按值插入,按位置删除,按值删除,清空链表,销毁链表. 单向循环链表和单向链表的区别:( ...
- Grunt入门
Grunt 新手一日入门 2014.06.20 前端相关 TOC 1. 用途和使用场景 2. 开发一个任务自动处理器 3. 开始学习 Grunt 3.1. 安装 Grunt 3.2. 生成 packa ...
- JAVA判断一个对象生存还是死亡
JAVA中判断一个对象是否死亡的算法有两种: 引用计数算法 可达性分析算法 一.引用计数算法所谓引用计数算法就是,给一个对象定义一个引用计数器,每当该对象被引用一次引用计数器就加1,如果一个对象的引用 ...
- Python 实现0-1背包
代码: import numpy as np c=10 #背包容量 w=[2,2,6,5,4] #物品重量 v=[5,3,5,4,6] #物品价值 flag =[0,0,0,0,0] m=np.zer ...
- day 49 Bootstrap框架和inconfont、font-awesome使用
Bootstrap框架和inconfont.font-awesome使用 iconfont的使用:https://www.cnblogs.com/clschao/articles/10387580 ...
- spring boot问题记录(持续更新)
1.springboot v2.1.1.RELEASE版本中server.context-path=/demo不起作用? 路径变了:server.servlet.context-path=/dem ...
- python调用scikit-learn机器学习
不支持深度学习和强化学习 numpy介绍: np.eye(n)生成一个n维单元数组 数据预处理: iris数据加载 from sklearn import datasetsiris = dataset ...
- 【LGP5350】序列
题目 可能\(\operatorname{fhq\ treap}\)能做,但是珂朵莉树显然更好写 珂朵莉树是个很玄学的东西啊,就是直接使用\(\operatorname{std::set}\)维护每一 ...