1. 博客:www.jiaopengzi.com

焦棚子的文章目录

请点击下载附件

一、背景

最近在玩钉钉日志,企业填写简单数据后方便汇总到一起比较实用的工具,但数据填写以后还是需要下载日志报表,比较麻烦。

在做BI的时候,可不可以用pq(power query)获取这些数据同步更新呢?查阅钉钉开发文档,日志是可以通过api接口获取。

那么写个pq(power query)自定义函数获取即可。

二、数据结构

为了方便演示,新建一个日志填写模板。

标题:测试日志

字段:日期,测试项目,测试值


设计日志模板

填写测试数据


填写好的日志

三、上M

1、自定义函数Fxdingding

看到这一串不要慌,直接复制到自己的pq中保存为Fxdingding即可。

  1. let
  2. fx=(AppKey as text ,AppSecret as text,Month as date,RecodeName as text,NameList as list ) as table=>
  3. let
  4. token=Json.Document( Text.FromBinary(Web.Contents("https://oapi.dingtalk.com/gettoken?appkey="&AppKey&"&appsecret="&AppSecret)))[access_token],
  5. //时间戳转北京时间===================================================

  6. BeijingTime=(x as number) =>

  7. let

  8. t=DateTime.FromFileTime((11644473600000+x)*10000)

  9. in

  10. t,
  11. //日期转换为时间戳===================================================

  12. UnixTimestampStart=(m as date)=>

  13. let

  14. = ((Number.From(m)-70365-19)86400-83600)1000,

  15. tf=Text.From(源)

  16. in

  17. tf,
  18. //提供日期的月末最后一天转换为时间戳===================================

  19. UnixTimestampEnd=(m as date)=>

  20. let

  21. t=Date.EndOfMonth(m),

  22. st = ((Number.From(t)-70365-19)86400-83600)1000+86399999,

  23. tf=Text.From(st)

  24. in

  25. tf,
  26. //根据cursor获取每页recode===========================================

  27. fxrl=(n as number,name as text)=>

  28. let

  29. fx=Json.Document(

  30. Web.Contents("https://oapi.dingtalk.com/topapi/report/list?"

  31. , [Query=[access_token=token]

  32. ,Content=Text.ToBinary("{'start_time':"&UnixTimestampStart(Month)&",'end_time':"&UnixTimestampEnd(Month)&",'template_name':'"&name&"','cursor':"&Text.From(n)&",'size':20}")

  33. ]

  34. )

  35. )[result]

  36. in

  37. fx,
  38. //每页的recode转换成表===============================================

  39. fxrt = (listr as list)=>

  40. let

  41. fx=Table.Combine(List.Transform(listr,(R)=> Table.FromRecords({Record.TransformFields( R,{"contents", each Record.FromList(Table.FromRecords()[value],Table.FromRecords()[key])})})))

  42. in

  43. fx,
  44. //获取corsorlist====================================================

  45. //其中100是个参数,表2000条数据,多数需求能满足,大约这个数用条数除以20得到向上取整数字替换100

  46. corsorlist={0} & List.Distinct( List.Transform({1..100},(L)=>List.Accumulate({1..L},0,(x,y)=>

  47. if y=1 then

  48. Json.Document(Web.Contents("https://oapi.dingtalk.com/topapi/report/list?"

  49. ,[Query=[access_token=token]

  50. ,Content=Text.ToBinary("{'start_time':"&UnixTimestampStart(Month)&",'end_time':"&UnixTimestampEnd(Month)&",'template_name':'"&RecodeName&"','cursor':"&Text.From(0)&",'size':20}")])

  51. )[result][next_cursor]

  52. else

  53. Json.Document(Web.Contents("https://oapi.dingtalk.com/topapi/report/list?"

  54. , [Query=[access_token=token]

  55. ,Content=Text.ToBinary("{'start_time':"&UnixTimestampStart(Month)&",'end_time':"&UnixTimestampEnd(Month)&",'template_name':'"&RecodeName&"','cursor':"&Text.From(x)&",'size':20}")])

  56. )[result][next_cursor]))

  57. ),
  58. //获取每页数据的record组成datalist====================================

  59. datalist = List.Transform(corsorlist,each fxrl(_,RecodeName)[data_list]),
  60. //datalist转换成表===================================================

  61. tables = Table.Buffer(Table.Combine(List.Transform(datalist,each fxrt(_)))),
  62. //判断是否为空表,容错机制=============================================

  63. TF=Table.IsEmpty(tables),//tables=#table({},{})
  64. //用namelist展开recode得到表==========================================

  65. 展开 = if TF then #table(NameList,{}) else Table.ExpandRecordColumn(tables, "contents", NameList),
  66. //删除其他列得到目标列=================================================

  67. 删除 = Table.SelectColumns(展开,NameList)
  68. in

  69. 删除,

  70. metadata=[

  71. Documentation.Name="钉钉日志数据获取函数:Fxdingding",

  72. Documentation.LongDescription="AppKey:登录钉钉开放平台获得(需要组织管理员权限);AppSecret:登录钉钉开放平台获得(需要组织管理员权限);Month:表示要获取数据的月份的1号填写为:#date(2019,1,1);RecordName:要获取的日志标题名称;NameList:日志的标题名称,使用list形式。"

  73. ]
  74.  
  75.  
  76. in

  77. Value.ReplaceType(fx,Value.Type(fx) meta metadata)

2、自定义函数的说明

function(AppKey as text ,AppSecret as text,Month as date,RecodeName as text,NameList as list ) as table

AppKey:登录钉钉开放平台获得(需要组织管理员权限);

AppSecret:登录钉钉开放平台获得(需要组织管理员权限);

Month:表示要获取数据的月份的1号填写为:#date(2019,1,1),为什么要设置这个参数,因为钉钉api获取数据是由日期限制的,好像是180天,所以数据就按照每月获取的;

RecordName:要获取的日志标题名称;

NameList:日志的标题名称,使用list形式。


自定义函数Fxdingding

3、调用函数得到结果

4、以上,对于pq了解多一些人操作起来没有问题,接下来再把函数和字段名称管理一起封装,让更多对pq不是很了解的人直接拿来就用(详细见附件)

步骤1:配置《01名称管理》Excel文件表名、ID、原始名称、统一名称;

步骤2:配置好Power BI文件4个参数;

步骤3:直接一个简单的函数Fxtable得到结果,是不是非常简单。

四、总结

1、直接调用自定函数fxdingding输入五个参数,即可得到结果;

2、注意参数的格式,详见上图《结果》

3、AppKey、AppSecret 获取需要管理员权限并登录钉钉开放平台获得;

钉钉开放平台​

4、具体步骤见开发文档;

钉钉开发文档​

5、服务器公网出口IP名单要提前设置好,不然数据会跑不出来。

6、由于每页20条数据限制,我们设置了获取2000条数据为上限,若数据超过这个限制,请参看自定义函数中说明,自行修改。

by焦棚子

焦棚子的文章目录

131_Power Query之获取钉钉日志自动刷新Power BI报告的更多相关文章

  1. 141_Power Query之获取钉钉审批流自动刷新Power BI报告

    博客:www.jiaopengzi.com 焦棚子的文章目录 请点击下载附件 一.背景 钉钉办公给很多企业带来了很多方便,比如审批流线上化,通用化.线上化填写后,数据自动获取又是一个硬伤了,虽然数据可 ...

  2. SpringBoot整合Nacos自动刷新配置

    目的 Nacos作为SpringBoot服务的注册中心和配置中心. 在NacosServer中修改配置文件,在SpringBoot不重启的情况下,获取到修改的内容. 本例将在配置文件中配置一个 cml ...

  3. 150_1秒获取Power BI Pro帐号

    博客:www.jiaopengzi.com 请点击[阅读原文]获取帐号 一.背景 当你来到这篇文章的时候,我想你已经在网上搜索了一圈了.网上有一大把教你如何注册Power BI帐号的方法,我们这里就不 ...

  4. 149_1秒获取Power BI Pro帐号

    一.背景 当你来到这篇文章的时候,我想你已经在网上搜索了一圈了.网上有一大把教你如何注册Power BI帐号的方法,我们这里就不在赘述了.因为各种因素的限制确实比较麻烦.我们直接提供Power BI ...

  5. 基础架构之日志管理平台及钉钉&邮件告警通知

    接上一篇,我们继续解释如何把ELK跟钉钉及发送邮件功能结合起来,让我们及时的了解重要日志并快速反馈. Sentinel 安装,项目介绍在https://github.com/sirensolution ...

  6. 一个人的安全部之ELK接收Paloalto日志并用钉钉告警

    起因 通报漏洞后,开发未能及时修复漏洞,导致被攻击,领导说我发现被攻击的时间晚了,由于一个人安全部精力有限未能及时看IPS告警,于是做了个钉钉告警. 本人环境介绍 ubuntu 14.04 pytho ...

  7. 【06】Jenkins:Gitlab 自动触发构建以及钉钉通知

    写在前面的话 在某些时候,我们希望能够实现这样一个功能,当用户提交东西到 gitlab 上的时候,希望它能够自动触发构建,发布到我们需要的环境. 目前我们内部有做类似的需求:产品提交原型到 gitla ...

  8. Python 实现 T00ls 自动签到脚本(邮件+钉钉通知)

    T00ls 每日签到是可以获取 TuBi 的,由于常常忘记签到,导致损失了很多 TuBi .于是在 T00ls 论坛搜索了一下,发现有不少大佬都写了自己的签到脚本,签到功能实现.定时任务执行以及签到提 ...

  9. Jenkins 实现Gitlab事件自动触发Jenkins构建及钉钉消息推送

    实现Gitlab事件自动触发Jenkins构建及钉钉消息推送 实践环境 GitLab Community Edition 12.6.4 Jenkins 2.284 Post build task 1. ...

随机推荐

  1. 7分钟理解JS的节流、防抖及使用场景

    前言 据说阿里有一道面试题就是谈谈函数节流和函数防抖.糟了,这可触碰到我的知识盲区了,好像听也没听过这2个东西,痛定思痛,赶紧学习学习.here we go! 概念和例子 函数防抖(debounce) ...

  2. DRF 视图组件

    目录 DRF 视图组件 视图组件大纲 两个视图基本类 五个扩展类 九个子类视图 视图集 常用视图集父类 魔法类 一览表 DRF中视图的"七十二变" 第一层:基于APIview的五个 ...

  3. properties和XML配置文件内容的获取

    @ 目录 总结内容 1. Java中为什么要使用配置文件 2. Java中常用的配置文件类型有哪些以及它们的特点 Properties配置文件 XML配置文件 总结 总结内容 1. Java中为什么要 ...

  4. Spring-实现原理

    探究SpringBoot实现原理 注意:必须完成SSM阶段源码解析部分的学习,链接:https://www.cnblogs.com/zwtblog/tag/源码/ 我们在前面的学习中切实感受到了Spr ...

  5. linux磁盘分区fdisk命令操作(实践)

    写这篇的目的,还是要把整个过程完整的记录下来,特别是小细节的地方,通常很多情况是一知半解,平时不实践操作只凭看是没有用的,所以做这个行业就是要多动手,多学习,多思考慢慢你的思路也会打开.练就自己的学习 ...

  6. Python学习笔记.md

    Python学习笔记 1.变量类型 x=5 int x="ss" string x='a' string x=True bool #查看变量类型 type(x) 2.字符串常用操作 ...

  7. Postman+newman+jenkins+git实战

    一.接口分类,流程,用例设计 接口分类: 外部接口:被测系统与外部其他系统之间的接口. 承保系统(被测系统),核算系统. 内部接口:被测系统内部各个子模块之间的接口. 承保系统(A模块,B模块) 测试 ...

  8. Spark SQL底层执行流程详解

    本文目录 一.Apache Spark 二.Spark SQL发展历程 三.Spark SQL底层执行原理 四.Catalyst 的两大优化 一.Apache Spark Apache Spark是用 ...

  9. MySQL进阶之表的增删改查

    我的小站 修改表名 ALTER TABLE student RENAME TO stu; TO可以省略. ALTER TABLE 旧表名 RENAME 新表名; 此语句可以修改表的名称,其实一般我们在 ...

  10. PHP的Laravel与Composer部署项目时常见问题

    我们在部署PHP项目时,其实大部分的PHP项目会创建环境检测与一键**Install**页面. 但是,有许多的项目还采用了Composer部署. 什么是Composer 至于什么是Composer,我 ...