FocusBI:《DW/BI项目管理》之SSIS执行情况
微信公众号:FocusBI
关注可了解更多的商业智能、数据仓库、数据库开发、爬虫知识及沪深股市数据推送。问题或建议,请关注公众号发送消息留言;
如果你觉得FocusBI对你有帮助,欢迎转发朋友圈或在文章末尾点赞[1]
《商业智能教程》pdf下载地址
链接:https://pan.baidu.com/s/1f9VdZUXztwylkOdFLbcmWw 密码:2r4v
在 FocusBI:SSIS体系结构、《SSIS开发案例》这两篇文章中讲到SSIS 开发完最终是要被执行的,但是被执行后会出现什么样的情况,如何去监控它的执行情况;这也是在BI实施中遇到的难题,当有上百个包我们应该如何管理这个SSIS的ETL 项目,虽然SSIS执行出错是有邮件通知出错了,但是它无法通知你具体是哪个地方出错,当一个项目有上百个包如何准确的定位出错和错误原因、如何清楚的知道这些包内部执行了哪些SQL 语句及包执行的时长起始时间等。
DW/BI项目管理:SSIS执行情况
这里我介绍《DW/BI项目管理》的第二个模块 SSIS执行情况,它能解决如何管理好上百个包及包内运行的状况等。
首先登录《DW/BI项目管理》 系统,单击SSIS执行情况 模块,在这个模块就会出现:SSIS执行包时间、SSIS执行的SQL、配置执行计划、配置邮件通知四个子模块,这里的配置执行计划就是把部署好的包选择好顺序会自动生成作业,这个功能在包比较少的情况下是没有多大意义的,只有当有上百个包,而且要迁移时才能帮你节省时间,如果要迁移也能做成存储过程一次性就迁移成功了,所以这个子模块就不在描述。配置邮件通知:这个子模块就是把SQL Server中的邮件模块引用进来我觉得没有多大意义,后面会取消这个模块。SSIS执行情况模块我重点讲一下执行包时间和执行的SQL 两个子模块。另外SSIS包执行错误和警告的信息在DW/BI项目管理 的首页 右侧 这个子模块是你一登录就会出现,为什么我要做成一登录就出现这些内容,即使有邮件通知SSIS的错误或警告但是毕竟是邮件有可能会遗漏。
DW/BI项目管理:SSIS执行包时间
单击 模块 SSIS执行情况中的子模块SSIS执行包时间 就会出现这个页面,页面有执行日期的查询,这里默认的是当天包执行的情况;每天只要打开这个子模块就能清晰的看到包和数据流组件运行的开始时间、结束时间、执行时长、受影响的行数。在表格中看到类型字段这个字段的内容是1代表数据流、0代表包。这里很明显是每个包中包含有多个数据流,这是很简单的业务才这么做,如果是复杂的业务就需要每一个包只包含一个数据流,这里也没有做增量包,所以在更加复杂的业务场景中需要考虑的因素更多,不管怎么复杂这个模块都能管理的很好;执行时长字段就是统计了这个包或数据流执行的时间,这个做性能优化时是非常重要的参考因素。行数字段行数很明显是显示出这个数据流处理的数据行数,这里做的是全量清除和全量抽取,没有做增量,所以这个字段对于做增量比较有意义一些。
DW/BI项目管理:SSIS执行的SQL
单击模块 SSIS执行情况中的子模块 SSIS执行的SQL 就会出现下面这个页面,包下面的某个数据流执行了什么样的SQL 语句一目了然,不管你是执行的存储过程这里也会把存储过程给显示出来,在BI实施的过程出于项目的交付需要给甲方使用可能会给甲方自己维护,所以在实施的过程中尽量都是SQL来处理较为简单的业务、存储过程处理复杂的业务,这样方便统一管理也对技术人员不要有太高深的了解SSIS的高级功能就能看懂和维护。执行的SQL字段后面的都是DBA使用的数据用于调优SQL参考的。
总结
把DW/BI项目管理中数据库表结构和SSIS执行情况两个模块结合起来使用对BI项目开发和维护非常的方便,能节约人力成本、提供开发速度、维护起来更加容易判断问题出在哪里。可以说离我的一个月只工作10天的梦想越来越近了,我需要更多系统化、智能化的思考BI项目的稳定和提前预防错误的方法。
历史文章:
FocusBI: 使用Python爬虫为BI准备数据源(原创)
FocusBI关注者
FocusBI:SSAS体系结构(原创)
FocusBI:租房分析&星型模型
FocusBI:地产分析&雪花模型
FocusBI:MDX检索多维模型
FocusBI:租房分析可视化(网址体验)
FocusBI: 《DW/BI项目管理》之数据库表结构 (原创)
FocusBI:《DW/BI项目管理》之SSIS执行情况的更多相关文章
- FocusBI: 《DW/BI项目管理》之数据库表结构 (原创)
关注微信公众号:FocusBI 查看更多文章:加QQ群:808774277 获取学习资料和一起探讨问题. <商业智能教程>pdf下载地址 链接:https://pan.baidu.com/ ...
- BI 项目管理之生命周期跟踪和任务区域
DW/BI 系统是复杂的实体,构建这种系统的方法必须有助于简化复杂性.13 个方框显示了构建成功的数据仓库的主要任务区域,以及这些任务之间的主要依赖关系. 在生命周期这一级可以进行多方观察 ...
- BI 项目管理之角色和职责
DW/BI 系统在生命周期中需要许多不同的角色和技能,它们来自业务和技术领域.本文将介绍创建DW/BI 系统所涉及的主要角色.角色和人之间很少是一对一关系.与我们合作的团队小到只有一人,大 ...
- SQL SERVER 查询Job作业基本信息及执行情况
查询作业基本信息和作业执行情况 SELECT [jop].[job_id] AS '作业唯一标识符' ,[jop].[ name ] AS '作业名称' ,[dp].[ name ] AS '作业创建 ...
- 【原创】SQL SERVER 查询Job作业基本信息及执行情况
查询作业基本信息和作业执行情况 SELECT [jop].[job_id] AS '作业唯一标识符' ,[jop].[ name ] AS '作业名称' ,[dp].[ name ] AS '作业创建 ...
- 【转】Java中try catch finally语句中含有return语句的执行情况(总结版)
Java中try catch finally语句中含有return语句的执行情况(总结版) 有一点可以肯定,finally块中的内容会先于try中的return语句执行,如果finall语句块中也有r ...
- 【转】html、css、js文件加载顺序及执行情况
原链接:http://www.cnblogs.com/Walker-lyl/p/5262075.html 今天看书,看到html,css,js加载执行情况,发现自己并不是真正的了解,网上搜了半小时依然 ...
- SQL查询作业执行情况
查询作业的执行情况sql: SELECT [JobName] = JOB.name, [Step] = HIST.step_id, [StepName] = HIST.step_name, [Mess ...
- Oracle数据库定时任务配置和日志执行情况查询
基础配置: /***************************************************************** * * 移动抵扣券快到期推送提醒 * 首次执行 : 2 ...
随机推荐
- xml与json的区别和总结
JSON和XML的比较 ◆可读性 JSON和XML的可读性可谓不相上下,一边是简易的语法,一边是规范的标签形式,很难分出胜负. ◆可扩展性 XML天生有很好的扩展性,JSON当然也有,没有什么是XML ...
- 用pillow和 opencv做透明通道的两图混全(blend)
from PIL import Image as image foreground = image.open("donkey.png") background = image.op ...
- SQL LEAD()函数 LAG()函数
lag ,lead 分别是向前,向后:lag 和lead 有三个参数,第一个参数是列名,第二个参数是偏移的offset,第三个参数是 超出记录窗口时的默认值) SQL> select id,na ...
- .net core 2.1-----Sql Server数据库初体验
刚开始接触asp.net core,在学习的过程中遇到了一些小问题,在这里记录一下! 在我们项目的开发过程中,肯定会和数据库打交道,所以我尝试了一下用asp.net core链接数据库,并读取表中的数 ...
- [javascript]——将变量转化为字符串
这是一个非常常用,但是我自己却经常忘记的一个方法: var item = 'textssdf'; console.log("'"+item+"'") > ...
- dbus-launch(转)
*NAME* dbus-launch - Utility to start a message bus from a shell script dbus-launch - 从shell脚本启动一个消息 ...
- 理解 atime,ctime,mtime (上)
理解 atime,ctime,mtime (上) Unix文件系统会为每个文件存储大量时间戳.这意味着您可以使用这些时间戳来查找任意时间访问到的任何文件或目录(读取或写入),更改(文件访问权限更改)或 ...
- 解决Python向MySQL数据库插入中文数据时出现乱码
解决Python向MySQL数据库插入中文数据时出现乱码 先在MySQL命令行中输入如下语句查看结果: 只要character_set_client character_set_database ch ...
- How to manage local libraries in IntelliJ IDEA
如何在 IntelliJ IDEA 中管理本地类库 一般来说,如果项目是基于 Maven 管理工具的,我们会在 pom.xml 中添加 dependency 来管理依赖.但有时也会遇到要用的类库不在 ...
- Objective-C Associated Objects 的实现原理
我们知道,在 Objective-C 中可以通过 Category 给一个现有的类添加属性,但是却不能添加实例变量,这似乎成为了 Objective-C 的一个明显短板.然而值得庆幸的是,我们可以通过 ...