ETL过程跑完后,使用python发送邮件
目标库中,如果有行数为0的表,使用python发送邮件
# -*- coding:utf-8 -*-
# Author: zjc
# Description:send monitor info to someone.
# Date: 20170718 import contextlib
import pymysql
import smtplib from email.mime.text import MIMEText # 监控信息变量
TABLE_SCHEMA_LIST = ('db-name1', 'db-name2')
COLUMN_LIST = "table_schema,table_name,table_type,table_rows,table_comment" # 邮箱信息变量
MAIL_HOST = "smtp.xxxxx.com" # set you mail host
#定义成列表,实现全局变量功能
MAIL_SUBJECT = ["XX - MONITOR "]
MAIL_SENDER_NAME = "1234567@qq.com"
MAIL_SENDER_PASSWORD = "******"
MAIL_RECEIVERS = ["asdfghj@XXX.com","eqerqreq@163.com"]
MAIL_MESSAGE_BEGIN = """
<p>ETL结果信息</p>
<table border="1">
<tr>
<th>table_schema</th>
<th>table_name</th>
<th>table_rows</th>
<th>table_comment</th>
</tr>
"""
MAIL_MESSAGE_END = """
</table>
""" # 邮局发送函数
def sendMailTo(message):
msg = MIMEText(message, 'html', 'utf-8')
msg['Subject'] = MAIL_SUBJECT[0]
try:
server = smtplib.SMTP()
server.connect(MAIL_HOST)
server.login(MAIL_SENDER_NAME, MAIL_SENDER_PASSWORD)
server.sendmail(MAIL_SENDER_NAME, MAIL_RECEIVERS, msg.as_string())
server.close()
#print("邮件发送成功")
return True
except smtplib.SMTPException:
#print("Error: 无法发送邮件")
raise # 定义数据库连接,上下文管理器,连接后自动关闭连接
@contextlib.contextmanager
def mysql(host='10.0.8.*', user='', password='*****',
db='', port=3306, charset='utf8mb4'):
conn = pymysql.connect(host=host, port=port, user=user, passwd=password, db=db, charset=charset)
cursor = conn.cursor(cursor=pymysql.cursors.DictCursor)
try:
yield cursor
finally:
conn.commit()
cursor.close()
conn.close() # 查询 MySql 元数据信息
def query_schema_table_info():
resultlist = []
# Connect to the database
with mysql() as cursor:
# Read a single record
sql = "select "+ COLUMN_LIST + " FROM information_schema.TABLES " \
"WHERE TABLE_SCHEMA IN "+str(TABLE_SCHEMA_LIST)
#print(sql)
cursor.execute(sql)
for row in cursor.fetchall():
resultlist.append(row)
return resultlist # 根据查询结果,判断数据抽取是否正常
def deal():
mess = ""
zero_table_count = 0
result_list = query_schema_table_info()
for r in result_list:
# 总体情况
if r["table_rows"] == 0:
mess += "<tr bgcolor='red''>" \
+ " <td>" + r["table_schema"] + "</td>" \
+ " <td>" + r["table_name"] + "</td>" \
+ " <td>" + str(r["table_rows"]) + "</td>" \
+ " <td>" + r["table_comment"] + "</td>" \
+ " </tr>"
else:
mess += "<tr>" \
+ " <td>" + r["table_schema"] + "</td>" \
+ " <td>" + r["table_name"] + "</td>" \
+ " <td>" + str(r["table_rows"]) + "</td>" \
+ " <td>" + r["table_comment"] + "</td>" \
+ " </tr>" if r["table_rows"] == 0:
zero_table_count += 1 # 如果多于0个表是空的,则表示数据出问题了
if zero_table_count > 0:
MAIL_SUBJECT[0] = " - MONITOR 发生错误"
#print(mess)
#print(MAIL_SUBJECT[0])
return mess # print(query_schema_table_info())
if __name__ == '__main__':
message = MAIL_MESSAGE_BEGIN + deal() + MAIL_MESSAGE_END
sendMailTo(message)
===================
放到到服务器运行可能错误:
报错一:
UnicodeDecodeError: 'ascii' codec can't decode byte 0xe9 in position 0: ordinal not in range(128)
1、原因
因为默认情况下,Python采用的是ascii编码方式,如下所示:
python -c "import sys; print sys.getdefaultencoding()" ascii
而Python在进行编码方式之间的转换时,会将 unicode 作为“中间编码”,但 unicode 最大只有 128 那么长,所以这里当尝试将 ascii 编码字符串转换成"中间编码" unicode 时由于超出了其范围,就报出了如上错误。
2、解决办法
1)第一种:这里我们将Python的默认编码方式修改为utf-8,就可以规避上述问题的发生,具体方式,我们在Python文件的前面加上如下代码:
import sys
defaultencoding = 'utf-8'
if sys.getdefaultencoding() != defaultencoding:
reload(sys)
sys.setdefaultencoding(defaultencoding)
2)第二种:我们在/usr/lib/python2.7/site-packages/目录下添加一个sitecustomize.py文件,内容如下:
import sys sys.setdefaultencoding('utf-8')
ETL过程跑完后,使用python发送邮件的更多相关文章
- 解决 Scrapy-Redis 空跑问题,链接跑完后自动关闭爬虫
Scrapy-Redis 空跑问题,redis_key链接跑完后,自动关闭爬虫 问题:scrapy-redis框架中,reids存储的xxx:requests已经爬取完毕,但程序仍然一直运行,如何自动 ...
- Scrapy-Redis 空跑问题,redis_key链接跑完后,自动关闭爬虫
首先解决爬虫等待,不被关闭的问题: 1.scrapy内部的信号系统会在爬虫耗尽内部队列中的request时,就会触发spider_idle信号. 2.爬虫的信号管理器收到spider_idle信号后, ...
- python 发送邮件例子
想到用python发送邮件 主要是服务器 有时候会产生coredump文件 ,然后因为脚本重启原因,服务器coredump产生后会重启 但是没有主动通知开发人员 想了下可以写个脚本一旦产生cored ...
- 从工厂流水线小妹到Google上班程序媛,看完后,我跪服了!
阅读本文大概需要 10.2 分钟. 文作者:Ling Sun 原文链接:https://www.zhihu.com/question/68154951/answer/546265013 我家境很不好, ...
- python发送邮件及附件
今天给大伙说说python发送邮件,官方的多余的话自己去百度好了,还有一大堆文档说实话不到万不得已的时候一般人都不会去看,回归主题: 本人是mac如果没有按照依赖模块的请按照下面的截图安装 导入模块如 ...
- 解读Python发送邮件
解读Python发送邮件 Python发送邮件需要smtplib和email两个模块.也正是由于我们在实际工作中可以导入这些模块,才使得处理工作中的任务变得更加的简单.今天,就来好好学习一下使用Pyt ...
- iPhone不为人知的功能常用技巧,看完后才发现很多用iPhone的人实在是愧对乔布斯! - imsoft.cnblogs
很多人花了四五千买部苹果,结果只用到四五百块钱的普通手机功能. iPhone不为人知的功能,常用技巧: 网上搜集整理的iPhone快捷键操作,虽然表面上iPhone按键只有一个HOME键,大部分操作都 ...
- 利用python发送邮件
找了很多使用python发送邮件的文章, 发现写的并不是太全, 导致坑特别多, 刚把这个坑跨过去, 在此记录下来 本代码使用163作为发送客户端, 接收邮箱随意 首先登录163邮箱, 开启POP3/S ...
- ETL过程
ETL,是英文 Extract-Transform-Load 的缩写,用来描述将数据从来源端经过抽取(extract).转换(transform).加载(load)至目的端的过程.ETL一词较常用在数 ...
随机推荐
- codeforces/contest/803/problem C
题目:C. Maximal GCD 题意:输入n,k.将n拆成k个数的序列,使得这k个数的gcd最大.(且序列严格递增).1 ≤ n, k ≤ 1010 . 分析:假设k个数的gcd为d,则一定有d| ...
- netstat简介
netstat是一个监控TCP/IP网络的非常有用的工具,它可以显示路由表,实际的网络连接以及每一个网络接口设备的状态信息,netstat用于显示与IP,TCP,UDP和ICMP协议相关的统计数据,一 ...
- Javascript DOM(2)
一.value属性操作 1.具有value属性的三个标签:input.select.textarea 2.value的获取:ele.value input=document.getElementByI ...
- 理解mysql执行多表联合查询
阅读目录 一:inner join(内连接) 二:left join(左连接) 三:right join(右连接) 四:cross join(交叉连接) 五:union操作 六:node+mysql ...
- 手把手教你发布一个Python包
本文主题如下: 编写一个包(Python 源代码),但不是本文的重点. 编译包,观察编译后的文件. 发布包,发布的包可以有多种类型. 如何在 Pypi 中查看已发布的包 注意: 本文编写的包在 Pyt ...
- 区块链代币(Token)笔记 — — 术语
前言 接触区块链和数字货币差不多有大半年时间,一直在赶项目进度,现在有空整理补习一下相关的知识,只谈代币不谈区块链
- Linux基础(一)
01-服务器 1.1 服务器型号 1.2 电源---双电源 1.3 CPU---计算,(2个CPU=2路) 1.4 内存 面试题:bufffer和cache的区别? buffer:写入数据到内存里,这 ...
- Oracle的表被锁后的恢复
运行下列SQL,找出数据库的serial#,执行结果如下图所示 SELECT T2.USERNAME, T2.SID, T2.SERIAL#, T2.LOGON_TIME FROM V$LOCKE ...
- 百度地图IP定位,点击地图添加marker
<html> <head> <meta http-equiv="Content-Type" content="text/html; char ...
- python语法与c++不同点
代码结构由':'号和缩进 来标示. 函数: def 定义 不定参数: *args: tarple可逐个传, 整体传, *拆包传 **kwargs dict可逐个传, 整体传, ** 拆包传, 有2 ...