ETL过程跑完后,使用python发送邮件
目标库中,如果有行数为0的表,使用python发送邮件
# -*- coding:utf-8 -*-
# Author: zjc
# Description:send monitor info to someone.
# Date: 20170718 import contextlib
import pymysql
import smtplib from email.mime.text import MIMEText # 监控信息变量
TABLE_SCHEMA_LIST = ('db-name1', 'db-name2')
COLUMN_LIST = "table_schema,table_name,table_type,table_rows,table_comment" # 邮箱信息变量
MAIL_HOST = "smtp.xxxxx.com" # set you mail host
#定义成列表,实现全局变量功能
MAIL_SUBJECT = ["XX - MONITOR "]
MAIL_SENDER_NAME = "1234567@qq.com"
MAIL_SENDER_PASSWORD = "******"
MAIL_RECEIVERS = ["asdfghj@XXX.com","eqerqreq@163.com"]
MAIL_MESSAGE_BEGIN = """
<p>ETL结果信息</p>
<table border="1">
<tr>
<th>table_schema</th>
<th>table_name</th>
<th>table_rows</th>
<th>table_comment</th>
</tr>
"""
MAIL_MESSAGE_END = """
</table>
""" # 邮局发送函数
def sendMailTo(message):
msg = MIMEText(message, 'html', 'utf-8')
msg['Subject'] = MAIL_SUBJECT[0]
try:
server = smtplib.SMTP()
server.connect(MAIL_HOST)
server.login(MAIL_SENDER_NAME, MAIL_SENDER_PASSWORD)
server.sendmail(MAIL_SENDER_NAME, MAIL_RECEIVERS, msg.as_string())
server.close()
#print("邮件发送成功")
return True
except smtplib.SMTPException:
#print("Error: 无法发送邮件")
raise # 定义数据库连接,上下文管理器,连接后自动关闭连接
@contextlib.contextmanager
def mysql(host='10.0.8.*', user='', password='*****',
db='', port=3306, charset='utf8mb4'):
conn = pymysql.connect(host=host, port=port, user=user, passwd=password, db=db, charset=charset)
cursor = conn.cursor(cursor=pymysql.cursors.DictCursor)
try:
yield cursor
finally:
conn.commit()
cursor.close()
conn.close() # 查询 MySql 元数据信息
def query_schema_table_info():
resultlist = []
# Connect to the database
with mysql() as cursor:
# Read a single record
sql = "select "+ COLUMN_LIST + " FROM information_schema.TABLES " \
"WHERE TABLE_SCHEMA IN "+str(TABLE_SCHEMA_LIST)
#print(sql)
cursor.execute(sql)
for row in cursor.fetchall():
resultlist.append(row)
return resultlist # 根据查询结果,判断数据抽取是否正常
def deal():
mess = ""
zero_table_count = 0
result_list = query_schema_table_info()
for r in result_list:
# 总体情况
if r["table_rows"] == 0:
mess += "<tr bgcolor='red''>" \
+ " <td>" + r["table_schema"] + "</td>" \
+ " <td>" + r["table_name"] + "</td>" \
+ " <td>" + str(r["table_rows"]) + "</td>" \
+ " <td>" + r["table_comment"] + "</td>" \
+ " </tr>"
else:
mess += "<tr>" \
+ " <td>" + r["table_schema"] + "</td>" \
+ " <td>" + r["table_name"] + "</td>" \
+ " <td>" + str(r["table_rows"]) + "</td>" \
+ " <td>" + r["table_comment"] + "</td>" \
+ " </tr>" if r["table_rows"] == 0:
zero_table_count += 1 # 如果多于0个表是空的,则表示数据出问题了
if zero_table_count > 0:
MAIL_SUBJECT[0] = " - MONITOR 发生错误"
#print(mess)
#print(MAIL_SUBJECT[0])
return mess # print(query_schema_table_info())
if __name__ == '__main__':
message = MAIL_MESSAGE_BEGIN + deal() + MAIL_MESSAGE_END
sendMailTo(message)
===================
放到到服务器运行可能错误:
报错一:
UnicodeDecodeError: 'ascii' codec can't decode byte 0xe9 in position 0: ordinal not in range(128)
1、原因
因为默认情况下,Python采用的是ascii编码方式,如下所示:
python -c "import sys; print sys.getdefaultencoding()" ascii
而Python在进行编码方式之间的转换时,会将 unicode 作为“中间编码”,但 unicode 最大只有 128 那么长,所以这里当尝试将 ascii 编码字符串转换成"中间编码" unicode 时由于超出了其范围,就报出了如上错误。
2、解决办法
1)第一种:这里我们将Python的默认编码方式修改为utf-8,就可以规避上述问题的发生,具体方式,我们在Python文件的前面加上如下代码:
import sys
defaultencoding = 'utf-8'
if sys.getdefaultencoding() != defaultencoding:
reload(sys)
sys.setdefaultencoding(defaultencoding)
2)第二种:我们在/usr/lib/python2.7/site-packages/目录下添加一个sitecustomize.py文件,内容如下:
import sys sys.setdefaultencoding('utf-8')
ETL过程跑完后,使用python发送邮件的更多相关文章
- 解决 Scrapy-Redis 空跑问题,链接跑完后自动关闭爬虫
Scrapy-Redis 空跑问题,redis_key链接跑完后,自动关闭爬虫 问题:scrapy-redis框架中,reids存储的xxx:requests已经爬取完毕,但程序仍然一直运行,如何自动 ...
- Scrapy-Redis 空跑问题,redis_key链接跑完后,自动关闭爬虫
首先解决爬虫等待,不被关闭的问题: 1.scrapy内部的信号系统会在爬虫耗尽内部队列中的request时,就会触发spider_idle信号. 2.爬虫的信号管理器收到spider_idle信号后, ...
- python 发送邮件例子
想到用python发送邮件 主要是服务器 有时候会产生coredump文件 ,然后因为脚本重启原因,服务器coredump产生后会重启 但是没有主动通知开发人员 想了下可以写个脚本一旦产生cored ...
- 从工厂流水线小妹到Google上班程序媛,看完后,我跪服了!
阅读本文大概需要 10.2 分钟. 文作者:Ling Sun 原文链接:https://www.zhihu.com/question/68154951/answer/546265013 我家境很不好, ...
- python发送邮件及附件
今天给大伙说说python发送邮件,官方的多余的话自己去百度好了,还有一大堆文档说实话不到万不得已的时候一般人都不会去看,回归主题: 本人是mac如果没有按照依赖模块的请按照下面的截图安装 导入模块如 ...
- 解读Python发送邮件
解读Python发送邮件 Python发送邮件需要smtplib和email两个模块.也正是由于我们在实际工作中可以导入这些模块,才使得处理工作中的任务变得更加的简单.今天,就来好好学习一下使用Pyt ...
- iPhone不为人知的功能常用技巧,看完后才发现很多用iPhone的人实在是愧对乔布斯! - imsoft.cnblogs
很多人花了四五千买部苹果,结果只用到四五百块钱的普通手机功能. iPhone不为人知的功能,常用技巧: 网上搜集整理的iPhone快捷键操作,虽然表面上iPhone按键只有一个HOME键,大部分操作都 ...
- 利用python发送邮件
找了很多使用python发送邮件的文章, 发现写的并不是太全, 导致坑特别多, 刚把这个坑跨过去, 在此记录下来 本代码使用163作为发送客户端, 接收邮箱随意 首先登录163邮箱, 开启POP3/S ...
- ETL过程
ETL,是英文 Extract-Transform-Load 的缩写,用来描述将数据从来源端经过抽取(extract).转换(transform).加载(load)至目的端的过程.ETL一词较常用在数 ...
随机推荐
- java类加载及类初始化
1.前言 java是跨平台语言,主要是因为它的java虚拟机的存在,java有事编译语言,所以需要将编写的java文件编译成jvm可运用的class字节码文件.在java中一切皆对象.对于Java虚拟 ...
- socket粘包问题解决
粘包client.send(data1)client.send(data2)这两次send紧挨在一起,处理的时候会放在一起发过去在Linux里每次都粘包,Windows里面某次会出现粘包在两次send ...
- 第二节 pandas 基础知识
pandas 两种数据结构 Series和DataFrame 一 Series 一种类似与一维数组的对象 values:一组数据(ndarray类型) index:相关的数据索引标签 1.1 se ...
- 跨域 - 自定义 jsonp实现跨域
问题:在现代浏览器中默认是不允许跨域. 办法:通过jsonp实现跨域 在js中,我们直接用XMLHttpRequest请求不同域上的数据时,是不可以的.但是,在页面上引入不同域上的js脚本文件却是 ...
- python项目在无外网的生产环境解决沙盒依赖问题
参考 https://yq.aliyun.com/articles/159599 https://www.jianshu.com/p/08c657bd34f1 缺点是 只能针对python的环境 做沙 ...
- (四)Exploring Your Cluster
The REST API Now that we have our node (and cluster) up and running, the next step is to understand ...
- Spring Security(三十二):10. Core Services
Now that we have a high-level overview of the Spring Security architecture and its core classes, let ...
- Python两大佬互相撕逼 技术何苦为难技术?
最近两天 Python 圈发生了一件大事,两个 Python 大佬撕逼了起来了. 不,其实是一个大佬(刘志军)被怼. 事情是这样的. 背景 人物介绍: 董明伟:公众号「Python 之美」的作者,似乎 ...
- SpringCloud(6)分布式配置中心Spring Cloud Config
1.Spring Cloud Config 简介 在分布式系统中,由于服务数量巨多,为了方便服务配置文件统一管理,实时更新,所以需要分布式配置中心组件.在Spring Cloud中,有分布式配置中心组 ...
- mysql常见问题处理
出现: Access denied for user ''@'localhost' to database ' 2.error: Found option without preceding grou ...