ETL过程跑完后,使用python发送邮件
目标库中,如果有行数为0的表,使用python发送邮件
# -*- coding:utf-8 -*-
# Author: zjc
# Description:send monitor info to someone.
# Date: 20170718 import contextlib
import pymysql
import smtplib from email.mime.text import MIMEText # 监控信息变量
TABLE_SCHEMA_LIST = ('db-name1', 'db-name2')
COLUMN_LIST = "table_schema,table_name,table_type,table_rows,table_comment" # 邮箱信息变量
MAIL_HOST = "smtp.xxxxx.com" # set you mail host
#定义成列表,实现全局变量功能
MAIL_SUBJECT = ["XX - MONITOR "]
MAIL_SENDER_NAME = "1234567@qq.com"
MAIL_SENDER_PASSWORD = "******"
MAIL_RECEIVERS = ["asdfghj@XXX.com","eqerqreq@163.com"]
MAIL_MESSAGE_BEGIN = """
<p>ETL结果信息</p>
<table border="1">
<tr>
<th>table_schema</th>
<th>table_name</th>
<th>table_rows</th>
<th>table_comment</th>
</tr>
"""
MAIL_MESSAGE_END = """
</table>
""" # 邮局发送函数
def sendMailTo(message):
msg = MIMEText(message, 'html', 'utf-8')
msg['Subject'] = MAIL_SUBJECT[0]
try:
server = smtplib.SMTP()
server.connect(MAIL_HOST)
server.login(MAIL_SENDER_NAME, MAIL_SENDER_PASSWORD)
server.sendmail(MAIL_SENDER_NAME, MAIL_RECEIVERS, msg.as_string())
server.close()
#print("邮件发送成功")
return True
except smtplib.SMTPException:
#print("Error: 无法发送邮件")
raise # 定义数据库连接,上下文管理器,连接后自动关闭连接
@contextlib.contextmanager
def mysql(host='10.0.8.*', user='', password='*****',
db='', port=3306, charset='utf8mb4'):
conn = pymysql.connect(host=host, port=port, user=user, passwd=password, db=db, charset=charset)
cursor = conn.cursor(cursor=pymysql.cursors.DictCursor)
try:
yield cursor
finally:
conn.commit()
cursor.close()
conn.close() # 查询 MySql 元数据信息
def query_schema_table_info():
resultlist = []
# Connect to the database
with mysql() as cursor:
# Read a single record
sql = "select "+ COLUMN_LIST + " FROM information_schema.TABLES " \
"WHERE TABLE_SCHEMA IN "+str(TABLE_SCHEMA_LIST)
#print(sql)
cursor.execute(sql)
for row in cursor.fetchall():
resultlist.append(row)
return resultlist # 根据查询结果,判断数据抽取是否正常
def deal():
mess = ""
zero_table_count = 0
result_list = query_schema_table_info()
for r in result_list:
# 总体情况
if r["table_rows"] == 0:
mess += "<tr bgcolor='red''>" \
+ " <td>" + r["table_schema"] + "</td>" \
+ " <td>" + r["table_name"] + "</td>" \
+ " <td>" + str(r["table_rows"]) + "</td>" \
+ " <td>" + r["table_comment"] + "</td>" \
+ " </tr>"
else:
mess += "<tr>" \
+ " <td>" + r["table_schema"] + "</td>" \
+ " <td>" + r["table_name"] + "</td>" \
+ " <td>" + str(r["table_rows"]) + "</td>" \
+ " <td>" + r["table_comment"] + "</td>" \
+ " </tr>" if r["table_rows"] == 0:
zero_table_count += 1 # 如果多于0个表是空的,则表示数据出问题了
if zero_table_count > 0:
MAIL_SUBJECT[0] = " - MONITOR 发生错误"
#print(mess)
#print(MAIL_SUBJECT[0])
return mess # print(query_schema_table_info())
if __name__ == '__main__':
message = MAIL_MESSAGE_BEGIN + deal() + MAIL_MESSAGE_END
sendMailTo(message)
===================
放到到服务器运行可能错误:
报错一:
UnicodeDecodeError: 'ascii' codec can't decode byte 0xe9 in position 0: ordinal not in range(128)
1、原因
因为默认情况下,Python采用的是ascii编码方式,如下所示:
python -c "import sys; print sys.getdefaultencoding()" ascii
而Python在进行编码方式之间的转换时,会将 unicode 作为“中间编码”,但 unicode 最大只有 128 那么长,所以这里当尝试将 ascii 编码字符串转换成"中间编码" unicode 时由于超出了其范围,就报出了如上错误。
2、解决办法
1)第一种:这里我们将Python的默认编码方式修改为utf-8,就可以规避上述问题的发生,具体方式,我们在Python文件的前面加上如下代码:
import sys
defaultencoding = 'utf-8'
if sys.getdefaultencoding() != defaultencoding:
reload(sys)
sys.setdefaultencoding(defaultencoding)
2)第二种:我们在/usr/lib/python2.7/site-packages/目录下添加一个sitecustomize.py文件,内容如下:
import sys sys.setdefaultencoding('utf-8')
ETL过程跑完后,使用python发送邮件的更多相关文章
- 解决 Scrapy-Redis 空跑问题,链接跑完后自动关闭爬虫
Scrapy-Redis 空跑问题,redis_key链接跑完后,自动关闭爬虫 问题:scrapy-redis框架中,reids存储的xxx:requests已经爬取完毕,但程序仍然一直运行,如何自动 ...
- Scrapy-Redis 空跑问题,redis_key链接跑完后,自动关闭爬虫
首先解决爬虫等待,不被关闭的问题: 1.scrapy内部的信号系统会在爬虫耗尽内部队列中的request时,就会触发spider_idle信号. 2.爬虫的信号管理器收到spider_idle信号后, ...
- python 发送邮件例子
想到用python发送邮件 主要是服务器 有时候会产生coredump文件 ,然后因为脚本重启原因,服务器coredump产生后会重启 但是没有主动通知开发人员 想了下可以写个脚本一旦产生cored ...
- 从工厂流水线小妹到Google上班程序媛,看完后,我跪服了!
阅读本文大概需要 10.2 分钟. 文作者:Ling Sun 原文链接:https://www.zhihu.com/question/68154951/answer/546265013 我家境很不好, ...
- python发送邮件及附件
今天给大伙说说python发送邮件,官方的多余的话自己去百度好了,还有一大堆文档说实话不到万不得已的时候一般人都不会去看,回归主题: 本人是mac如果没有按照依赖模块的请按照下面的截图安装 导入模块如 ...
- 解读Python发送邮件
解读Python发送邮件 Python发送邮件需要smtplib和email两个模块.也正是由于我们在实际工作中可以导入这些模块,才使得处理工作中的任务变得更加的简单.今天,就来好好学习一下使用Pyt ...
- iPhone不为人知的功能常用技巧,看完后才发现很多用iPhone的人实在是愧对乔布斯! - imsoft.cnblogs
很多人花了四五千买部苹果,结果只用到四五百块钱的普通手机功能. iPhone不为人知的功能,常用技巧: 网上搜集整理的iPhone快捷键操作,虽然表面上iPhone按键只有一个HOME键,大部分操作都 ...
- 利用python发送邮件
找了很多使用python发送邮件的文章, 发现写的并不是太全, 导致坑特别多, 刚把这个坑跨过去, 在此记录下来 本代码使用163作为发送客户端, 接收邮箱随意 首先登录163邮箱, 开启POP3/S ...
- ETL过程
ETL,是英文 Extract-Transform-Load 的缩写,用来描述将数据从来源端经过抽取(extract).转换(transform).加载(load)至目的端的过程.ETL一词较常用在数 ...
随机推荐
- 【转载】【时序约束学习笔记1】Vivado入门与提高--第12讲 时序分析中的基本概念和术语
时序分析中的基本概念和术语 Basic concept and Terminology of Timing Analysis 原文标题及网址: [时序约束学习笔记1]Vivado入门与提高--第12讲 ...
- Jenkins+git+gitlab实现持续自动集成部署
1 实验环境 三台服务器 gitlab 192.168.7.139 Jenkins 192.168.7.140 java 192.168.7.141 [root ...
- linux环境下快速安装Mariadb和Redis
一 Mariadb(Mysql)篇 1.新建一个yum源仓库 touch /etc/yum.repos.d/Mariadb.repo 2.在这个yum源仓库文件中,添加仓库url地址 [mariadb ...
- java.io.IOException: There appears to be a gap in the edit log. We expected txid ***, but got txid
方式1 原因:namenode元数据被破坏,需要修复解决:恢复一下namenode hadoop namenode -recover 一路选择Y,一般就OK了 方式2 Need to copy the ...
- nginx报错:failed (13: Permission denied)
vim nginx.conf 修改user nginx为当前系统用户,如:user root
- NSSM安装服务
NSSM是一个服务封装程序,它可以将普通exe程序封装成服务,使之像windows服务一样运行.同类型的工具还有微软自己的srvany,不过nssm更加简单易用,并且功能强大.它的特点如下: 支持普通 ...
- day 12 装饰器
nonlocal关键字 # 作用:将 L 与 E(E中的名字需要提前定义) 的名字统一# 应用场景:如果想在被嵌套的函数中修改外部函数变量(名字)的值# 案例:def outer(): n ...
- Oracle优化器
本文参照:https://www.cnblogs.com/Dreamer-1/p/6076440.html 读优化器之前建议先读: https://www.cnblogs.com/zhougongji ...
- MySQL内部执行流程
本文参照自:https://www.cnblogs.com/xiaotengyi/articles/3641983.html mysql处理java传过来的SQL具体步骤: 1.java通过JDBC获 ...
- Python 属性描述符和属性的查找过程
属性描述符可以用来控制给属性赋值的时候的一些行为 import numbers class IntField: def __get__(self, instance, owner): return s ...