ETL过程跑完后,使用python发送邮件
目标库中,如果有行数为0的表,使用python发送邮件
# -*- coding:utf-8 -*-
# Author: zjc
# Description:send monitor info to someone.
# Date: 20170718 import contextlib
import pymysql
import smtplib from email.mime.text import MIMEText # 监控信息变量
TABLE_SCHEMA_LIST = ('db-name1', 'db-name2')
COLUMN_LIST = "table_schema,table_name,table_type,table_rows,table_comment" # 邮箱信息变量
MAIL_HOST = "smtp.xxxxx.com" # set you mail host
#定义成列表,实现全局变量功能
MAIL_SUBJECT = ["XX - MONITOR "]
MAIL_SENDER_NAME = "1234567@qq.com"
MAIL_SENDER_PASSWORD = "******"
MAIL_RECEIVERS = ["asdfghj@XXX.com","eqerqreq@163.com"]
MAIL_MESSAGE_BEGIN = """
<p>ETL结果信息</p>
<table border="1">
<tr>
<th>table_schema</th>
<th>table_name</th>
<th>table_rows</th>
<th>table_comment</th>
</tr>
"""
MAIL_MESSAGE_END = """
</table>
""" # 邮局发送函数
def sendMailTo(message):
msg = MIMEText(message, 'html', 'utf-8')
msg['Subject'] = MAIL_SUBJECT[0]
try:
server = smtplib.SMTP()
server.connect(MAIL_HOST)
server.login(MAIL_SENDER_NAME, MAIL_SENDER_PASSWORD)
server.sendmail(MAIL_SENDER_NAME, MAIL_RECEIVERS, msg.as_string())
server.close()
#print("邮件发送成功")
return True
except smtplib.SMTPException:
#print("Error: 无法发送邮件")
raise # 定义数据库连接,上下文管理器,连接后自动关闭连接
@contextlib.contextmanager
def mysql(host='10.0.8.*', user='', password='*****',
db='', port=3306, charset='utf8mb4'):
conn = pymysql.connect(host=host, port=port, user=user, passwd=password, db=db, charset=charset)
cursor = conn.cursor(cursor=pymysql.cursors.DictCursor)
try:
yield cursor
finally:
conn.commit()
cursor.close()
conn.close() # 查询 MySql 元数据信息
def query_schema_table_info():
resultlist = []
# Connect to the database
with mysql() as cursor:
# Read a single record
sql = "select "+ COLUMN_LIST + " FROM information_schema.TABLES " \
"WHERE TABLE_SCHEMA IN "+str(TABLE_SCHEMA_LIST)
#print(sql)
cursor.execute(sql)
for row in cursor.fetchall():
resultlist.append(row)
return resultlist # 根据查询结果,判断数据抽取是否正常
def deal():
mess = ""
zero_table_count = 0
result_list = query_schema_table_info()
for r in result_list:
# 总体情况
if r["table_rows"] == 0:
mess += "<tr bgcolor='red''>" \
+ " <td>" + r["table_schema"] + "</td>" \
+ " <td>" + r["table_name"] + "</td>" \
+ " <td>" + str(r["table_rows"]) + "</td>" \
+ " <td>" + r["table_comment"] + "</td>" \
+ " </tr>"
else:
mess += "<tr>" \
+ " <td>" + r["table_schema"] + "</td>" \
+ " <td>" + r["table_name"] + "</td>" \
+ " <td>" + str(r["table_rows"]) + "</td>" \
+ " <td>" + r["table_comment"] + "</td>" \
+ " </tr>" if r["table_rows"] == 0:
zero_table_count += 1 # 如果多于0个表是空的,则表示数据出问题了
if zero_table_count > 0:
MAIL_SUBJECT[0] = " - MONITOR 发生错误"
#print(mess)
#print(MAIL_SUBJECT[0])
return mess # print(query_schema_table_info())
if __name__ == '__main__':
message = MAIL_MESSAGE_BEGIN + deal() + MAIL_MESSAGE_END
sendMailTo(message)
===================
放到到服务器运行可能错误:
报错一:
UnicodeDecodeError: 'ascii' codec can't decode byte 0xe9 in position 0: ordinal not in range(128)
1、原因
因为默认情况下,Python采用的是ascii编码方式,如下所示:
python -c "import sys; print sys.getdefaultencoding()" ascii
而Python在进行编码方式之间的转换时,会将 unicode 作为“中间编码”,但 unicode 最大只有 128 那么长,所以这里当尝试将 ascii 编码字符串转换成"中间编码" unicode 时由于超出了其范围,就报出了如上错误。
2、解决办法
1)第一种:这里我们将Python的默认编码方式修改为utf-8,就可以规避上述问题的发生,具体方式,我们在Python文件的前面加上如下代码:
import sys
defaultencoding = 'utf-8'
if sys.getdefaultencoding() != defaultencoding:
reload(sys)
sys.setdefaultencoding(defaultencoding)
2)第二种:我们在/usr/lib/python2.7/site-packages/目录下添加一个sitecustomize.py文件,内容如下:
import sys sys.setdefaultencoding('utf-8')
ETL过程跑完后,使用python发送邮件的更多相关文章
- 解决 Scrapy-Redis 空跑问题,链接跑完后自动关闭爬虫
Scrapy-Redis 空跑问题,redis_key链接跑完后,自动关闭爬虫 问题:scrapy-redis框架中,reids存储的xxx:requests已经爬取完毕,但程序仍然一直运行,如何自动 ...
- Scrapy-Redis 空跑问题,redis_key链接跑完后,自动关闭爬虫
首先解决爬虫等待,不被关闭的问题: 1.scrapy内部的信号系统会在爬虫耗尽内部队列中的request时,就会触发spider_idle信号. 2.爬虫的信号管理器收到spider_idle信号后, ...
- python 发送邮件例子
想到用python发送邮件 主要是服务器 有时候会产生coredump文件 ,然后因为脚本重启原因,服务器coredump产生后会重启 但是没有主动通知开发人员 想了下可以写个脚本一旦产生cored ...
- 从工厂流水线小妹到Google上班程序媛,看完后,我跪服了!
阅读本文大概需要 10.2 分钟. 文作者:Ling Sun 原文链接:https://www.zhihu.com/question/68154951/answer/546265013 我家境很不好, ...
- python发送邮件及附件
今天给大伙说说python发送邮件,官方的多余的话自己去百度好了,还有一大堆文档说实话不到万不得已的时候一般人都不会去看,回归主题: 本人是mac如果没有按照依赖模块的请按照下面的截图安装 导入模块如 ...
- 解读Python发送邮件
解读Python发送邮件 Python发送邮件需要smtplib和email两个模块.也正是由于我们在实际工作中可以导入这些模块,才使得处理工作中的任务变得更加的简单.今天,就来好好学习一下使用Pyt ...
- iPhone不为人知的功能常用技巧,看完后才发现很多用iPhone的人实在是愧对乔布斯! - imsoft.cnblogs
很多人花了四五千买部苹果,结果只用到四五百块钱的普通手机功能. iPhone不为人知的功能,常用技巧: 网上搜集整理的iPhone快捷键操作,虽然表面上iPhone按键只有一个HOME键,大部分操作都 ...
- 利用python发送邮件
找了很多使用python发送邮件的文章, 发现写的并不是太全, 导致坑特别多, 刚把这个坑跨过去, 在此记录下来 本代码使用163作为发送客户端, 接收邮箱随意 首先登录163邮箱, 开启POP3/S ...
- ETL过程
ETL,是英文 Extract-Transform-Load 的缩写,用来描述将数据从来源端经过抽取(extract).转换(transform).加载(load)至目的端的过程.ETL一词较常用在数 ...
随机推荐
- OV摄像头图像采集基础知识总结
目前FPGA用于图像采集 传输 处理 显示应用越来越多,主要原因是图像处理领域的火热以及FPGA强大的并行处理能力.本文以OV7725为例,对摄像头使用方面的基础知识做个小的总结,为后续做个铺垫. 下 ...
- Linux 用户关联命令
在执行useradd命令创建用户时,它首先读取/etc/default/useradd文件的配置参数,然后通过这些参数来配置新创建的用户,如创建名为luser的用户. [root@rhl5 -]# u ...
- Springboot配置文件解析器
@EnableScheduling @MapperScan(value = "com.****.dao") @EnableTransactionManagement @Enable ...
- No FileSystem for scheme: hdfs问题
通过FileSystem.get(conf)初始化的时候,要通过静态加载来实现,其加载类的方法代码如下: private static FileSystem createFileSystem(URI ...
- Storm入门(三)HelloWorld示例
一.配置开发环境 storm有两种操作模式: 本地模式和远程模式.使用本地模式的时候,你可以在你的本地机器上开发测试你的topology, 一切都在你的本地机器上模拟出来; 用远程模式的时候你提交的t ...
- linux命令之:yum
yum(全称为 Yellow dog Updater, Modified)是一个在Fedora和RedHat以及SUSE中的Shell前端软件包管理器.基於RPM包管理,能够从指定的服务器自动下载RP ...
- PHP命令执行与防范
命令执行漏洞是指攻击者可以随意执行系统命令,是高危漏洞之一. 命令连接符:& && || | 如:ping www.baidu.com && ne ...
- cnblogs 支持 iframe 标签 !
bilibili 视频嵌入支持 网易云音乐支持 关注窝(求求你 ฅฅ) 这是我制作的第一个鬼畜(好傻的,视频直接录制的,进度条都录制上了,不过没关系的,反正以后也不做了(* /ω\*)) 说明 原来是 ...
- 8个Python高效数据分析的技巧
一行代码定义List 下面是使用For循环创建列表和用一行代码创建列表的对比. x = [1,2,3,4] out = [] for item in x: out.append(item**2) pr ...
- python使用http、https代理
在国内利用Python从Internet上爬取数据时,有些网站或API接口被限速或屏蔽,这时使用代理可以加速爬取过程,减少请求失败,Python程序使用代理的方法主要有以下几种: (1)如果是在代码中 ...