celery timeout的拦截

0X01 场景

celery任务超时报错，想查看是传入哪一类数据运行时导致的超时（哪一个插件），但是该报错难以拦截。

[2019-06-30 17:23:21,070: ERROR/MainProcess] Task tasks.sum[8c81398b-4378-401d-a674-a3bd3418ccde] raised unexpected: TimeLimitExceeded(5.0,)
Traceback (most recent call last):
  File "/home/apernin/.virtualenvs/dr/local/lib/python2.7/site-packages/billiard/pool.py", line 645, in on_hard_timeout
    raise TimeLimitExceeded(job._timeout)
TimeLimitExceeded: TimeLimitExceeded(5.0,)

该超时报错属于celery worker(MainProcess)调用时超时的报错，无法在任务中拦截。

0X02 方法

一

使用 soft_time_limit参数。

time_limit参数超时直接kill掉；

soft_time_limit参数超时时会报错而不会kill，可以捕获。

@app.task(name='tasks.main', bind=True, soft_time_limit=2, errback=error_fun)
def task_main(self, param):
    try:
        time.sleep(10)
    except SoftTimeLimitExceeded as e:
        print e

但是存在问题，windows下似乎无法使用soft_time_limit参数

二

把uuid以及相关信息在任务运行时都打印出来。

报错时会显示uuid。

短暂地拦截日志，再通过uuid关联，获取超时任务的信息。

bind将任务也绑定进来，可以通过self获取任务的相关信息。

@app.task(name='tasks.main', bind=True)
def task_main(self, param):
    print str(self.request.id) + param

https://stackoverflow.com/questions/56819470/retrieving-celery-task-kwargs-from-task-failed-uuid?r=SearchResults

文中有事件监听的思路