我想问一下 我的 airflow 中的任务总是积压，也就是一直显示 running 中，重启之后 又好了，然后过一段时间又积压， 想请教一下 造成任务积压 有哪些原因呢？ 任务觉得也不是太多 也就几十个 DAG
推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
This topic created in 2275 days ago, the information mentioned may be changed or developed.
 |
brickxuAug 11, 2020
1
worker 的并行度，以及 pool 的大小。UI 上可以看到这些信息，看看是堵哪里了。
|
 |
diggzhangAug 11, 2020
2
一般遇到“积压”的 web ui 呈现任务状态为灰色。
1. 检查是不是 sensor 太多了，抢占了资源 2. 扩并行度，是个配置参数，把值调大 3. 合理规划任务依赖，尽量不要发生跨 dag 依赖，可能发生乐观锁问题 |
 |
caoyoumingAug 11, 2020
3
看下卡住的任务的上游日志，如果是因为并行度的原因。在日志中都能找到对应的提示信息的。我之前也遇到过，后来调整了一些参数 OK 了
|
 |
vippppppAug 11, 2020
4
同一时间执行的数量超过 worker 数量？或者超过 dag 的数量？
|
 |
troywinterAug 12, 2020
5
cpu 够用就直接扩大并行度，另外你的 executor 确认是不是 local，不要用 sequential
|
Select Language