推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
xinali
V2EX  ›  Python

python rq 的这个库,可以用于分布式吗?

  •  
  •   xinali · Jul 29, 2016 · 3696 views
    This topic created in 3758 days ago, the information mentioned may be changed or developed.

    github

    查了很多资料,中文资料基本都说可以,但是英文资料基本没有出现过,其可以用作分布式队列处理。即使官方给出的 docs 上也没有说过, v2 上有用过它作分布式处理的吗?

    分布式处理要求也就一个 master 进行 enqueue ,多个 worker(多个主机 /ip)进行 dequeue

    如果这个不行的话,有什么好用的比较好的分布式处理框架吗?

    6 replies  •  2016-07-31 01:58:42 +08:00
    linnchord
    linnchord
    Jul 29, 2016
    1
    不能吧,至少官方没有提供。

    这个库设计目的就是最简化队列功能,需要分布式建议 celery 。
    wuxqing
    wuxqing
    Jul 30, 2016
    2
    可以,你看他自带的例子:
    https://github.com/nvie/rq/tree/master/examples

    run_worker.py 可以运行在多台主机上
    R4rvZ6agNVWr56V0
    R4rvZ6agNVWr56V0
    Jul 30, 2016
    3
    只能应付简单的异步计算需求而已。复杂的分布式计算不是很靠谱(因为 rq 实在是太简单了,个人认为它缺少资源调度、稳定性保障和监控机制),而且对中文支持有 bug ,提交过 patch 忘记作者合了没有。
    petelin
    petelin
    Jul 30, 2016 via Android
    4
    跑肯定能跑,你在本地启动 worker 的时候跟在不在一台机器上有关系?指定 redis 地址就得了。
    xinali
    xinali
    OP
    Jul 31, 2016 via Android
    5
    @GeekGao 你有什么好的分布式方案吗?
    R4rvZ6agNVWr56V0
    R4rvZ6agNVWr56V0
    Jul 31, 2016
    6
    @xinali Celery+Flower
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   3701 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 01:02 · PVG 09:02 · LAX 17:02 · JFK 20:02
    ♥ Do have faith in what you're doing.