MatthewHan
V2EX  ›  Java

用 kafka 设计一个任务调度方案

  •  
  •   MatthewHan · Aug 23, 2019 · 6776 views
    This topic created in 2644 days ago, the information mentioned may be changed or developed.

    这周领导交代了一个任务,关于我们平台智能化工具多租户调用需要设计一个任务调度平台,该平台满足以下特点:

    1.多个智能化工具还未部署,工具处理量有限,最基本的异步排队消息队列,支持任务阻塞; 2.优先级调用,不同租户下用户调用智能化工具的优先级不同,先排队的任务可能会被后进的任务插队(未细化); 3.任务处理消息结果反馈与查询; 4.....

    本人没有在实际的互联网或者软件公司实习、工作过,在这部分没有什么经验,正处于一个学习中的小白,请教一下大家有没有比较优雅的方案,或者说能够给点建议和观点谢谢,用 kafka 实现是否能够完全满足目前以及今后的需求?

    15 replies  •  2019-08-24 17:31:47 +08:00
    MatthewHan
    MatthewHan
    OP
    Aug 23, 2019
    1
    😢
    wysnylc
    wysnylc
    Aug 23, 2019
    2
    xxl-job 一个成熟的分布式任务调度平台
    wysnylc
    wysnylc
    Aug 23, 2019
    3
    等等,你这个不是用框架能解决的,这是业务需求!
    autogen
    autogen
    Aug 23, 2019
    4
    这个一般都是塞 DB,再用另一个程序查 DB 做任务
    caoyouming
    caoyouming
    Aug 23, 2019
    5
    airflow 分布式任务调度系统了解一下?
    lhx2008
    lhx2008
    Aug 23, 2019 via Android
    6
    塞 DB+死循环就行,没有那么复杂
    Takamine
    Takamine
    Aug 23, 2019 via Android
    7
    你们是要做一个平台,Kafka 只是一个中间件,这是是两个概念吧。
    luozic
    luozic
    Aug 23, 2019
    8
    kafka 是一个消息队列,调度之后的消息处理倒是可以扔给 kafka,前面的调度还是得你自己搞
    jswh
    jswh
    Aug 23, 2019
    9
    你这是业务需求 + 1
    kafka 这种只是消息队列,不会管到这么细致的。
    EastLord
    EastLord
    Aug 23, 2019
    10
    azkaban?
    MatthewHan
    MatthewHan
    OP
    Aug 23, 2019
    11
    @lhx2008 这样对资源的消耗怎么样?
    jsnjfz
    jsnjfz
    Aug 23, 2019
    12
    没有开发经验。。。只能求助外力了吧
    wind3110991
    wind3110991
    Aug 23, 2019❤️1
    13
    楼上很多答非所问,你这个用 kafka 或者 redis 调度都是可以的,就是抽象成一个生产者消费者模型就好。
    kafka 消息队列中间件最大的好处,就是可以解耦复杂系统之间的依赖关系,
    设计多个 Topic,用来存放不同优先级的消息,消费者端优先处理高优先级 topic 即可,你这个都不需要保证消息先后顺序。
    消息处理后的结果,看数量级是否巨大,较小百万以下,直接 Mysql 分表搞定,千万上亿量级用 Hbase 或者 ES 来存储和查询,涉及分布式计算协同和汇总结果的,考虑用 kafka stream 或者 flink 方案。
    reus
    reus
    Aug 24, 2019
    14
    向你领导提一个建议,招一个专业人士来做专业的工作
    luozic
    luozic
    Aug 24, 2019
    15
    锤子的确可以通过别的方式模拟别的东西,但是啥都用锤子 mock,请问啥叫 DDD。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2045 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 43ms · UTC 14:58 · PVG 22:58 · LAX 06:58 · JFK 09:58
    ♥ Do have faith in what you're doing.