dapengzhao
V2EX  ›  问与答

每天大概一亿条数据,该用什么表,什么数据库比较好?

  •  
  •   dapengzhao · Oct 17, 2019 · 6045 views
    This topic created in 2579 days ago, the information mentioned may be changed or developed.

    目前用了 mongo 打算一天存一个集合,但是数据到了五千万左右的时候写入速度就很慢了,每秒几百条。

    {
        "_id" : ObjectId("5da7e7842bd2cd5578ebdf52"),
        "time" : "2019-09-01 08:01:45.899",
        "src_ip" : "59.1.1.1",
        "port" : "64466",
        "proto" : "TCP",
        "in_bytes" : "60",
        "out_bytes" : "0",
        "in_packets" : "1",
        "out_packets" : "0",
        "flows" : "1",
        "is_edu_net" : "1"
    }
    

    数据结构大概是这样,后面需要展示,就这样表格一条数据占一行,会按照 ip,端口,或者协议查询。

    19 replies  •  2019-10-18 02:28:03 +08:00
    oscer
    oscer
    Oct 17, 2019
    1
    pg?
    taotaodaddy
    taotaodaddy
    Oct 17, 2019 via Android
    2
    时序?
    mikulch
    mikulch
    Oct 17, 2019❤️1
    3
    hbase?
    atbility
    atbility
    Oct 17, 2019
    4
    elasticsearch?
    l0wkey
    l0wkey
    Oct 17, 2019
    5
    TSDB
    rrfeng
    rrfeng
    Oct 17, 2019
    6
    应该是 cache 满了,合理调整一下应该可以的。
    qiayue
    qiayue
    Oct 17, 2019
    7
    不用问,问就是时序数据库
    tt67wq
    tt67wq
    Oct 17, 2019
    8
    influxdb
    letitbesqzr
    letitbesqzr
    Oct 17, 2019
    9
    @atbility #4 elasticsearch 真的适合如此高的频率写入数据?我所了解要说写入效率,es 是常见的数据库中最慢的。
    hkitdog
    hkitdog
    Oct 17, 2019 via iPhone
    10
    Oracle
    ebingtel
    ebingtel
    Oct 17, 2019
    11
    @letitbesqzr 先写入 kafka 再写 ES
    yingsunwl
    yingsunwl
    Oct 17, 2019
    12
    clickhouse
    rockyou12
    rockyou12
    Oct 17, 2019
    13
    时序库吧,timescale,influxdb 这种,上面说 es 估计也行但性能会差些
    11ssss
    11ssss
    Oct 17, 2019
    14
    TDengine
    atbility
    atbility
    Oct 17, 2019
    15
    @letitbesqzr es 挺快的啊,上次我整了 10 个亿的数据,9 台服务器,速度杠杠滴
    zxc111
    zxc111
    Oct 17, 2019
    16
    clickhouse+1
    wangxiaoaer
    wangxiaoaer
    Oct 17, 2019
    17
    TSDB 性能如何啊,看这个文章好像很差啊。

    https://zhuanlan.zhihu.com/p/56982951

    但是基于 pg,这个点让人爱不释手。
    Pythondr
    Pythondr
    Oct 18, 2019 via Android
    18
    这种数据,明显时序数据库
    Samuelcc
    Samuelcc
    Oct 18, 2019 via Android
    19
    hbase
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1614 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 51ms · UTC 13:44 · PVG 21:44 · LAX 05:44 · JFK 08:44
    ♥ Do have faith in what you're doing.