• 请不要在回答技术问题时复制粘贴 AI 生成的内容
v2eb
V2EX  ›  程序员

公司的数据量越来越大了

  •  1
     
  •   v2eb · Jul 1, 2019 · 10859 views
    This topic created in 2683 days ago, the information mentioned may be changed or developed.

    一张 mysql 主表有三千万数据量,这才刚开始,后期数据量会更多,v 友有什么建议吗

    46 replies  •  2019-07-03 09:40:08 +08:00
    guokeke
    guokeke
    Jul 1, 2019
    1
    你预期后期数据量每天什么规模?
    guokeke
    guokeke
    Jul 1, 2019
    2
    以及说下业务呗
    mokeyjay
    mokeyjay
    Jul 1, 2019
    3
    无非是分库分表、或者上非关系型
    v2eb
    v2eb
    OP
    Jul 1, 2019
    4
    @guokeke 三天从 500 万到 3 千万,
    目前只是做普通的数据展示,
    以后可能会有数据分析啥的,咱也不懂
    v2eb
    v2eb
    OP
    Jul 1, 2019
    5
    公司有人提到要用 ES
    tt67wq
    tt67wq
    Jul 1, 2019
    6
    删苦跑路吧!!!
    swulling
    swulling
    Jul 1, 2019 via iPhone
    7
    三天这个量,只能放弃关系数据库了
    guokeke
    guokeke
    Jul 1, 2019
    8
    @v2eb 如果数据有时间相关性可以按照天或者月分表,无时间相关就要根据业务来分析了,粗暴点可以按照常用查询的列的值的 hash 进行分表。
    gaoyulong
    gaoyulong
    Jul 1, 2019
    9
    看业务啊,不说具体要求就是耍流氓
    txy3000
    txy3000
    Jul 1, 2019 via Android
    10
    以后还会有每天 1000w 的增量吗? 会的话索引更新很频繁 单机承载不了的 上分布式吧 sharding 负载均衡那一套
    如果查询还多 Redis 也得上 缓存热点数据 减轻数据库 IO
    如果并发还高 建议上消息队列 异步插入
    neptuno
    neptuno
    Jul 1, 2019
    11
    是不是表设计有问题?
    Solarest
    Solarest
    Jul 1, 2019
    12
    热数据分库分表,冷数据进数仓
    icekingcy
    icekingcy
    Jul 1, 2019 via iPhone
    13
    就是些流水数据吧? 换 ES 吧
    v2eb
    v2eb
    OP
    Jul 1, 2019
    14
    感觉 DBA 有点水,字段大小随意设
    simple2025
    simple2025
    Jul 1, 2019 via Android
    15
    一天 1kw 的数据公司应该很有钱
    rrfeng
    rrfeng
    Jul 1, 2019
    16
    单表十二亿路过
    rb6221
    rb6221
    Jul 1, 2019
    17
    这个增量速度,怕是需要搞冷热分库吧
    你千万级别用作数据展示 都放出来?不太可能吧,最多就是把计算结果再存一个表而已。计算任务应该是定时跑的,这个不需要多高的实时性
    vZexc0m
    vZexc0m
    Jul 1, 2019 via Android❤️1
    18
    持续增长,上 tidb 得了。
    airfling
    airfling
    Jul 1, 2019 via Android
    19
    上 es 吧,一天几个 g 的数据都不怕,反正你也只是展示数据,es 分好索引完全没问题
    Takamine
    Takamine
    Jul 1, 2019 via Android
    20
    ETL。(。ò ∀ ó。)
    watsy0007
    watsy0007
    Jul 2, 2019
    21
    tsdb 了解下.
    ETiV
    ETiV
    Jul 2, 2019
    22
    #17 +1

    5 年前供职的公司就是这种情况:
    MySQL、每天一个表,每天一千万行数据,遇到推广可能两三千万,收集客户端上报的数据
    每天零点过就把线上数据拉下来算一下当天的新增、日活这些指标
    同时客户端还会冗余的向百度统计上报数据,作为一种参考手段
    ihipop
    ihipop
    Jul 2, 2019 via Android
    23
    用 tidb,告别分库分表
    jaskle
    jaskle
    Jul 2, 2019 via Android
    24
    一个字:删
    feiyunruyue
    feiyunruyue
    Jul 2, 2019
    25
    Tidb 搞起吧,兼容 mysql
    chaleaochexist
    chaleaochexist
    Jul 2, 2019
    26
    妥妥大数据.具体用啥咱也不懂.
    好像 ES 是最简单的.
    opengps
    opengps
    Jul 2, 2019
    27
    挺好,能遇到这类问题真的可以快速提升自己的架构水平
    Aresxue
    Aresxue
    Jul 2, 2019
    28
    我们公司用的是 ES,算是比较简单粗暴的做法吧。我很羡慕这样的机会。
    alpha2016
    alpha2016
    Jul 2, 2019
    29
    es 吧,我知道个 mysql 到了瓶颈,然后上 es 的
    HunterPan
    HunterPan
    Jul 2, 2019
    30
    类似的日志数据 就不需要 mysql 了
    laojiaqing
    laojiaqing
    Jul 2, 2019
    31
    @icekingcy 请问下 es 是什么
    fengxianqi
    fengxianqi
    Jul 2, 2019
    32
    @laojiaqing #31 我一个前端,猜一下是指 Elastic Search
    sujin190
    sujin190
    Jul 2, 2019
    33
    @ETiV #22 如果纯统计数据完全没必要落数据库吧,直接队列,实时计算,之后文本存储就行了,写入速度快性能好,就算之后有其他统计需求,读文本也比读 mysql 快多了
    tiedan
    tiedan
    Jul 2, 2019
    34
    直接每天一张表即可
    salamanderMH
    salamanderMH
    Jul 2, 2019
    35
    如果可以,试试 tidb
    chrisliu1314
    chrisliu1314
    Jul 2, 2019 via iPhone
    36
    不知道是什么业务场景,无法分析。
    分布式数据库 tidb,可以了解一下,没用过。
    如果是数据分析的话,那就用 hive 表。
    ducklyl
    ducklyl
    Jul 2, 2019
    37
    要求加薪,然后,就有解决方案了
    PerpetualHeng
    PerpetualHeng
    Jul 2, 2019
    38
    数据量大,增长慢,用分库分表。
    你这是数据量已经大了,但是增量也大,后面无法预估,传统 db 已经不能解决了。
    搜索引擎(ES),或者 HBase。
    kim01
    kim01
    Jul 2, 2019
    39
    mongo 数据库,一天 8000W+数据。搞了一伙按月分表按小时存,简直就是洒洒水一个月也就 5000W+左右了
    linxiaoziruo
    linxiaoziruo
    Jul 2, 2019
    40
    如果坚持使用 MySQL 的话,建议了解一下 MySQL 的分区功能,专做历史数据处理的。如果用 mongo 的话,建议了解一下 mongo 的分片功能,专做大数据的,如果是 es 的话,如果只做统计,建议使用,如果频繁增删改查,我建议不要用 es,会有很多数据不一致的坑出现。
    xzc19970719
    xzc19970719
    Jul 2, 2019
    41
    鹰角??
    eslizn
    eslizn
    Jul 2, 2019
    42
    @linxiaoziruo mysql 的分区很坑的,首先你也必须用到分区的 key 才能高效,另外线上涉及 ddl 操作简直是噩梦
    rogwan
    rogwan
    Jul 2, 2019 via Android
    43
    @rrfeng 单表 12 亿,这数据库什么配置?
    whp1473
    whp1473
    Jul 2, 2019
    44
    ES 是 Nosql,非结构化的数据,可以按照天建立 Index 索引,然后区分冷热数据,时间久的归冷数据。
    Mysql 分库分库可以用 tidb(没用过,不知道什么情况),mycat(有坑,左连接这种需要提前指定,没法自由,还有事务不支持其他还可以)
    PhA
    PhA
    Jul 3, 2019 via Android
    45
    结构数据换 PostgreSQL,还支持时序
    v2exe2v
    v2exe2v
    Jul 3, 2019
    46
    DolphinDB 了解一下
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1433 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 83ms · UTC 19:48 · PVG 03:48 · LAX 11:48 · JFK 14:48
    ♥ Do have faith in what you're doing.