一张 mysql 主表有三千万数据量,这才刚开始,后期数据量会更多,v 友有什么建议吗
一张 mysql 主表有三千万数据量,这才刚开始,后期数据量会更多,v 友有什么建议吗
|
guokekeJul 1, 2019
1
你预期后期数据量每天什么规模?
|
|
guokekeJul 1, 2019
2
以及说下业务呗
|
|
mokeyjayJul 1, 2019
3
无非是分库分表、或者上非关系型
|
|
5
公司有人提到要用 ES
|
|
tt67wqJul 1, 2019
6
删苦跑路吧!!!
|
|
swullingJul 1, 2019 via iPhone
7
三天这个量,只能放弃关系数据库了
|
|
gaoyulongJul 1, 2019
9
看业务啊,不说具体要求就是耍流氓
|
|
txy3000Jul 1, 2019 via Android
10
以后还会有每天 1000w 的增量吗? 会的话索引更新很频繁 单机承载不了的 上分布式吧 sharding 负载均衡那一套
如果查询还多 Redis 也得上 缓存热点数据 减轻数据库 IO 如果并发还高 建议上消息队列 异步插入 |
|
neptunoJul 1, 2019
11
是不是表设计有问题?
|
|
SolarestJul 1, 2019
12
热数据分库分表,冷数据进数仓
|
|
icekingcyJul 1, 2019 via iPhone
13
就是些流水数据吧? 换 ES 吧
|
|
14
感觉 DBA 有点水,字段大小随意设
|
|
simple2025Jul 1, 2019 via Android
15
一天 1kw 的数据公司应该很有钱
|
|
rrfengJul 1, 2019
16
单表十二亿路过
|
|
rb6221Jul 1, 2019
17
这个增量速度,怕是需要搞冷热分库吧
你千万级别用作数据展示 都放出来?不太可能吧,最多就是把计算结果再存一个表而已。计算任务应该是定时跑的,这个不需要多高的实时性 |
|
18
持续增长,上 tidb 得了。
|
|
airflingJul 1, 2019 via Android
19
上 es 吧,一天几个 g 的数据都不怕,反正你也只是展示数据,es 分好索引完全没问题
|
|
TakamineJul 1, 2019 via Android
20
ETL。(。ò ∀ ó。)
|
|
watsy0007Jul 2, 2019
21
tsdb 了解下.
|
|
ETiVJul 2, 2019
22
#17 +1
5 年前供职的公司就是这种情况: MySQL、每天一个表,每天一千万行数据,遇到推广可能两三千万,收集客户端上报的数据 每天零点过就把线上数据拉下来算一下当天的新增、日活这些指标 同时客户端还会冗余的向百度统计上报数据,作为一种参考手段 |
|
ihipopJul 2, 2019 via Android
23
用 tidb,告别分库分表
|
|
jaskleJul 2, 2019 via Android
24
一个字:删
|
|
feiyunruyueJul 2, 2019
25
Tidb 搞起吧,兼容 mysql
|
|
chaleaochexistJul 2, 2019
26
妥妥大数据.具体用啥咱也不懂.
好像 ES 是最简单的. |
|
opengpsJul 2, 2019
27
挺好,能遇到这类问题真的可以快速提升自己的架构水平
|
|
AresxueJul 2, 2019
28
我们公司用的是 ES,算是比较简单粗暴的做法吧。我很羡慕这样的机会。
|
|
alpha2016Jul 2, 2019
29
es 吧,我知道个 mysql 到了瓶颈,然后上 es 的
|
|
HunterPanJul 2, 2019
30
类似的日志数据 就不需要 mysql 了
|
|
laojiaqingJul 2, 2019
31
@icekingcy 请问下 es 是什么
|
|
fengxianqiJul 2, 2019
32
@laojiaqing #31 我一个前端,猜一下是指 Elastic Search
|
|
sujin190Jul 2, 2019
33
@ETiV #22 如果纯统计数据完全没必要落数据库吧,直接队列,实时计算,之后文本存储就行了,写入速度快性能好,就算之后有其他统计需求,读文本也比读 mysql 快多了
|
|
tiedanJul 2, 2019
34
直接每天一张表即可
|
|
salamanderMHJul 2, 2019
35
如果可以,试试 tidb
|
|
chrisliu1314Jul 2, 2019 via iPhone
36
不知道是什么业务场景,无法分析。
分布式数据库 tidb,可以了解一下,没用过。 如果是数据分析的话,那就用 hive 表。 |
|
ducklylJul 2, 2019
37
要求加薪,然后,就有解决方案了
|
|
PerpetualHengJul 2, 2019
38
数据量大,增长慢,用分库分表。
你这是数据量已经大了,但是增量也大,后面无法预估,传统 db 已经不能解决了。 搜索引擎(ES),或者 HBase。 |
|
kim01Jul 2, 2019
39
mongo 数据库,一天 8000W+数据。搞了一伙按月分表按小时存,简直就是洒洒水一个月也就 5000W+左右了
|
|
linxiaoziruoJul 2, 2019
40
如果坚持使用 MySQL 的话,建议了解一下 MySQL 的分区功能,专做历史数据处理的。如果用 mongo 的话,建议了解一下 mongo 的分片功能,专做大数据的,如果是 es 的话,如果只做统计,建议使用,如果频繁增删改查,我建议不要用 es,会有很多数据不一致的坑出现。
|
|
xzc19970719Jul 2, 2019
41
鹰角??
|
|
esliznJul 2, 2019
42
@linxiaoziruo mysql 的分区很坑的,首先你也必须用到分区的 key 才能高效,另外线上涉及 ddl 操作简直是噩梦
|
|
whp1473Jul 2, 2019
44
ES 是 Nosql,非结构化的数据,可以按照天建立 Index 索引,然后区分冷热数据,时间久的归冷数据。
Mysql 分库分库可以用 tidb(没用过,不知道什么情况),mycat(有坑,左连接这种需要提前指定,没法自由,还有事务不支持其他还可以) |
|
PhAJul 3, 2019 via Android
45
结构数据换 PostgreSQL,还支持时序
|
|
v2exe2vJul 3, 2019
46
DolphinDB 了解一下
|