hugee
V2EX  ›  PHP

PHP 高并发 统计网页点击次数

  •  
  •   hugee · Mar 2, 2019 · 9433 views
    This topic created in 2805 days ago, the information mentioned may be changed or developed.

    一般的方法是: "UPDATE base SET hits = hits+1 WHERE id = '$id'";

    一般的访问量都没什么问题,但高并发的情况下怎么做? 有什么好的方法可以实现,降低数据库的读写?

    39 replies  •  2019-03-05 16:52:34 +08:00
    yuikns
    yuikns
    Mar 2, 2019
    1
    stabc
    stabc
    Mar 2, 2019
    2
    首推 redis。非要放在 SQL 里的话,如果真的达到高并发,可以用个 random,随机每 10 次写入一次数据库,每次加 10。
    hilbertz
    hilbertz
    Mar 2, 2019
    3
    限制数据库的写入频率,比如说在每个节点上,每隔 10s 才把 hits 写入数据库
    hugee
    hugee
    OP
    Mar 2, 2019 via Android
    4
    @stabc @yuikns 谢谢,用 redis 防止频繁读取数据库这个我知道,但隔一段时间由 redis 写到数据库还没弄过。
    还有,假如 id 为 233 的页面在某一个时间点后再也没人访问了,那缓存内的数据岂不是写不进数据库了?
    KasuganoSoras
    KasuganoSoras
    Mar 2, 2019
    5
    PHP 搞个队列系统就好了
    SQL 语句丢过去,异步执行
    ichou
    ichou
    Mar 2, 2019 via iPhone
    6
    队列
    zjsxwc
    zjsxwc
    Mar 2, 2019
    7
    用 nginx 的话,lua 有个接口叫做:`ngx.shared.stats:incr()` 可以直接用
    gouchaoer
    gouchaoer
    Mar 2, 2019 via Android
    8
    在 fpm 里面用 apcu 统计,然后每隔一段时间从 apcu 往数据库写,由于 apcu 在同一台主机上所以不同的 fpm 的时间戳是一样的。比如存 hits 变量,每次访问 apcu_incr 一下 hits,然后去检查 hits_timestamp 是否大于 60s,大于了的话就去 apcu
    gouchaoer
    gouchaoer
    Mar 2, 2019 via Android❤️2
    9
    在 fpm 里面用 apcu 统计,然后每隔一段时间从 apcu 往数据库写,由于 apcu 在同一台主机上所以不同的 fpm 的时间戳是一样的。比如存 hits 变量,每次访问 apcu_incr 一下 hits,然后去 apcu_add 检查 hits_lock 变量来实现锁的更新数据库逻辑,ttl 参数就是每隔多长时间往数据库里面刷

    在 fpm 里面的话,我有自信这个是最优方案,连 Redis 走 tcp 有 io 的,这个没 io
    gouchaoer
    gouchaoer
    Mar 2, 2019 via Android❤️3
    10
    用队列不觉得扯么?你在 fpm 里面往队列写是不是有 io,然后这个队列还只是 incr 一下数据库一个字段。。。稍微靠谱一点的是直接发 udp 发完就走,不过还得写个接受 udp 的 server 太麻烦了
    Maboroshii
    Maboroshii
    Mar 2, 2019 via Android
    11
    进程同步,linux 不是有文件锁么。不知在 php 上是否可行
    lestat
    lestat
    Mar 2, 2019 via Android
    12
    我这边的实现是:redis 设置一个 key,每次访问+1,在后台开一个定时任务,每隔一定时间批量写入一次数据库,然后清空 key
    gouchaoer
    gouchaoer
    Mar 2, 2019 via Android
    13
    不可以用文件锁,此外往 Redis incr 一个 key 的方案,然后后台开 cron 运维麻烦一点,觉得麻烦可以用 Redis 的 add expire 机制来把更新到数据库逻辑写到业务逻辑里
    loveCoding
    loveCoding
    Mar 2, 2019
    14
    放队列 , 批量获取,合并更新
    dawniii
    dawniii
    Mar 2, 2019
    15
    @gouchaoer redis + cron 算是很简单的了。使用队列也还不错,因为往往不只是一个简单的+1 的操作,虽然有 io,但也是为了访问数据库削峰。您说的 udp 还是不建议的,毕竟可靠性要比其他方案低,之前听人说 udp 本机丢包都不稀奇。apcu 这种假如有 10w 个文章,是需要 10w 个 key 来计数吗? redis 的话用一个 hash 结构的 key 就够了,假如一篇文章被访问几次,然后长期不被访问,岂不是计数一直落不了库了,然后 fpm 重启这些计数都会丢失。
    skymei
    skymei
    Mar 2, 2019
    16
    不去重去 redis 的 string,hash 即可,要去重用 hyperloglog,redis 是单线程的,不会出现并发的问题
    leis1015
    leis1015
    Mar 2, 2019 via iPhone❤️1
    17
    也可以用第三方的啊,挂个 js 就行了,还能很方便的查看数据

    百度腾讯都有…
    penghong
    penghong
    Mar 2, 2019
    18
    hyperloglog
    bokchoys
    bokchoys
    Mar 2, 2019 via iPhone
    19
    我发现,我之前思考的问题,在 v 站都会出现🤔
    ibegyourpardon
    ibegyourpardon
    Mar 2, 2019
    20
    朋友,我觉得真的高并发的话,可能你的问题首先不是出在 MySQL 上,而是 php-fpm 上……

    当然我不知道你怎么部署的,如果真的若干机器堆住,一般 hold 住也没问题,当然真是这样的话那 Redis 啥的也不算事了。

    毕竟不知道你的高并发首先有多高 - -#
    goodspb
    goodspb
    Mar 2, 2019
    21
    收钱你要确定一下“高并发”的定义哦,如果是 2K 以下的 QPS,mysql 读写分离想怎么玩怎么玩~
    goodspb
    goodspb
    Mar 2, 2019
    22
    @goodspb 首先
    chinvo
    chinvo
    Mar 2, 2019 via iPhone
    23
    @leis1015 #16 第三方可能被投毒,比如某大炮
    mrdemonson
    mrdemonson
    Mar 2, 2019 via Android
    24
    高并发统计直接上数据库不好吧,应该在进数据库之前完成“高并发”,数据库只是记录最终值,过程要由上一层完成
    t6attack
    t6attack
    Mar 2, 2019
    25
    宗旨就是:尽量在内存中进行。具体实现方式,有内存数据库、缓存系统等。
    还有其他姿势,比如在临时文件中计数,文件放进 /dev/shm 目录。每隔一段时间写一次数据库。
    Joyboo
    Joyboo
    Mar 2, 2019
    26
    redis+woker 异步
    liuguang
    liuguang
    Mar 2, 2019
    27
    redis incr 命令
    hxt
    hxt
    Mar 2, 2019
    28
    先用 redis 或 memcache 计数,然后计数合并,定期同步到数据库。
    z5864703
    z5864703
    Mar 2, 2019
    29
    用 Redis 实现自增和存储,如果有需要定时同步到 Mysql。
    但其实可以直接用 Redis 存储就好了,没必要再同步到 Mysql,本身 Redis 就是一个数据库,比如要查询点击次数,直接查 Redis 对应 key 就好了。
    whatsmyip
    whatsmyip
    Mar 2, 2019
    30
    azh7138m
    azh7138m
    Mar 2, 2019 via Android
    31
    @dawniii 秀啊,这种不应该阻塞主流程的统计,我一个请求超时了咋整,万一全部超时了咋整?
    opengps
    opengps
    Mar 2, 2019
    32
    存入缓存里,定时写入到数据库
    jzmws
    jzmws
    Mar 2, 2019
    33
    这个肯定要保存在缓存中,隔一段事件写入库中.一直写库库也是吃不消的
    KasuganoSoras
    KasuganoSoras
    Mar 2, 2019
    34
    https://github.com/kasuganosoras/SomeCodes/blob/master/v2ex_540212_client.php
    https://github.com/kasuganosoras/SomeCodes/blob/master/v2ex_540212_server.php

    Client 是客户端,嵌入在你的网站里,访问一次就执行一下
    Server 是服务端,用命令行运行即可,然后它会每 60s 写入一次数据库
    需要 Swoole 才能运行服务端

    别总扯理论扯概念,拿出代码来
    Talk is cheap, I show you the code.
    KasuganoSoras
    KasuganoSoras
    Mar 2, 2019
    35
    上面这个 demo,高并发应该是没问题的,要挂也是 php-fpm 先挂掉
    不过高并发场景我一般选择 OpenLiteSpeed
    hefish
    hefish
    Mar 2, 2019
    36
    肯定是用缓存啊。 先记录在缓存里,然后满到一定次数再写入数据库。。
    队列的同学,不是不可以,有些折腾了。
    缓存可以用文件,apcu,也可以 memcached, redis。
    hugee
    hugee
    OP
    Mar 3, 2019
    37
    @KasuganoSoras 赞,感谢哥!
    qsbaq
    qsbaq
    Mar 5, 2019
    38
    你把 IP 什么的都记录到数据库另外的表里,然后 cron 定期统计出来再 update 这个 hits。
    qsbaq
    qsbaq
    Mar 5, 2019
    39
    当然用 redis 记录这些信息也行。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1699 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 71ms · UTC 23:46 · PVG 07:46 · LAX 15:46 · JFK 18:46
    ♥ Do have faith in what you're doing.