数据转发中心高并发访问次数统计(mysql实现)

现在要达到一个需求,做日访问量统计和月访问量统计查询速度要在毫秒级。以前的全表查询就不适用了。

为了达到毫秒级的统计速度,需要新建了一张调用次数统计表。字段如下: day,主键,保存当前的日期,使用data属性值,以天为单位进行分组。 slot,主键,保存当前的位置,用于并发插入时随机产生位置信息。 cnt,访问次数。 插入时执行语句如下:

INSERT INTO day_hit(day,slot,cnt) VALUES(CURRENT_DATE(),RAND() * 100 ,1) ON DUPLICATE key UPDATE cnt = cnt + 1

向mysql写入数据时,先随机生成位置(slot)主键的值(0-100),如果存在该主键就将访问次数(cnt)+1,不存在就插入一条数据,cnt设为1。这样是避免因为频繁修改一条字段造成的串行执行降低执行速度。

查询当日数据语句如下:

select SUM(cnt) from day_hit GROUP BY day HAVING day = CURRENT_DATE()

第二天把前一天保存的数据进行汇总,只保留一行数据。

UPDATE day_hit AS a
INNER JOIN (
    SELECT
        DAY,
        SUM(cnt) AS cnt,
        MIN(slot) AS mslot
    FROM
        day_hit
    GROUP BY
        DAY
    HAVING
        DAY = CURDATE()-1
) AS b USING (DAY)
SET a.cnt =
IF (a.slot = b.mslot, b.cnt, 0),
 a.slot =
IF (a.slot = b.mslot, 0, a.slot);
DELETE FROM day_hit where slot <> 0 and cnt = 0;

为了方便,将上述代码设置成定时任务,每天三点进行数据汇总清洗。先将代码改为存储过程,方便调用。

CREATE PROCEDURE p_day_hit_collect ()
BEGIN
    UPDATE day_hit AS a
INNER JOIN (
    SELECT
        DAY,
        SUM(cnt) AS cnt,
        MIN(slot) AS mslot
    FROM
        day_hit
    GROUP BY
        DAY
    HAVING
        DAY = CURDATE()
) AS b USING (DAY)
SET a.cnt =
IF (a.slot = b.mslot, b.cnt, 0),
 a.slot =
IF (a.slot = b.mslot, 0, a.slot);

DELETE
FROM
    day_hit
WHERE
    slot <> 0
AND cnt = 0;
END;

再创建定时任务,每天凌晨三点汇总前一天的数据。 开启定时任务:SET GLOBAL event_scheduler = 1; 查询定时任务:SHOW VARIABLES LIKE event_scheduler 创建定时任务:

CREATE EVENT e_day_hit_collect 
ON SCHEDULE EVERY 1 DAY STARTS DATE_ADD(
  DATE(CURRENT_DATE() + 1),
  INTERVAL 3 HOUR
) DO CALL p_day_hit_collect()

以上部分参照于《高性能mysql》

经验分享 程序员 微信小程序 职场和发展