3

请求一下子太多了,数据库危 - 七淅在学Java

 1 year ago
source link: https://www.cnblogs.com/czd-xi/p/16415804.html
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

大家好,我是七淅(xī)。

如标题所说,和大家分享一个我曾优化过的业务场景。

当然,具体业务细节不重要,重要的是优化的思路。如果大家以后有遇到类似特点的场景,能够想到七淅这篇优化文章,那我就觉得很值了。

接下来我就直接进入主题,要分享得优化思路就是请求合并

弱弱说一句,由于优化效果特别明显,这一优化我直接写到简历上了。

之前面试有不少面试官都会来问我是怎么做的,你看这不就给我机会发挥了吗?所以大家懂的,有合适场景记得用起来,以后面试也和面试官谈笑风生。

1. 什么是请求合并

首先说明一下,这并不是什么高级的优化方式,不难,朴实无华,但有用。

如字面意思,就是(把多个)请求合并(成一个请求去处理)。

现在含义你知道了,现在我们看下文章标题:「请求一下子太多了,数据库危」

聪明的你是不是已经猜到七淅要怎么优化了?

2. 业务背景

我有一个推送业务,会把每次推送记录都存到 MongoDB 中。

PS:不用在意是 MongoDB 哈,可能有的读者可能没接触过,没关系。反正它也是一个数据库,就算换成 MySQL,优化一样适用哈

而推送业务一个非常常见的场景就是定时发送消息给用户,所以到点之后对应的每秒写请求就特别高。

当初我这边是有 8000 的每秒写入量,后面通过请求合并优化到每秒写 500。

3. 优化实现

现在问题来了,具体怎么实现的呢?

理清有 3 个小点就好了,我们顺着思路理一下:

1、首先,既然我们需要把多个请求合成一个,是不是需要有一个地方把这多个请求给存起来?

存数据的话,是不是就可以用数据库、缓存、队列了。如下图:

1533381-20220627133008948-562853142.jpg

好了,现在数据存起来了,不可能一直存着吧,一直存着不处理,岂不是就是不处理请求了,那这肯定不对。

2、所以我们是不是就需要知道,什么时候要处理存起来的数据?

「什么时候」—— 用定时任务每隔多久取出来处理是不是就可以,或者当存够多少数据量的时候,我们就集中处理。

我这里的业务是用的定时任务来做的,那关于定时任务的实现也有多种方式。

我这里是用的定时线程池,每隔 xx 秒,取 500 个请求进行处理。这里你发现没有,优化后的效果就是每秒写 500,这个 500 就是这里每次取得请求量来的。

所以说,优化效果要多少的处理量都是我们自己决定的。当然了,因为请求总量是不变得,所以每秒处理量越少,对应处理时间就越长。具体是什么数字,这个就看具体业务啦

3、最后一点,多个请求存起来了,也知道什么时机去处理,那这个「处理」是怎么处理呢?

答案很简单,把多个单次操作换成批量操作。比如数据库批量插入,redis 的 mset。

以上 3 点,给大家整理个流程图:

1533381-20220627132943475-1194330861.png

4. 适用场景

最后,上面得优化姿势学废后,那什么业务场景可以用呢?

其实这个你想想,请求合并后的效果是怎样的,差不多也就知道了。

一开始说含义:(把多个)请求合并(成一个请求去处理)

这样的效果说明业务允许请求可以不用马上处理,高级用语就是数据实时性要求不高 —— 这是第一个业务场景特点

第二个特点:「请求合并」,业务得有一定的并发场景才有机会给你合并呀。不然你说每分钟才几个请求,那这不是合了个寂寞吗?(狗头)

5. 文末休息区(求关注)

其实很多优化方式都是朴实无华的,第一次听说时候可能会觉得牛蛙牛蛙,但实际接触了解后,会发现其实也没多高级。

不过,高级的优化方式肯定也是有的。就像我也很好奇,阿里京东这种亿级秒杀,微博的粉丝关系,抖音的推荐等等是怎么实现的。
倘若哪天真的有实际参与的大佬和我说,无非就是堆机器,没什么特别的,那我真的会尬住,哈哈哈哈。

如果觉得文章不错,欢迎关注我的公众号:七淅在学Java

1533381-20220627132857047-525509893.png

About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK