Javaweb应用使用限流处理大量的并发请求详解

时间:2022-11-22 22:43:35

在web应用中,同一时间有大量的客户端请求同时发送到服务器,例如抢购、秒杀等。这个时候如何避免将大量的请求同时发送到业务系统。

第一种方法:在容器中配置最大请求数,如果大于改请求数,则客户端阻塞。该方法有效的阻止了大量的请求同时访问业务系统,但对用户不友好。

第二种方法:使用过滤器,保证一定数量的请求能够正常访问系统,多余的请求先跳转到排队页面,由排队页面定时发起请求。过滤器实现如下:

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
public class ServiceFilter implements Filter {
    
    private static final int MAX_COUNT = 20;
    
    private AtomicInteger filterCount = 0;
 
    public void doFilter(ServletRequest request, ServletResponse response,
            FilterChain chain) throws IOException, ServletException {
        System.out.println("before"+filterCount);
        if(filterCount > MAX_COUNT) {
            //请求个数太多,跳转到排队页面
            request.getRequestDispatcher("index.jsp").forward(request, response);
        } else {
            //请求个数加1
            filterCount.incrementAndGet();
 
            chain.doFilter(request, response);
            //访问结束,请求个数减1
            filterCount.decrementAndGet();
        }
    }

此种方式的实现就是限流。可以参考RateLimiter的令牌桶限流策略的实现。

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
public class RateLimiterUtils {
    private static Logger logger = LoggerFactory.getLogger(RateLimiterUtils.class);
    private static final ConcurrentHashMap<String, RateLimiter> resourceLimitMap =
            new ConcurrentHashMap<String, RateLimiter>();
    
    /**
     * 限流
     * @param resource 需要限流的对象的标识
     * @return true表示得到了许可,没有达到限流阀值,false表示得不到许可,达到了限流阀值。
     * @author: hejinen
     * @date:2016年10月19日 上午11:08:49
     */
    public static boolean rateLimit(String resource) {
        RateLimiter limit = getRateLimit(resource);
        return limit.tryAcquire();
    }
    /**
     * 获取某个需限流对象的RateLimiter,如不存在则创建新的
     * @param resouce 需要限流的对象标识
     */
    public static RateLimiter getRateLimit(String resource) {
        RateLimiter limit = resourceLimitMap.get(resource);
        if(limit == null) {
            synchronized(RateLimiterUtils.class) {
                limit = resourceLimitMap.get(resource);
                double qps = getQpsByResource(resource);
                if(limit == null) {
                    limit = RateLimiter.create(qps);
                    resourceLimitMap.put(resource, limit);
                    LoggerUtil.info(RateLimiterUtils.class, "create rate limiter for key:{0},QPS:{1}", resource,qps);
                }
            }
        }
        return resourceLimitMap.get(resource);
    }
}

总结

以上就是本文关于Javaweb应用使用限流处理大量的并发请求详解的全部内容,希望对大家有所帮助。有什么问题可以随时留言,小编会及时回复大家的。感谢朋友们对本站的支持!

原文链接:http://blog.csdn.net/lzy_lizhiyang/article/details/47951423