令牌桶算法原理及实现(图文详解)

令牌桶简介

令牌桶，英文名token bucket，可以看作是一个存放令牌的容器，预先设定一定的容量，系统按设定的速度向桶中放置令牌，当桶中令牌满时，多余的令牌溢出。

如下图所示：

为什么需要令牌桶？

在高并发系统，比如大家熟知的秒杀，这个时候有大量的用户在同一时间大量涌入，这个时候很可能会超过系统的承受能力，这个就需要考虑限流了。

而令牌桶算法就是限流的一种策略，是进行流量限制的一种常用算法，常用于控制发送到网络上的数据的数量，并允许突发数据的发送。

为了保证系统的稳定运行，一旦达到的需要限制的阈值，就需要限制流量并采取一些措施以完成限制流量的目的，比如：延迟处理，拒绝处理，或者部分拒绝处理等等。

令牌桶算法原理

令牌桶算法的原理是系统会以一个恒定的速度往桶里放入令牌，如果请求需要被处理，则需要先从桶里获取一个令牌，当桶满时新添加的令牌被丢弃或拒绝。

令牌桶算法流程，如下图所示：

令牌桶算法流程，大致分为如下三步：

第一步：放入令牌到桶

按照固定的速率被放入令牌桶中，比如每秒放10个、100个、1000个令牌到桶中。

第二步：获取令牌

所有的请求在处理之前都需要拿到一个可用的令牌才会被处理。

第三步 ：令牌桶满了拒绝

比如：桶中最多能放10000个令牌，当桶满时，就不能继续放入了，新添加的令牌要么被丢弃，要么就直接拒绝。

令牌桶算法实现

用队列保存令牌，用ScheduledThreadPoolExecutor来定时放令牌，使用google提供的guava工具包。

<dependency>
    <groupId>com.google.guava</groupId>
    <artifactId>guava</artifactId>
</dependency>

// 每秒生成2个令牌
RateLimiter rateLimiter = RateLimiter.create(2);
for (int i = 0; i < 6; i++) {
    new Thread(() -> {
        // 获得令牌
        rateLimiter.acquire();
        System.out.println(LocalDateTime.now());
    }).start();
}

rateLimiter提供了acquire()和tryAcquire()方法

1）acquire()方法

如果没有可用令牌，会一直阻塞到获得令牌

2）tryAcquire()方法

如果没有可用令牌，则直接返回false，可以设置超时获取。