将调用频率限制为静态方法

Question

我们有一个从多个线程调用并访问外部数据库的方法。为了不减慢其他客户端的数据库速度，对此方法的调用应限制为 1 调用/秒。

我喜欢保持简单，所以我这样做了：

private static final Object SYNC_LOCK = new Object();

public static double myMethod(int param1, ...) {
  synchronized(SYNC_LOCK) {
    //do something...
    Thread.sleep(1000);
    return result;
  }
}

现在，我们正在使用 sonarqube 进行代码分析，这种休眠被认为是一个“阻塞”错误。通过查看代码，我可以排除死锁。实施一种基于令牌的方法对我来说似乎有点过分。

您是否同意 sonarqube 认为此代码需要更改？

现在，我们可以使用例如线程池来实现与下面所写相同的效果。但第一个例子对我来说似乎更圆滑。

private static ExecutorService es = Executors.newFixedThreadPool(1);
private static long lastCall = 0;

public static Double myMethod(int param1, ...) {
    Future<Double> f = es.submit(new Callable<Double>() {
        @Override
        public Double call() throws Exception {
            long diff = System.currentTimeMillis() - lastCall;
            if (diff < 1000) {
                long sleepMillis = 1000 - diff;
                Thread.sleep(sleepMillis);
            }
            //do something...
            lastCall = System.currentTimeMillis();
            return result;
        }
    });
    try {
        return f.get();
    } catch (InterruptedException | ExecutionException e) {
        //handle this
        return null;
    }
}

Answer 1

用其他方法提取业务逻辑（比如下面的myExpensiveMethod()）然后考虑实现客户端Rate Limiter（我假设并发调用没有副作用）-

RateLimiterConfig config = RateLimiterConfig.custom()
  .limitForPeriod(1)
  .limitRefreshPeriod(Duration.ofSeconds(1))
  .timeoutDuration(Duration.ofSeconds(1))
  .build();

然后从 myMethod() 调用 myExpensiveMethod()

public static Double myMethod() {

  RateLimiterRegistry registry = RateLimiterRegistry.of(config);
  RateLimiter limiter = registry.rateLimiter("myMethod");
  Supplier<Double> dbQuerySupplier = 
       RateLimiter.decorateSupplier(limiter,
                  () -> myExpensiveMethod());
  return dbQuerySupplier.get();
}

Answer 2

IMO 最简单的方法是做这样的事情（请原谅 pseudo-library 调用）：

public static double myRealMethod() {
  synchronized(SYNC_LOCK) {
    //do something...
    Thread.sleep(1000);
    return result;
  }
}

private static double cachedResult;
private static Somekindoftimestamp cachedResultDate = A_LONG_TIME_AGO;
public static double myMethod() {
  synchronized(SYNC_LOCK) {
    if (cachedResultDate.isTooOldForMyLiking()) {
      cachedResult = myRealMethod();
    }
    return cachedResult;
  }
}

一个显而易见的 down-side：某些对 myMethod() 的调用将比大多数其他调用花费更长的时间。

一个可能的改进（取决于您的应用程序的需要）：myMethod() 始终 return 缓存结果，并创建周期性的 Timer 每秒调用 myRealMethod() 一次以更新缓存结果（无论是否需要）的任务。

Answer 3

我猜这是 band-aid 那种作品。但这会造成一个瓶颈，一次只能有一个请求可以取得进展。对于您的客户来说，他们必须预先支付时间罚款，而不是您检查自上次请求以来是否已经过了足够的时间，这对您的客户来说也很粗糙。

Sonarqube 是一个静态分析工具，它所能做的就是在代码中找到模式并将规则应用于它们。一般来说，不在持有锁的情况下睡觉的规则很有意义。当一个线程持有锁时，显然其他线程被阻塞，而当一个线程处于休眠状态时，它没有工作，所以这显然不是最优的。在很多情况下，你会看到程序员添加睡眠作为绝望（和 ill-advised）试图避免 lost-notifications 和其他错误，我认为这就是 Sonarqube 试图标记的内容。

首先，由于访问外部数据库是一个痛点并且您想减轻它的负载，请尝试尽可能缓存结果。

当您使用 ThreadPoolExecutor 时，您可以通过配置 worker 数量、设置拒绝策略等更好地控制工作速率。一旦缓存减少了外部数据库上的负载，您就需要多个一次请求，您可以调整工作线程的数量以增加吞吐量。

将调用频率限制为静态方法

Limiting call frequency to a static method

java

concurrency

synchronization