我们有一个独特的案例,我们需要与外部API接口,这需要我们长时间轮询他们的端点以获得他们所谓的实时事件.
问题是我们可能有多达80,000人/设备在任何给定时间点击此端点,监听事件,每个设备/人1个连接.
当客户端从我们的Spring服务发出请求以对事件进行长轮询时,我们的服务随后会对外部API进行异步调用以对事件进行长轮询.外部API已定义最小长轮询超时可设置为180秒.
所以在这里我们遇到一个带队列的线程池不能工作的情况,因为如果我们有一个类似于(5分钟,10个最大值,10个队列)的线程池,那么10个线程可能会成为焦点,并且队列中的10个将无法获得机会,直到当前10个中的一个完成.
我们需要服务它或者失败它(我们将把负载平衡器等放在它后面),但是我们不希望在没有实际轮询的情况下让客户端挂起.
我们一直在研究如何使用DeferredResult,并从控制器返回.
一些调整的东西
@RequestMapping(value = “test/deferredResult”,method = RequestMethod.GET)
DeferredResultCompletableFuture.supplyAsync(() -> testService.test()).whenCompleteAsync((result,throwable) -> deferredResult.setResult(result));
return deferredResult;
}
我在质疑我是否在正确的道路上,并且我是否应该为CompletableFuture.supplyAsync()方法提供执行程序和什么样的执行程序(和配置)以最好地完成我们的任务.
我已经阅读了各种文章,帖子等,我想知道是否有人知道可能有助于我们的具体情况.
发布者：全栈程序员-站长，转载请注明出处：https://javaforall.net/182173.html原文链接：https://javaforall.net
