Rasa Agent 不支持超过 23 req/sec
Rasa Agent does not support more than 23 req/sec
当我们在部署到生产环境之前对 Rasa Agen 进行压力测试时,我们遇到它仅支持每秒 23 个请求,响应时间为 1 秒。
如果我们尝试将请求数增加到 23 个以上,则响应时间会逐渐增加;无论硬件如何,它都会超过 5 秒。
有什么办法可以消除这个限制吗?
我使用的是 Rasa 2.1.2 版
我们做过类似的exercise for kAIron,内部使用rasa 2.1.2,不能超过23个req/seq;即使我们的聊天服务器实现使用仍在开发中的 tornado,我们最多可以达到 32 req/seq,响应时间最多为 1 秒。
根据我们的经验,要实现更高的并发性,一种选择是在 Kubernetes with horizontal scaling
上部署 rasa 聊天服务器
当我们在部署到生产环境之前对 Rasa Agen 进行压力测试时,我们遇到它仅支持每秒 23 个请求,响应时间为 1 秒。
如果我们尝试将请求数增加到 23 个以上,则响应时间会逐渐增加;无论硬件如何,它都会超过 5 秒。
有什么办法可以消除这个限制吗?
我使用的是 Rasa 2.1.2 版
我们做过类似的exercise for kAIron,内部使用rasa 2.1.2,不能超过23个req/seq;即使我们的聊天服务器实现使用仍在开发中的 tornado,我们最多可以达到 32 req/seq,响应时间最多为 1 秒。
根据我们的经验,要实现更高的并发性,一种选择是在 Kubernetes with horizontal scaling
上部署 rasa 聊天服务器