如何顺序处理websocket消息

How to process websocket messages sequentially

我在每个 WebSocket 上接收到几十条消息,它们到达时可能会有几毫秒的差异。我需要使用有时会花费一些时间的操作来处理这些数据(例如,在数据库中插入)。 为了处理收到的新消息,前一条消息必须已完成处理。

我的第一个想法是用node.js Bull(用Redis)准备一个队列,但恐怕运行太长了。这些消息的处理必须保持快速。

我尝试使用 JS iterators/generators(直到现在我才使用过它)并且我测试了这样的东西:

const ws = new WebSocket(`${this.baseUrl}${this.path}`)
const duplex = WebSocket.createWebSocketStream(ws, { encoding: 'utf8' })
    
const messageGenerator = async function* (duplex) {
    for await (const message of duplex) {
      yield message
    }
  }


for await (let msg of messageGenerator(socketApi.duplex)) {
    console.log('start process')
    await this.messageHandler.handleMessage(msg, user)
    console.log('end process')
}

日志:

  1. 开始进程
  2. 开始进程
  3. 结束进程
  4. 结束进程

不幸的是,如您所见,消息会继续处理,而不会等待前一条消息完成。你有办法解决这个问题吗? 我最终应该使用带有 Redis 的队列来处理消息吗?

谢谢

我不是 nodeJS 专家,但我在其他语言中多次考虑过同一个问题。我得出的结论是,消息处理操作的速度有多慢真的很重要,因为如果它们太慢(慢于某个阈值,具体取决于每秒消息值),这可能会导致 websocket 连接出现瓶颈,并且此瓶颈何时形成向上它可能会导致未来消息的极度延迟。

如果 awaitasync 具有与 python 相同的行为,如果您使用它们处理任何操作,您的处理将是异步的,这意味着它确实不会等待对于上一个要处理的。

到目前为止我有两个选择:

  1. 继续异步处理消息,但在处理它们的代码中编写一些额外的逻辑,以管理顺序混乱。例如,在继续处理当前消息之前确认之前的消息已经被处理。此逻辑可能复杂且缓慢,因为它在单独的线程中运行并且不会阻止 websocket 消息。
  2. 同步处理消息,一条接一条,但通过执行一个操作非常快:将它们存储在 Redis 中。这比将它们存储在数据库中要快得多,并且在大多数情况下速度足够快,不会导致 WS 连接出现瓶颈。然后使用单独的进程从 Redis 中获取这些消息并进行处理。