socket.io 的可扩展架构

Question

我是 socket.io 和 Node JS 的新手，我正在尝试构建具有大量同时套接字连接（10,000+）的可扩展应用程序。

目前，我开始使用我的服务器创建子进程的模型，每个子进程侦听一个特定端口并附加一个 sicket.io 实例。客户端连接后，他将被重定向到特定端口。

最大的问题是：在多个端口上设置多个 socket.io 实例是否会增加可能的连接数？

这是我的代码，以防万一：

服务器

var server = http.createServer(app);

server.childList = [];
for (var i = 0; i < app.portList.length; i++) {
  server.childList[i] = require('child_process').fork('child.js');
}

server.listen(3443, () => {
  for (var i = 0; i < app.portList.length; i++) {
    server.childList[i].send({ message: 'createServer', port: app.portList[i] });;
  }
});

child.js :

var app = require('./app');
var http = require('http');
var socket_io        = require( "socket.io" );

process.on('message', (m) => {
    if (m.message === 'createServer') {

        var childServ = http.createServer(app);

        childServ.listen(m.port, () => {
            console.log("childServ listening on port "+m.port);
        });

        var io = socket_io();
        io.attach( childServ );

        io.sockets.on('connection', function (socket) {
            console.log("A client just connected to my socket_io server on port "+m.port);
        });
    }
});

如果我在那里做了什么可怕的事情，请随时释放海妖

Answer 1

Does having several socket.io instances on several ports increases the number of possible connections ?

是的，您构建了一个简单的负载均衡器，这是一种很常见的做法。有几个关于不同缩放方式的好教程 node.js。

Horizontally scale socket.io with redis
http://goldfirestudios.com/blog/136/Horizontally-Scaling-Node.js-and-WebSockets-with-Redis

你的负载均衡器会加速你的代码到一定程度，因为你使用了多个线程，但我前一段时间在其他线程上读到，经验法则是每个 cpu 开始大约 2-3 个进程核。不止于此会导致更多的开销然后帮助，但这在很大程度上取决于情况。

Answer 2

首先，您需要优化的内容取决于 socket.io 连接的繁忙程度以及 activity 主要是异步 I/O 操作还是 CPU -密集的东西。正如您可能已经知道的那样，node.js 对于异步 I/O 的东西已经很好地扩展了，但是它需要多个进程才能很好地扩展 CPU 密集的东西。此外，在某些情况下垃圾收集器会变得太忙（正在处理很多很多小请求），因此您还需要转到多个进程。

更多的服务器实例（至少达到您在服务器中拥有的 CPU 的数量）将为您提供更多的 CPU 处理能力（如果这是您需要的）。如果大多数连接处于空闲状态，它不一定会增加您可以在一个盒子上支持的最大连接数。为此，您必须 custom tune your server 支持大量连接。

通常，您不希望 N socket.io 个服务器分别侦听不同的端口。这给客户端带来了某种 select 端口的负担，并且客户端必须确切地知道要选择哪些端口（例如，您有多少个服务器实例）。

通常情况下，您不会这样做。通常，您有 N 个进程都在同一端口上侦听，并且您使用某种负载均衡器在它们之间分配负载。这使得服务器基础架构对客户端透明，这意味着您可以在不改变客户端行为的情况下向上或向下扩展服务器。事实上，您甚至可以添加多个物理服务器盒并进一步增加容量。

这是一篇来自 socket.io 文档的文章，内容是关于使用多个节点和负载均衡器来增加容量：Socket.io - using multiple nodes (updated link). There's also explicit support by redis for a combination of multiple socket.io instances 和 Redis，因此您可以与任何 socket.io 实例进行通信，而不管进程如何.

socket.io 的可扩展架构

Scalable architecture for socket.io

sockets

process

node.js

socket.io