通过 HTTP2 服务 Python (Flask) REST API

Serving Python (Flask) REST API over HTTP2

我有一个 Python REST 服务,我想使用 HTTP2 为它提供服务。我当前的服务器设置是 nginx -> Gunicorn。换句话说,nginx(443端口和重定向到443端口的80)作为反向代理运行,将请求转发给Gunicorn(8000端口,无SSL)。 nginx 在 HTTP2 模式下是 运行,我可以通过使用 chrome 并在向服务器发送一个简单的 GET 后检查 'protocol' 列来验证这一点。但是,Gunicorn 报告它收到的请求是 HTTP1.0。另外,我无法在此列表中找到它: https://github.com/http2/http2-spec/wiki/Implementations 所以,我的问题是:

我想使用 HTTP2 的原因是因为在某些情况下我需要同时执行数千个请求,我很想看看 HTTP2 的多路复用请求功能是否可以加快处理速度。使用 HTTP1.0 和 Python 请求作为客户端,每个请求需要大约 80 毫秒,这是不可接受的。另一种解决方案是 bulk/batch 我的 REST 资源并通过单个请求发送多个。是的,这个想法听起来不错,但我真的很想知道 HTTP2 是否可以加快速度。

最后,我要提到的是,对于客户端,我使用 Python 带有 Hyper http2 适配器的请求。

Is it possible to serve a Python (Flask) application with HTTP/2?

是的,根据您提供的信息,您做得很好。

In my case (one reverse proxy server and one serving the actual API), which server has to support HTTP2?

下面我要如履薄冰,发表意见。

到目前为止,HTTP/2 的部署方式是让边缘服务器与 HTTP/2 通信(例如 ShimmerCat 或 NginX)。该服务器终止 TLS 和 HTTP/2,然后使用 HTTP/1、HTTP/1.1 或 FastCGI 与内部应用程序对话。

至少在理论上,边缘服务器可以与 Web 应用程序对话 HTTP/2 吗?是的,但是 HTTP/2 很复杂并且对于内部应用程序来说,它的回报不是很好。

这是因为大多数 Web 应用程序框架都是为处理内容请求而构建的,并且 HTTP/1 或 FastCGI 已经做得很好了。尽管有例外,Web 应用程序几乎没有用到 HTTP/2 的微妙之处:多路复用、优先级排序、所有无数的安全预防措施,等等。

由此产生的关注点分离在我看来是一件好事。


您的 80 毫秒响应时间可能与您使用的 HTTP 协议关系不大,但如果这 80 毫秒主要用于等待 input/output,那么当然 运行 事情是并行的是件好事。

Gunicorn 将使用一个线程或一个进程来处理每个请求(除非您已经付出额外的努力来配置 greenlets 后端),因此请考虑让 Gunicorn 生成数千个任务在您的情况下是否可行。

如果您的请求内容允许,也许您可​​以创建临时文件并使用 HTTP/2 边缘服务器为它们提供服务。

现在可以直接从 Python 应用程序提供 HTTP/2 服务,例如使用 Twisted. You asked specifically about a Flask app though, in which case I'd (with bias) recommend Quart 这是在 asyncio 之上重新实现的 Flask API(使用HTTP/2支持)。

您的实际问题,

With HTTP1.0 and Python Requests as the client, each request takes ~80ms

向我建议您可能遇到的问题是每个请求都会打开一个新连接。这可以通过使用 connection pool 来缓解,而不需要 HTTP/2.