Skip to content

本地服务的连接队列从 5 调到 64,打开页面时不再有请求卡一秒 - #170

Open
toxayu wants to merge 1 commit into
Edwardxlai:mainfrom
toxayu:pr/listen-backlog
Open

toxayu wants to merge 1 commit into
Edwardxlai:mainfrom
toxayu:pr/listen-backlog

Conversation

@toxayu

@toxayu toxayu commented Nov 16, 2026

Copy link
Copy Markdown
Contributor

改了什么

launch.py 的 _Server 加一行 request_queue_size = 64,另补一个测试 tests/server/test_listen_backlog.py。

为什么

打开文献库要请求约 60 个脚本和样式,阅读页约 90 个,浏览器会同时发出去。ThreadingHTTPServer 继承 socketserver 的默认值,listen() 队列只有 5 个。服务线程还没 accept 时,排不下的连接在 Linux 上会被直接丢掉,客户端要等一秒才重试 SYN,所以有些请求凭空多出 1 秒以上。

本机用浏览器直连时不常碰到。放在 Docker 或反向代理(Caddy、nginx)后面就很明显:代理会同时开很多条连接去连后端。

怎么复现

在 Linux(python:3.12-slim 容器)里,对一个 ThreadingHTTPServer 同时发 60 个请求:

队列 最慢一个 超过 0.9 秒的
5(默认) 2.36 秒 32 / 60
64 0.06 秒 0 / 60

实际部署在反向代理后面时,同时发 12 个请求,有几个要 1.3 秒,其余约 0.25 秒。

测试

新测试先建好服务但不 accept,一次开 32 条非阻塞连接,要求 0.5 秒内全部连上。在 Linux 上,改动前只连上 6 条(6 != 32),改动后通过。tests.server.test_presence 也照常通过。

🤖 Generated with Claude Code

打开文献库或阅读页时浏览器一次请求几十个脚本和样式。ThreadingHTTPServer
默认 listen 队列只有 5,排不下的连接在 Linux 上被丢掉,要等一秒后重连;
放在反向代理后面时最明显。

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>

This branch has not been deployed

No deployments
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant