Caddy 还是 nginx 给 API 中转做反代:证书自动化是决定性差异

给大模型 API 中转选反向代理,网上的对比文章大多在比性能、比配置语法、比模块生态。这些差异对一个 API 网关来说其实都不重要——真正的分水岭是证书生命周期由谁管理。 ...

2026年9月4日 · 6 分钟 · 2955 字 · Ambertu

反代把大模型 API 的 SSE 流式响应缓冲了:五个缓冲点与三层排查法

自建大模型 API 中转后最常见的故障是:后端明明是流式的,经过反向代理就变成一次性返回——客户端等十几秒没有任何输出,然后整段文字一次吐完。首字节延迟几乎等于整个生成时长,流式的意义全部丧失。 ...

2026年9月3日 · 5 分钟 · 2400 字 · Ambertu