将 LLM 集成进企业级 SaaS 时，同步 HTTP 调用会带来线程池耗尽、供应商限流级联和费用失控。本文介绍基于异步消息队列、Token 权重估算与动态限流的流水线设计，实现 Token 预算管控、背压与优雅降级。
