标签: #令牌桶

客户端多模型并发：用滑动窗口 + 令牌桶扛住速率限制

多模型并发调用 API 时，单纯用 sleep 无法解决限流问题。文章提出三层速率控制方案：先区分并发上限（用信号量）和速率上限（用令牌桶），再用滑动窗口防止突发流量。核心是令牌桶控制平均速率，滑动窗口限制瞬时并发，两者组合才能稳定扛住 API 限流。针对多模型、TPM 限制和 429 响应，分别给出独立限流器、加权令牌桶和自适应降速的实现方法。