很多团队做代理IP池时，第一反应是扩充IP数量。IP池大了，可用出口多了，理论上并发就能上去。但实际压测中经常出现相反情况：IP列表越来越长，吞吐却卡在某个水平，延迟抖动明显，错误率上升。代理IP池在高并发下的表现，很少由IP数量单独决定，更多取决于连接怎么复用、等待怎么并行、请求节奏怎么控制。连接池、异步IO和限速策略，正好对应这三个层面。
一、先看清代理请求的成本结构
一次经过代理的请求，链路比直连长。客户端先与代理入口建立连接，可能还要完成认证，再由代理转发到目标站点。DNS解析、TCP握手、TLS协商、代理认证、目标响应，每一段都有耗时。低并发时这些开销不明显；并发上来后，重复建连会迅速吃掉CPU、内存和端口资源。尤其当每个请求都新建连接，客户端大部分时间不在传输数据，而在等待握手完成。
另一个容易被低估的问题是出口切换与连接复用的冲突。动态代理会在不同请求间更换出口，如果客户端缓存了长连接，这条连接可能仍绑定旧出口。解决思路有两种：客户端维护出口与连接的映射并主动淘汰，或者选择统一入口、由服务端完成出口调度的代理模式。比如比兔代理采用统一网关接入时，客户端连接入口相对稳定，连接池的复用效率更容易保持，客户端可以把精力放在并发控制和限速上。
二、连接池：省下建连时间，但别把它当万能
连接池的目标很直接：把反复建连的成本摊薄。通过保留一定数量的长连接，后续请求直接复用，省去握手和认证。配置连接池时，几个参数最值得关注：总连接上限、单入口连接上限、空闲连接存活时间、DNS缓存时间、连接健康检查。总连接上限决定资源占用，单入口上限决定对代理入口的压力，空闲存活时间决定死连接能否及时清理。
连接池不是越大越好。连接数过高，代理入口需要维护更多会话，目标站点也会感受到更密集的请求；客户端自身的内存和文件描述符同样承压。更合理的做法是按入口分组，给每组设置独立上限，并定期清理长时间空闲或已失效的连接。监控上重点看连接复用率、建连平均耗时、空闲连接数。如果复用率长期偏低，说明池子没起作用；如果建连耗时波动大，可能是代理入口或网络质量不稳定。
三、提高并发密度，背压必须同步设计
同步阻塞模型下，一个请求等待响应时，线程只能闲着。想提高并发，就得加线程，而线程上下文切换和内存开销会限制上限。异步IO换了一种思路：用事件循环管理大量协程，当某个协程等待网络响应时，控制权交给其他就绪任务。单线程内维持成百上千个待处理请求成为可能，资源利用率明显提高。
但异步不等于无限并发。没有约束的协程会瞬间打出大量请求，连接池被打满，代理入口压力陡增，限速也会被触发。因此需要背压机制：用信号量限制同时进入网络阶段的请求数，用队列缓冲待处理任务，用超时避免慢请求长期占用名额。连接超时、读取超时和总超时要分开设置，读取超时尤其不能过长，否则异常请求会拖住整个调度节奏。异步框架通常还提供DNS缓存和TLS会话复用，这两项对代理场景同样有价值，能进一步降低单请求开销。
四、控制节奏，而不是压死吞吐
限速常被误解为“给业务降速”。在代理IP池里，限速的首要任务是让请求节奏可持续。目标站点有服务端限流策略，代理入口也有承载上限。短时间集中请求可能换来一批429，后续重试又会放大压力。限速不是可选项，而是稳定吞吐的前提。
令牌桶是常用实现。每个出口IP、每个目标域名可以各自维护令牌桶：令牌按固定速率补充，请求消耗令牌，桶容量决定允许的突发量。速率决定稳态QPS，容量决定瞬时弹性。漏桶则更适合平滑输出。分布式环境下可以用Redis做全局计数，但要注意原子操作和网络延迟。比速率更关键的是错误分类：超时和5xx可以快速重试，429应当触发冷却，将该出口对该目标的请求暂时调度到其他出口，并降低后续速率。重试要带指数退避和随机抖动，同时设置重试预算，避免重试风暴。
限速粒度也值得推敲。全局一刀切会浪费可用出口；只按IP限速又可能忽略目标站点的整体承受能力。按“出口IP+目标域名”组合限速，通常更贴近实际。若采用统一网关模式，出口调度的一部分由服务端承担，客户端限速可以更聚焦在目标域名维度和任务优先级上，策略会更清晰。
五、参数取舍与监控闭环
连接池、异步IO、限速策略不是三个独立模块。连接池越大，异步并发可以越高，但限速必须同步收紧；异步并发越高，连接池越要避免排队；限速越严格，连接空闲时间越长，池子可以适当缩小。调参时不要一次改多个维度，否则很难判断收益来自哪里。
一个可参考的起步配置是：每个代理入口保留20到50条长连接，单进程异步并发控制在50到150之间，每个出口对单个目标域名的稳态速率设为1到3 QPS，令牌桶容量5到10。这不是标准答案，只是便于观察的起点。上线后重点看四类指标：请求成功率、P95/P99延迟、429出现频率、连接复用率。每次只调整一个参数，观察一个完整周期，再决定下一步。
常见误区包括：只盯IP数量，不看调度质量；失败后无限重试；全局统一限速，忽略不同目标的差异；连接池从不清理死连接；异步并发不设上限。这些问题单独看都不复杂，但在高并发下会互相放大。
代理IP池的高并发能力，本质上是资源调度能力。连接池负责降低建连成本，异步IO负责提高等待期间的并发密度，限速策略负责让请求节奏保持可持续。三者平衡好了，IP数量才有意义；平衡不好，再长的IP列表也只能带来更多超时和重试。把监控闭环建起来，让参数随实际表现小步调整，代理IP池才能在压力下保持稳定输出。