奔溃！老板叫我设计一个亿级API网关

发布时间：2025-11-05 06:00:11 来源：码上建站 作者：IT科技类资讯

图片来自 Pexels

如果没有网关，奔溃要更新一个公有特性，老板就要推动所有业务方都更新和发布，叫设计那是亿级效率极低的事，有网关后，奔溃这一切都变得不是老板问题。

喜马拉雅也是叫设计一样，用户数增长达到 6 亿多的亿级级别，Web 服务个数达到500+，奔溃目前我们网关日处理 200 亿+次调用，老板单机 QPS 高峰达到 4w+。叫设计

网关除了要实现最基本的亿级功能反向代理外，还有公有特性，奔溃比如黑白名单，老板流控，叫设计鉴权，熔断，API 发布，监控和报警等。

我们还根据业务方的需求实现了流量调度，流量 Copy，预发布，智能化升降级，流量预热等相关功能。

下面就我们网关在这些方便的一些实践经验以及发展历程，下面是亿华云计算喜马拉雅网关的演化过程。

第一版：Tomcat nio+Async Servlet

网关在架构设计时最为关键点，就是网关在接收到请求，调用后端服务时不能阻塞 Block，否则网关的吞吐量很难上去，因为最耗时的就是调用后端服务这个远程调用过程。

如果这里是阻塞的，Tomcat 的工作线程都 block 住了，在等待后端服务响应的过程中，不能去处理其他的请求，这个地方一定要异步。

架构图如下：

这版我们实现单独的 Push 层，作为网关收到响应后，响应客户端时，通过这层实现，和后端服务的通信是 HttpNioClient，对业务的支持黑白名单，流控，鉴权，源码库API 发布等功能。

但是这版只是功能上达到网关的要求，处理能力很快就成了瓶颈，单机 QPS 到 5K 的时候，就会不停的 Full GC。

后面通过 Dump 线上的堆分析，发现全是 Tomcat 缓存了很多 HTTP 的请求，因为 Tomcat 默认会缓存 200 个 requestProcessor，每个 prcessor 都关联了一个 request。

还有就是 Servlet 3.0 Tomcat 的异步实现会出现内存泄漏，后面通过减少这个配置，效果明显。

但性能肯定就下降了，总结了下，基于 Tomcat 做为接入端，有如下几个问题。

Tomcat 自身的问题：

这里再分享一张 Tomcat buffer 的关系图：

通过上面的图，我们可以看出，Tomcat 对外封装的很好，内部默认的情况下会有三次 copy。

HttpNioClient 的问题：获取和释放连接都需要加锁，对应网关这样的代理服务场景，会频繁的建连和关闭连接，势必会影响性能。

基于 Tomcat 的存在的这些问题，我们后面对接入端做改造，用 Netty 做接入层和服务调用层，也就是我们的第二版，能彻底解决上面的问题，达到理想的性能。

第二版：Netty+全异步

基于 Netty 的优势，我们实现了全异步，无锁，分层的架构。

先看下我们基于 Netty 做接入端的架构图：

①接入层

Netty 的 IO 线程，负责 HTTP 协议的编解码工作，同时对协议层面的异常做监控报警。

对 HTTP 协议的编解码做了优化，对异常，攻击性请求监控可视化。比如我们对 HTTP 的请求行和请求头大小是有限制的，Tomcat 是请求行和请求加在一起，不超过 8K，Netty 是分别有大小限制。

假如客户端发送了超过阀值的请求，带 cookie 的请求很容易超过，正常情况下，Netty 就直接响应 400 给客户端。

经过改造后，我们只取正常大小的部分，同时标记协议解析失败，到业务层后，就可以判断出是那个服务出现这类问题，其他的一些攻击性的请求，比如只发请求头，不发 body 或者发部分这些都需要监控和报警。

②业务逻辑层

负责对 API 路由，流量调度等一序列的支持业务的公有逻辑，都在这层实现，采样责任链模式，这层不会有 IO 操作。

在业界和一些大厂的网关设计中，业务逻辑层基本都是设计成责任链模式，公有的业务逻辑也在这层实现。

我们在这层也是相同的套路，支持了：

上面提到的这么多都是对流量的治理，我们每个功能都是一个 filter，处理失败都不影响转发流程，而且所有的这些规则的元数据在网关启动时就会全部初始化好。

在执行的过程中，不会有 IO 操作，目前有些设计会对多个 filter 做并发执行，由于我们的都是内存操作，开销并不大，所以我们目前并没有支持并发执行。

还有个就是规则会修改，我们修改规则时，会通知网关服务，做实时刷新，我们对内部自己的这种元数据更新的请求，通过独立的线程处理，防止 IO 在操作时影响业务线程。

③服务调用层

服务调用对于代理网关服务是关键的地方，一定需要异步，我们通过 Netty 实现，同时也很好的利用了 Netty 提供的连接池，做到了获取和释放都是无锁操作。

④异步 Push

网关在发起服务调用后，让工作线程继续处理其他的请求，而不需要等待服务端返回。

这里的设计是我们为每个请求都会创建一个上下文，我们在发完请求后，把该请求的 context 绑定到对应的连接上，等 Netty 收到服务端响应时，就会在给连接上执行 read 操作。

解码完后，再从给连接上获取对应的 context，通过 context 可以获取到接入端的 session。

这样 push 就通过 session 把响应写回客户端了，这样设计也是基于 HTTP 的连接是独占的，即连接和请求上下文绑定。

⑤连接池

连接池的原理如下图：

服务调用层除了异步发起远程调用外，还需要对后端服务的连接进行管理。

HTTP 不同于 RPC，HTTP 的连接是独占的，所以在释放的时候要特别小心，一定要等服务端响应完了才能释放，还有就是连接关闭的处理也要小心。

总结如下几点：

上面几种需要关闭连接的场景，下面主要说下 Connection:close 和空闲写超时两种，其他的应该是比较常见的比如读超时，连接空闲超时，收到 fin，reset 码这几个。

⑥Connection:close

后端服务是 Tomcat，Tomcat 对连接重用的次数是有限制的，默认是 100 次。

当达到 100 次后，Tomcat 会通过在响应头里添加 Connection:close，让客户端关闭该连接，否则如果再用该连接发送的话，会出现 400。

还有就是如果端上的请求带了 connection:close，那 Tomcat 就不等这个连接重用到 100 次，即一次就关闭。

通过在响应头里添加 Connection:close，即成了短连接，这个在和 Tomcat 保持长连接时，需要注意的，如果要利用，就要主动 remove 掉这个 close 头。

⑦写超时

首先网关什么时候开始计算服务的超时时间，如果从调用 writeAndFlush 开始就计算，这其实是包含了 Netty 对 HTTP 的 encode 时间和从队列里把请求发出去即 flush 的时间，这样是对后端服务不公平的。

所以需要在真正 flush 成功后开始计时，这样是和服务端最接近的，当然还包含了网络往返时间和内核协议栈处理的时间，这个不可避免，但基本不变。

所以我们是 flush 成功回调后开始启动超时任务，这里就有个注意的地方，如果 flush 不能快速回调，比如来了一个大的 post 请求，body 部分比较大，而 Netty 发送的时候第一次默认是发 1k 的大小。

如果还没有发完，则增大发送的大小继续发，如果在 Netty 在 16 次后还没有发送完成，则不会再继续发送，而是提交一个 flushTask 到任务队列，待下次执行到后再发送。

这时 flush 回调的时间就比较大，导致这样的请求不能及时关闭，而且后端服务 Tomcat 会一直阻塞在读 body 的地方，基于上面的分析，所以我们需要一个写超时，对大的 body 请求，通过写超时来及时关闭。

全链路超时机制

上图是我们在整个链路超时处理的机制：

监控报警

网关业务方能看到的是监控和报警，我们是实现秒级别报警和秒级别的监控，监控数据定时上报给我们的管理系统，由管理系统负责聚合统计，落盘到 influxdb。

我们对 HTTP 协议做了全面的监控和报警，无论是协议层的还是服务层的。

协议层：

应用层：

总体架构：

性能优化实践

①对象池技术

对于高并发系统，频繁的创建对象不仅有分配内存的开销外，还有对 GC 会造成压力。

我们在实现时会对频繁使用的比如线程池的任务 task，StringBuffer 等会做写重用，减少频繁的申请内存的开销。

②上下文切换

高并发系统，通常都采用异步设计，异步化后，不得不考虑线程上下文切换的问题。

我们的线程模型如下：

我们整个网关没有涉及到 IO 操作，但我们在业务逻辑这块还是和 Netty 的 IO 编解码线程异步。

有两个原因：

这里有异步修改为同步后(通过修改配置调整)，CPU 的上下文切换减少 20%，进而提高了整体的吞吐量，就是不能为了异步而异步，zull2 的设计和我们的类似。

③GC 优化

在高并发系统，GC 的优化不可避免，我们在用了对象池技术和堆外内存时，对象很少进入老年代。

另外我们年轻代会设置的比较大，而且 SurvivorRatio=2，晋升年龄设置最大 15，尽量对象在年轻代就回收掉， 但监控发现老年代的内存还是会缓慢增长。

通过 dump 分析，我们每个后端服务创建一个连接，都时有一个 socket，socket 的 AbstractPlainSocketImpl。

而 AbstractPlainSocketImpl 就重写了 Object 类的 finalize 方法，实现如下：

是为了我们没有主动关闭连接，做的一个兜底，在 GC 回收的时候，先把对应的连接资源给释放了。

由于 finalize 的机制是通过 JVM 的 Finalizer线程来处理的，而且 Finalizer 线程的优先级不高，默认是 8，需要等到 Finalizer 线程把 ReferenceQueue 的对象对于的 finalize 方法执行完。

还要等到下次 GC 时，才能把该对象回收，导致创建连接的这些对象在年轻代不能立即回收，从而进入了老年代，这也是为啥老年代会一直缓慢增长的问题。

④日志

高并发下，特别是 Netty 的 IO 线程除了要执行该线程上的 IO 读写操作，还有执行异步任务和定时任务，如果 IO 线程处理不过来队列里的任务，很有可能导致新进来异步任务出现被拒绝的情况。

那什么情况下可能呢?IO 是异步读写的问题不大，就是多耗点 CPU，最有可能 block 住 IO 线程的是我们打的日志。

目前 Log4j 的 ConsoleAppender 日志 immediateFlush 属性默认为 true，即每次打 log 都是同步写 flush 到磁盘的，这个对于内存操作来说，慢了很多。

同时 AsyncAppender 的日志队列满了也会 block 住线程，log4j 默认的 buffer 大小是 128，而且是 block 的。

即如果 buffer 的大小达到 128，就阻塞了写日志的线程，在并发写日志量大的的情况下，特别是堆栈很多时，log4j 的 Dispatcher 线程会出现变慢要刷盘。

这样 buffer 就不能快速消费，很容易写满日志事件，导致 Netty IO 线程 block 住，所以我们在打日志时，也要注意精简。

未来规划

现在我们都是基于 HTTP/1，现在 HTTP/2 相对于 HTTP/1 关键实现了在连接层面的服务，即一个连接上可以发送多个 HTTP 请求。

即 HTTP 连接也能和 RPC 连接一样，建几个连接就可以了，彻底解决了 HTTP/1 连接不能复用导致每次都建连和慢启动的开销。

我们也在基于 Netty 升级到 HTTP/2，除了技术升级外，我们对监控报警也一直在持续优化，怎么提供给业务方准确无误的报警，也是一直在努力。

还有一个就是降级，作为统一接入网关，和业务方做好全方位的降级措施，也是一直在完善的点，保证全站任何故障都能通过网关第一时间降级，也是我们的重点。

总结

网关已经是一个互联网公司的标配，这里总结实践过程中的一些心得和体会，希望给大家一些参考以及一些问题的解决思路，欢迎交流。

作者：彭荣新

编辑：陶家龙

出处：转载自公众号喜马拉雅技术博客(ID：xmly_tech)

相关文章