在来测试下你的Java编程能力文章里有一些关于Java网络通信的题目，翻出几年前的一篇文章再给大伙看看，这应该算是怎么写一个高性能RPC框架的还不错的实践，感兴趣的其实也可以自己去写个玩玩，这个过程会是学到很多东西的好方法。
McQueenRPC（代码在github上）每秒支撑的请求数上升了好几倍，测试结果的演变为：37k–> 56k –> 65k –> 88k –> 93k –> 143k –> 148k –> 153k –> 160k –> 163k –> 168k以上测试结果为在100并发、100 request byte、100 response byte以及单连接下的背景下得出的，在这篇blog中来分享下这个框架所做的一些优化动作，希望能给编写rpc框架或使用netty的同学们一点点帮助，也希望得到高手们更多的指点。由于目前大部分的NIO框架采用的均为1个socket io线程处理多个连接的io事件，如果io线程时间占用太长的话，就会导致收到的响应处理的比较慢的现象，这步优化就是针对反序列化过程占用io线程而做的，采用的方法即为在读取流时仅根据长度信息把所有的bytes都读好，然后直接作为收到的信息返回给业务线程，业务线程在进行处理前先做反序列化动作，感兴趣的同学可以看看McQueenRPC中：NettyProtocolDecoder，以及NettyServerHandler。在测试的过程中，发现YGC的耗时比较长，在咨询了sun的人后告诉我主要是由于有旧生代的数据结构引用了大量新生代对象造成的，经过对程序的分析，猜测是benchmark代码本身用于记录请求响应时间信息的ConcurrentLinkedQueue造成的，在某超级大牛的指示下，换成了在每个线程中用数组的方式，按区间来记录响应时间信息等，感兴趣的同学可以看看McQueenRPC中：SimpleProcessorBenchmarkClientRunnable在某超级大牛的分析下，发现目前的情况下io线程的上下文切换还是比较频繁，导致io线程处理效率不够高，默认情况下，NIO框架多数采用的均为接到一个包后，将这个包交由反序列化的处理器进行处理，对于包中有多个请求信息或响应信息的情况，则采用一个一个通知的方式，而rpc框架在接到一个请求或响应对象时的做法通常是唤醒等待的业务线程，因此对于一个包中有多个请求或响应的状况就会导致io线程需要多次唤醒业务线程，这个地方改造的方法是nio框架一次性的将包中所有的请求或响应对象通知给业务线程，然后由业务线程pipeline的去唤醒其他的业务线程，感兴趣的同学可以看看McQueenRPC中：NettyProtocolDecoder，以及NettyClientHandler。这步没什么可说的，只是多支持了hessian序列化，然后这个结果是用hessian序列化测试得出的，注意的是hessian不要使用3.1.x或3.2.x版本，这两个系列的版本性能极差，建议使用hessian 4.0.x版本。在到达93k时，看到测试的结果中有不少请求的响应时间会超过10ms，于是用btrace一步一步跟踪查找是什么地方会出现这种现象，后来发现是由于之前在确认写入os send buffer时采用的是await的方式，而这会导致需要等待io线程来唤醒，增加了线程上下文切换以及io线程的负担，但这个地方又不能不做处理，后来就改造成仅基于listener的方式进行处理，如写入失败会直接创建一个响应对象，这次改造后效果非常明显，感兴趣的同学可以看看McQueenRPC中：NettyClient。这步是在@killme2008 的指点下，将tcpNoDelay设置为了false，但这个设置不适用于低压力的情况，在10个线程的情况下tps由3w降到了2k，因此tcpNoDelay这个建议还是设置成true。这步没什么可说的，只是多支持了protobuf序列化，这个结果是用protobuf序列化测试得出的，之前还测试过下@bnu_chenshuo 写的一个protorpc，是基于protobuf的rpc加上netty实现的，结果也很强悍，测试出来是149k，看来protobuf的rpc也是有不少值得学习的地方的。server接到消息的处理过程也修改成类似client的pipeline机制，同时将之前获取协议处理器和序列化/反序列化的处理器的地方由map改成了数组，具体可以参考NettyServerHandler、ProtocolFactory和Codecs。Grizzly的leader对grizzly部分的代码做了很多的修改，结果创造了目前rpc benchmark的最高纪录：163k。@minzhou 对McQueenRPC的代码进行了优化，将之前在Decoder中做的构造String对象的部分挪到了业务线程中，于是TPS也有了一定的上升，感谢。上面就是到目前为止的所有优化动作，其中的很多我估计高手的话是不会犯错的，我走的弯路多了些，总结来说rpc框架的优化动作为：尽可能减少io线程的占用时间，把能做的事都挪到别的线程里去做；
尽可能减少线程上下文切换；
尽可能使用高效的序列化/反序列化。
本文虽然写于十年前，但对于同类问题处理，其方法仍然有参考意义。/ 特别推荐老毕的专栏 /
这是与毕大师的一场长达 12 个小时的对话而产生的采访记录，也是一代大师由非专业到技术巨佬的成长故事集，但更多的是毕大师对自己 20 年程序人生的深度复盘，特别是他在淘宝的经历。内容包括并不限于：
面试，没写简历，也没答对几道题，他却进了淘宝？
写第一个系统HSF，刚转正就差点把系统搞挂了？
处理故障，充分锻炼了编程能力，他却说这对公司是个恶性循环？
做异地多活被广为人知，他却说做大项目，千万不要塑造一个神？
转到前景堪忧的运维团队，他表示团队价值问题自己也解决不了？
集团级项目统一调度做成了，他说可能是因为时机？
……
专栏共分为了四大模块。
具体详细内容，可以看看目录：
![]()
专栏里「高手锦囊」的部分最让我惊艳，这块算得上是把毕大师 20 年程序人生中最精华的部分都总结了出来，并通过与前三章真实项目经验、案例结合，分别在个人成事、方向选择、团队带领、做事文化、架构修炼这 5 大方面给出了他的指导，其中每一条都是能真正拿去借鉴的思考能力和实操方法论。
申请到了「粉丝专属」优惠：
原价 ¥99，早鸟特惠 ¥69
今日新用户仅 ¥59
![]()
👆识别二维码，免费试读👆
有句话说“以史为鉴，可以知兴替；以人为鉴，可以明得失”。毕大师在专栏中也提到过类似的话，“技术提升到了一定程度，其实就是混圈子，也就是见过猪跑很重要”。其实这都是在强调，不管做技术还是任何事情，找到有可以借鉴的经验，以及从前人的经验中深入挖掘自己的需求，这很重要。
而这份毕大师的职业生涯深度复盘，就是你技术职业生涯上认知提升的关键手册。
👇 点击「阅读原文」
免费试读，对话前阿里 P10 毕玄，提升你的技术洞察和认知。