Java 性能调优实战
刘超
前金山软件技术经理
59174 人已学习
新⼈⾸单¥59
登录后,你可以任选4讲全文学习
课程目录
已完结/共 49 讲
开篇词 (1讲)
模块一 · 概述 (2讲)
结束语 (1讲)
Java 性能调优实战
15
15
1.0x
00:00/00:00
登录|注册

10 | 网络通信优化之通信协议:如何优化RPC网络通信?

服务治理
远程通信
企业级系统中的RPC通信协议设计
Dubbo协议优势
调整Linux的TCP参数设置选项
编码、解码
量身定做报文格式
优化Socket通信
使用单一长连接
选择合适的通信协议
RMI在高并发场景下的性能瓶颈
RMI实现原理
RPC架构演变史
RPC概念
Http+Json序列化
Dubbo+Protobuf序列化
RPC通信选择和优化标准
服务拆分增加通信成本
微服务的核心
Dubbo
SpringCloud
思考题
总结
一个高并发场景下的RPC通信优化路径
RMI:JDK自带的RPC通信框架
什么是RPC通信
Dubbo性能测试
RPC通信是大型服务框架的核心
微服务框架比较
如何优化RPC网络通信?

该思维导图由 AI 生成,仅供参考

你好,我是刘超。今天我将带你了解下服务间的网络通信优化。
上一讲中,我提到了微服务框架,其中 SpringCloud 和 Dubbo 的使用最为广泛,行业内也一直存在着对两者的比较,很多技术人会为这两个框架哪个更好而争辩。
我记得我们部门在搭建微服务框架时,也在技术选型上纠结良久,还曾一度有过激烈的讨论。当前 SpringCloud 炙手可热,具备完整的微服务生态,得到了很多同事的票选,但我们最终的选择却是 Dubbo,这是为什么呢?

RPC 通信是大型服务框架的核心

我们经常讨论微服务,首要应该了解的就是微服务的核心到底是什么,这样我们在做技术选型时,才能更准确地把握需求。
就我个人理解,我认为微服务的核心是远程通信和服务治理。远程通信提供了服务之间通信的桥梁,服务治理则提供了服务的后勤保障。所以,我们在做技术选型时,更多要考虑的是这两个核心的需求。
我们知道服务的拆分增加了通信的成本,特别是在一些抢购或者促销的业务场景中,如果服务之间存在方法调用,比如,抢购成功之后需要调用订单系统、支付系统、券包系统等,这种远程通信就很容易成为系统的瓶颈。所以,在满足一定的服务治理需求的前提下,对远程通信的性能需求就是技术选型的主要影响因素。
确认放弃笔记?
放弃后所记笔记将不保留。
新功能上线,你的历史笔记已初始化为私密笔记,是否一键批量公开?
批量公开的笔记不会为你同步至部落
公开
同步至部落
取消
完成
0/2000
荧光笔
直线
曲线
笔记
复制
AI
  • 深入了解
  • 翻译
    • 英语
    • 中文简体
    • 中文繁体
    • 法语
    • 德语
    • 日语
    • 韩语
    • 俄语
    • 西班牙语
    • 阿拉伯语
  • 解释
  • 总结

本文深入介绍了如何优化RPC网络通信,主要包括微服务框架的核心需求、Dubbo和SpringCloud的选择和优化标准、RPC通信的概念和发展历程、以及在高并发场景下优化RPC通信的路径。作者通过性能测试结果展示了Dubbo在高并发场景下的优势,并提出了一系列优化方法,包括选择合适的通信协议、使用单一长连接等方法。此外,文章还介绍了Netty对Socket通信编程的优化,以及量身定制报文格式、编码解码和调整Linux的TCP参数设置选项等内容。总的来说,本文对于需要了解和优化RPC网络通信的读者具有一定的参考价值。

仅可试看部分内容,如需阅读全部内容,请付费购买文章所属专栏
《Java 性能调优实战》
新⼈⾸单¥59
立即购买
登录 后留言

全部留言(28)

  • 最新
  • 精选
  • 夏天39度
    老师,能说一下Netty是如何实现串行无锁化完成链路操作吗,怎么做到无锁化的线程切换

    作者回复: Netty中,分为Reactor主线程和Reactor从线程,主线程主要用来监听连接事件,从线程主要用来处理监听I/O事件,以及处理读写I/O操作。 一般有其他的业务操作,我们可以在handler中创建线程池来处理。但为了减少上下文切换,我们可以在ChannelPipeline上注册handler事件,例如解码过程。一般Reactor从线程监听到读操作,会立即调用ChannelPipeline的fireChannelRead方法完成读操作,在调用完读操作之后,会检查是否有其他handler,如果有,则直接调用,不会创建新的线程。 这种方式的好处是,不用创建新的线程,在从线程中串行化完成所有的I/O以及业务操作,减少上下文切换;坏处是,给从线程带来了一定的阻塞。

    2019-06-11
    2
    26
  • WL
    请教老师两个问题: 1. 在RMI的实现原理示意图中客户端的存根和服务端的骨架这两个概念是啥意思, 我感觉不太理解. 2. 在TCP的四次挥手中, 客户端最后的TIME_WAIT状态是不是就是CLOSE的状态, 如果不是那TIME_WAIT状态是在啥时候转换成CLOSE状态的.

    作者回复: 我先回答第二个问题。 是的,TIME_WAIT状态就是主动断开方的最后状态了。主动断开连接方之所以是TIME_WAIT状态,是担心被断开方没有收到最后的ACK,这个TIME_WAIT时间内核默认设置是2MSL(报文最大生存时间),被断开方如果超时没有收到ACK,将重新发送FIN,主动断开方收到之后又会重新发送ACK通知,重置TIME_WAIT时间。 正常情况下,当主动断开方的TIME_WAIT状态到达了定时时间后,内核就会关闭该连接。 第一个问题,这块文章中没有过多的介绍,我在这里再叙述下: Stub是client端的远程对象的代理,负责将远程对象上的方法调用转发到实际远程对象实现所在的服务器,我们的程序要通过远程调用,底层一定是套接字的字节传输,要一个对象序列化成为字节码,传输到服务器或者客户端的对端之后,再把该对象反序列化成为对应的对象,Stub承担着底层序列化、数据组装以及协议封装等工作。 Skeleton则是server端的服务对象的代理,负责将接收解析远程调用分派到实际远程对象实现调用。Stub与Skeleton的关系以及操作是对应的关系,只有实现了java.rmi.Remote接口的类或者继承了java.rmi.Remote接口的接口,才能作为Stub与Skeleton之间通信的远程对象,Stub与Skeleton之间的通信使用Java远程消息交换协议JRMP(Java Remote Messaging Protocol)进行通信,JRMP是专为Java的远程对象制定的协议。Stub和Skeleton之间协作完成客户端与服务器之间的方法调用时的通信。

    2019-06-11
    20
  • Stalary
    老师,如果业务架构已经选择了SpringCloud,该如何优化远程调用呢,目前使用Feign,底层配置了HttpClient,发现qps一直上不去,暂时是对频繁的请求做了本地cache,但是需要订阅更新事件进行刷新

    作者回复: 可以尝试扩展其他RPC框架,例如有同学提到的Google的grpc框架,也是基于Netty通信框架实现,基于protobuf实现的序列化。

    2019-06-11
    3
    14
  • n88
    写http是短连接不太严谨

    作者回复: 这里纠正下,http1.0版本默认是短链接,而在http1.0以后默认是保持连接的,但只是一个单向的长连接,默认情况下保持60s

    2019-10-25
    2
    9
  • 风轻扬
    老师。我看到留言中有同学提到http和tcp的对比。http不是建立在tcp的基础上吗?http和tcp的关系应该怎么定义呢?

    作者回复: http是基于tcp实现的协议。如果做过Socket编程通信,你会发现两个端之间如果要实现接口通信,除了传输我们需要的请求参数和返回参数之外,我们还需要给通信定义一个协议头,单纯的tcp通信是没有协议头的,而http则是在tcp基础上定义了自己的消息头和序列化方式。http通信协议是一种短连接,也就是说通信完成之后会断开连接。 简而言之,http是tcp的一个上层封装协议,http是基于tcp实现的。

    2019-08-13
    2
    5
  • 秃然的自我~
    老师好,我想问下已经在线上跑的服务,序列化方式是hessian,如果直接换成Protobuf,那么consumer会报错吗?如果报错的话,如何避免这种情况发生呢?

    作者回复: 服务端和消费端重启,会走protobuf序列化

    2019-06-11
    4
  • 晓晨同学
    有个问题请教一下老师 1.一直不清楚通信协议和序列化协议的区别是什么,两者都是制定报文协议然后传输,感觉序列化协议更具体到业务属性

    作者回复: 通信协议是指我们传输信息的协议,包括头协议和包体,头协议中可能包含传输的id、包体大小、序列化方式等等信息,序列化则表示我们传输的包体的载体是什么样的格式,例如是将对象转成json格式还是转成xml格式,再转成二进制进行传输。

    2019-08-07
    3
  • nightmare
    能不能讲一下netty的串行无锁化

    作者回复: Netty中,分为Reactor主线程和Reactor从线程,主线程主要用来监听连接事件,从线程主要用来处理监听I/O事件,以及处理读写I/O操作。 一般有其他的业务操作,我们可以在handler中创建线程池来处理。但为了减少上下文切换,我们可以在ChannelPipeline上注册handler事件,例如解码过程。一般Reactor从线程监听到读操作,会立即调用ChannelPipeline的fireChannelRead方法完成读操作,在调用完读操作之后,会检查是否有其他handler,如果有,则直接调用,不会创建新的线程。 这种方式的好处是,不用创建新的线程,在从线程中串行化完成所有的I/O以及业务操作,减少上下文切换;坏处是,给从线程带来了一定的阻塞。

    2019-06-13
    3
  • 晓杰
    请问老师,对于大文件的传输,用哪种协议比较好

    作者回复: 建议使用hessian协议

    2019-06-11
    3
  • 张德
    还知道JAVA和Python系统之间互相调用的thrift

    作者回复: thrift框架也很优秀

    2019-07-07
    2
收起评论
显示
设置
留言
28
收藏
沉浸
阅读
分享
手机端
快捷键
回顶部