14、避免流量打到未启动完成的节点

你好,我是何小锋。上一讲我们介绍了优雅停机,就是为了让服务提供方在停机应用的时候,保证所有调用方都能“安全”地切走流量,不再调用自己,从而做到对业务无损。其中实现的关键点就在于,让正在停机的服务提供方应用有状态,让调用方感知到服务提供方正在停机。 接...

13、避免服务停机带来业务损失

你好,我是何小锋。上一讲我们讲了“异常重试”,总结来说,异常重试就是为了尽最大可能保证接口可用率的一种手段,但这种策略只能用在幂等接口上,否则就会因为重试导致应用系统数据“写花”。 接着昨天的内容,今天我们再来聊聊RPC中的关闭流程。 关闭为什么有问...

12、在约定时间内安全可靠地重试

你好,我是何小锋。上一讲我讲解了在RPC框架中如何设计自适应的负载均衡,其关键点就是调用端收集服务端每个节点的指标数据,再根据各方面的指标数据进行计算打分,最后根据每个节点的分数,将更多的流量打到分数较高的节点上。 今天我们就继续下一个话题,讲讲RP...

11、节点负载差距这么大,为什么收到的流量还一样?

你好,我是何小锋。上一讲我讲解了“多场景的路由选择”,其核心就是“如何根据不同的场景控制选择合适的目标机器”。今天我们来聊一个新的话题,看看在RPC中如何实现负载均衡。 一个需求在进入主题之前,我想先和你分享一个需求,这是我们公司的业务部门给我们提的...

10、让请求按照设定的规则发到不同的节点上

你好,我是何小锋。上一讲我们介绍了健康检测在RPC中的作用,简单来讲就是帮助调用方应用来管理所有服务提供方的连接,并动态维护每个连接的状态,方便服务调用方在每次发起请求的时候都可以拿到一个可用的连接。回顾完上一讲的重点,我们就切入今天的主题——RPC...