高并发架构:如何使方法调用无阻塞等待?

2023-01-16 0 429

高并发架构:如何使方法调用无阻塞等待?

大家好,我是TT。

这篇内容他们来聊一下高mammalian构架中的两个控制技术方式。

结语程式设计其本质上是一种触发器程式设计计划,在多处理器(PulseAudio)、触发器方式初始化、触发器 I/O 出访等控制技术基础其内,提供了整套与触发器初始化相适应环境的编程数学模型,从而实现流程初始化非堵塞、即刻积极响应等优点,即合作开发出两个结语的控制系统,以应付程式设计领域愈来愈高的mammalian处置需求。

结语控制系统应该具有如下表所示的4 个个人风格。

即刻积极响应:应用领域的初始化者可以即刻得到积极响应,无须要到整个应用领域流程继续执行完。换句话说应用领域初始化亦然堵塞的。

回灵活性:当应用领域流程部分功能失灵的时候,应用领域控制系统这类能展开人格复原,确保正常运转,确保积极响应,不会出现控制系统崩盘和无法访问的情况。

灵活性:控制系统能对应用领域阻抗阻力作出积极响应,能手动伸缩式以适应环境应用领域阻抗阻力,依照阻力手动修正另一方面的处置潜能,或者依照另一方面的处置潜能,修正进入控制系统中的出访允诺数量。

最新消息驱动力:模块间、服务项目间通过最新消息展开驱动力,以完成服务项目的业务流程。

目前非主流的结语程式设计构架有 RxJava、Reactor 等,它们的主要特征是如前所述观测者流程语言的触发器程式设计计划,程式设计数学模型采用表达式式程式设计。

观测者商业模式和表达式式程式设计有自己的竞争优势,但结语程式设计并不是必须用观测者商业模式和表达式式程式设计。他们准备合作开发两个纯最新消息驱动力,完全触发器,支持陈述句程式设计的结语程式设计构架,构架中文名称为“Flower”。

需求分析

网络及物联网情景下的应用领域控制系统合作开发,大体上都是高mammalian控制系统合作开发。换句话说,在同两个关键时刻,会有大量的使用者或电子设备允诺抵达控制系统,展开排序处置。但传统的程式设计数学模型都是堵塞式程式设计,堵塞式程式设计有甚么特征,会产生甚么问题呢?他们来看几段标识符实例。

void a(){

int x = m();

int y = n();

return x + y;

}

在方式 a 中初始化了方式 m,那么在方式 m 返回之前,就不会初始化方式 n,即方式 a 被方式 m 堵塞了。这种程式设计数学模型下,方式 m 和方式 n 不能同时执行,控制系统的运转速度就不会快,mammalian处置潜能就不会很高。

还有更严重的情况。服务项目器通常为每个使用者允诺创建两个线程,而创建的总线程数是有限的,每台服务项目器通常几百个。如果方式 m 是两个远程初始化,处置比较慢,当方式 a 初始化方式 m 时,继续执行方式 a 的线程就会被长期挂起,无法释放。如果所有线程都因为方式 m 而无法释放,导致服务项目器线程耗尽,就会使服务项目器陷入假死状态,外部表现就是服务项目器无法访问,失去积极响应,控制系统严重故障。

Flower 构架应该满足如下表所示典型 Web 应用领域的线程优点。

高并发架构:如何使方法调用无阻塞等待?

当mammalian使用者允诺抵达应用领域服务项目器时,Web 容器线程不需要继续执行应用领域流程标识符,它只是将使用者的 HTTP 允诺变为允诺对象,将允诺对象触发器交给 Flower 构架的 Service 去处置,而 Web 容器线程另一方面立刻就返回。

如果是传统的堵塞式程式设计,Web 容器线程要完成全部的允诺处置操作,直到返回积极响应结果才能释放线程,所以需要很多 Web 容器线程。但使用 Flower 构架只需要极少的容器线程就可以处置较多的mammalian使用者允诺,而且容器线程不会堵塞。

同样,在 Flower 构架中,使用者允诺交给业务 Service 对象以后,Service 间依然是使用触发器最新消息通讯而非堵塞式的初始化。两个 Service 完成业务逻辑处置排序以后,会返回两个处置结果,这个结果会以最新消息的方式触发器发送给下两个 Service。

概要设计

Flower 构架实现触发器无堵塞,一方面是利用了 Java Web 容器的触发器优点,主要是 Servlet3.0以后提供的 AsyncContext,快速释放容器线程;另一方面则利用了触发器的数据库驱动力和触发器的网络通信,主要是 HttpAsyncClient 等触发器通信组件。而 Flower 构架内,核心应用领域标识符间的触发器无堵塞初始化,则是利用了 Akka 的 Actor 数学模型。

Akka Actor 的触发器最新消息驱动力实现如下。

高并发架构:如何使方法调用无阻塞等待?

两个 Actor 向另两个 Actor 发起通讯时,当前 Actor 就是两个最新消息的发送者 Sender,它需要获得另两个 Actor 的 ActorRef,也就是两个引用,通过引用展开最新消息通信。而 ActorRef 收到最新消息以后,会将这个最新消息放到目标 Actor 的 Mailbox 里面,然后就立即返回了。

换句话说,两个 Actor 向另两个 Actor 发送最新消息时,不需要等候对方真正地处置这个最新消息,只需要将最新消息发送到目标 Actor 的 Mailbox 里面就可以了。Sender 不会被堵塞,可以继续继续执行自己的其他操作。而目标 Actor 检查自己的 Mailbox 中是否有最新消息,如果

但 Actor 程式设计数学模型无法满足人们日常的程式设计习惯以及 Flower 的陈述句编程需求,所以他们需要将 Akka Actor 封装到两个 Flower 的程式设计构架中,并通过 Flower 提供两个新的程式设计数学模型。

Flower 如前所述 Akka 的 Actor 展开合作开发,将 Service 封装到 Actor 里面,并且将 Actor 收到的最新消息作为参数传入 Service 展开初始化。

Flower 构架的主要元素包括:Flower Service(服务项目)、Flower 业务流程和 Flower 容器。其中,Service 实现两个细粒度的服务项目功能,Service 间会通过 Message 关联,前两个 Service 的返回值(Message),必须是后两个 Service 的输入参数(Message)。而 Flowe 容器就负责在 Service 间传递 Massage,从而使 Service 按照业务逻辑编辑成两个 Flow(业务流程)。

在 Flower 内部,最新消息是一等公民,如前所述 Flower 合作开发的应用领域控制系统是面向最新消息的应用领域控制系统。最新消息由 Service 产生,是 Service 的返回值;同时最新消息也是 Service 的输入。前两个 Service 的返回最新消息是下两个 Service 的输入最新消息,没有耦合的 Service 正是通过最新消息关联起来,组成两个 Service 业务流程,并最终构建出两个拥有完整处置潜能的应用领域控制系统。业务流程举例:

//-> service1-> service2-> service5-> service4

//^ ^

//-> service3-

//

详细设计

Flower 核心类图如下表所示。

高并发架构:如何使方法调用无阻塞等待?

Flower 构架核心关键类及其职责如下表所示:

1.Service 以及 HttpService 接口是构架的程式设计核心,合作开发者合作开发的 Service 需要实现 Service 或者 HttpService 接口。HttpService 与 Service 的不同在于 HttpService 在接口方式中传递 Web 参数,合作开发者利用 Web 接口可以将排序结果直接 print 到 HTTP 客户端;

2.ServiceFactory 负责使用者以及构架内置的 service 实例管理(加载*.services 文件);

3.ServiceFlow 负责业务流程管理(加载*.flow 文件);

4.ServiceActor 将 Service 封装到 Actor。

Flower 初始化及初始化时序图如下表所示。

高并发架构:如何使方法调用无阻塞等待?

图中包含两个过程,第两个过程是服务项目业务流程初始化过程。首先,合作开发者通过 ServiceFacade 初始化已经定义好的服务项目业务流程。然后,ServiceFacade 依照传入的 flow 名和 service 名,创建第两个 ServiceActor。这个 ServiceActor 将通过 ServiceFactory 来装载 Service 实例,并通过 ServiceFlow 获得当前 Service 在业务流程中所配置的后续 Service(可能有多个)。依此递归,创建后续 Service 的 ServiceActor,并记录其对应的 ActorRef。

时序图中的第二个过程是消息流处置过程。初始化者发送给 ServiceFacade 的最新消息,会被 flow 业务流程中的第两个 ServiceActor 处置,这个 ServiceActor 会初始化对应的 Service 实例,并将 Service 实例的返回值作为最新消息发送给业务流程定义的后续 ServiceActor。

使用 Flower 构架合作开发应用领域流程,就是合作开发各种 Service,合作开发服务项目 Service 类必须实现 Flower 构架的 Service 接口或者 HTTP 接口,在 process 方式内完成服务项目业务逻辑处置。Service 标识符实例如下表所示。

public class UserServiceA implements Service{

static final Logger logger = LoggerFactory.getLogger(UserServiceA.class);

@Override

public User process(User message, ServiceContext context) throws Throwable {

message.setDesc(message.getDesc()+ “–>”+ getClass().getSimpleName());

message.setAge(message.getAge()+ 1);

logger.info(“结束处置最新消息,message :{}”, message);

return message;}

}

服务项目注册

合作开发者合作开发的服务项目需要在 Flower 中注册才可以初始化,Flower 提供两种服务项目注册方式:配置文件方式和程式设计方式。

程式设计方式实例如下表所示。

ServiceFactory serviceFactory = flowerFactory.getServiceFactory();

serviceFactory.registerService(UserServiceA.class.getSimpleName(), UserServiceA.class);

serviceFactory.registerService(UserServiceB.class.getSimpleName(), UserServiceB.class);

serviceFactory.registerService(UserServiceC1.class.getSimpleName(), UserServiceC1.class);

配置文件方式支持用配置文件展开注册,服务项目定义配置文件扩展名:.services,放在 classpath 下,Flower 构架手动加载注册,比如 flowertest.services。配置文件内容如下表所示。

UserServiceA = com.ly.train.flower.base.service.user.

UserServiceAUserServiceB = com.ly.train.flower.base.service.user.

UserServiceBUserServiceC1= com.ly.train.flower.base.service.user.UserServiceC1

业务流程编排

在 Flower 中,服务项目间的依赖关系不能通过传统的服务项目间依赖初始化实现,如开头的方式 a 初始化方式 m 那样。而需要通过业务流程编排方式,实现服务项目间依赖。服务项目编排方式也有两种,配置文件方式和程式设计方式。

下面的例子演示的是以程式设计方式编排业务流程。

// UserServiceA -> UserServiceB -> UserServiceC1

final String flowName =”flowertest”;ServiceFlow

serviceFlow = serviceFactory.getOrCreateServiceFlow(flowName);

serviceFlow.buildFlow(UserServiceA.class, UserServiceB.class);

serviceFlow.buildFlow(UserServiceB.class, UserServiceC1.class);

serviceFlow.build();

而业务流程配置文件方式则使用扩展名:.flow,放在 classpath 下,Flower 构架会手动加载编排业务流程。比如 flowertest.flow,文件名 flowertest 就是业务流程的名字,业务流程继续执行时需要指定业务流程名。配置文件内容实例如下表所示。

UserServiceA -> UserServiceB

UserServiceB -> UserServiceC1

他们将服务项目 Service 标识符合作开发好,注册到了 Flower 构架中,并通过业务流程编排的方式编排了这几个 Service 的依赖关系,后面就可以用业务流程中文名称展开初始化了。初始化标识符实例如下表所示,其中 flowName 是业务流程的名字,user 是业务流程中的两个 Service 名,是业务流程开始的 Service。

final FlowRouter flowRouter = flowerFactory.buildFlowRouter(flowName,16);

flowRouter.asyncCallService(user);

构架师是一个控制技术权威,他应该是团队中最有控制技术影响力的那个人。所以,构架师需要具有卓越的标识符潜能,否则就会沦为 PPT 构架师。PPT 构架师可以一时成为团队的焦点,但无法长远让大家信服。

那么构架师应该写甚么样的标识符?构架师如果写的标识符和其他合作开发工程师的标识符一样,又何以保持自己的控制技术权威,实现控制技术领导?简单来说,标识符可以分成两种,一种标识符是给最终使用者使用的,处置使用者允诺,产生使用者需要的结果;另一种是给合作开发工程师使用的,各种程式设计语言、数据库、编译器、程式设计构架、控制技术工具等等。

程式设计语言、数据库这些是业界通用的,但程式设计构架、控制技术工具,每个公司都可以依据另一方面的业务特征,合作开发自己的构架和工具。而构架师应该是合作开发框架的那个人,每个合作开发工程师都使用构架师的合作开发构架以及约定的程式设计规范合作开发标识符。构架师通过这种方式落地自己的构架设计,保持自己的控制技术影响。

也许你的合作开发中不会用到结语程式设计,你可能也不需要深入学习 Flower 构架如何设计、如何使用。但希望你能通过本文学习到如何设计两个程式设计构架,结合你所在公司的业务情景,将来合作开发两个你自己的程式设计构架。

相关文章

发表评论
暂无评论
官方客服团队

为您解决烦忧 - 24小时在线 专业服务