如何在同一个Java进程中连接多个RocketMQ服务器-创新互联

前言

我们都知道,RocketMQ在代码级别对连接服务器进行了限制,基本上可以理解为一个JVM进程中只能连接一个NameServer,但实际应用场景中,我们可能会在架构设计层面上对RocketMQ进行了职能上的划分,规定了A服务处理A类消息,而B服务处理B类消息,这时我们应该如何解决这个问题呢?

成都创新互联公司-专业网站定制、快速模板网站建设、高性价比宁江网站开发、企业建站全套包干低至880元,成熟完善的模板库,直接使用。一站式宁江网站制作公司更省心,省钱,快速模板网站建设找我们,业务覆盖宁江地区。费用合理售后完善,十年实体公司更值得信赖。

问题的根源

我们从代码层级来分析到底为什么会产生“一个JVM实例只能连接一个NameServer”。
RocketMQ Client有一个核心类MQClientManager,在我们需要使用MQ Client实例的时候,实际上都是通过它的getAndCreateMQClientInstance方法进行创建的;名称比较拗口,同时是GetCreate,这不太符合我们所说的设计单一性原则,但这不是我们讨论的重点,我们看一看这个方法的实现

public MQClientInstance getAndCreateMQClientInstance(ClientConfig clientConfig, RPCHook rpcHook) {
        String clientId = clientConfig.buildMQClientId();
        MQClientInstance instance = (MQClientInstance)this.factoryTable.get(clientId);
        if (null == instance) {
            instance = new MQClientInstance(clientConfig.cloneClientConfig(), this.factoryIndexGenerator.getAndIncrement(), clientId, rpcHook);
            MQClientInstance prev = (MQClientInstance)this.factoryTable.putIfAbsent(clientId, instance);
            if (prev != null) {
                instance = prev;
                log.warn("Returned Previous MQClientInstance for clientId:[{}]", clientId);
            } else {
                log.info("Created new MQClientInstance for clientId:[{}]", clientId);
            }
        }

        return instance;
    }

代码不复杂,我们可以看到它利用客户的配置信息生成一个固定的clientId,以此去缓存factoryTable中查找,不存在才会创建全新一个实例。
那么,可以理解一个clientID仅能存在一个连接实例了,可这个clientId是怎么产生的呢?继续跟踪看看这段代码

public String buildMQClientId() {
        StringBuilder sb = new StringBuilder();
        sb.append(this.getClientIP());
        sb.append("@");
        sb.append(this.getInstanceName());
        if (!UtilAll.isBlank(this.unitName)) {
            sb.append("@");
            sb.append(this.unitName);
        }

        return sb.toString();
    }

代码层面上对clientId进行了约定,格式为“ClientIp@InstanceName”格式,当unitName不为空的时候还会在后面加上“@unitName”。

怎么解决?

从代码分析上我们可以知道,为了创建多实例,我们可以

  1. 设定不同的instanceName:

    instanceName从哪来的?

    instanceName = System.getProperty("rocketmq.client.name", "DEFAULT");

    从系统属性中读取出来的,也就是一般在JVM启动时设定的。。。
    可以变吗?当然,你可以通过代码去做到,但这么做的话,你会失去让人理解你代码的能力的,哈哈
    这就是为什么多少RocketMQ Client都只能连接一个服务器的原因了,它根本不考虑服务器是谁,仅关心自己,自私的家伙!

  2. 设定不同的unitName

除此之外还有其它解决方案吗?我仔细从网络上翻了一轮,没看到什么好方法,是大家都没这个场景还是有其它好办法解决了呢?欢迎大家讨论~

方法3

在上一篇博文来自平行世界的救赎里面,我做了个工具sandbox,我提供的方法3就是依托于这个工具。
sandbox通过代码隔离的方式,将另一份类定义放入沙箱中运行,从而实现多个实例完全隔离的效果。
MQClientManager通过缓存方式,以clientId作为key值存储到自身实例当中,为了实现多个Client,那么前两种方法的逻辑是修改clientId实现多个实例,而方法3的逻辑则是“既然你的缓存已经有这个key,我就换个缓存”,本质就是“你这个锅不装我,我就换个锅”。

怎么做?

这里我使用一个springboot项目作为演示案例。
通过springboot的Configuration将多个RocketMQ Client进行注册,再定义一个Controller接收不同请求去发送MQ消息,最后加上启动类。
如何在同一个Java进程中连接多个RocketMQ服务器
我们先从pom文件中引入包(我没有推上maven仓库,各位可以从github/gitee上下载),代码如下



    4.0.0

    me.van
    rocket-mq-multi-client-test
    1.0-SNAPSHOT
    jar

    测试多个rocketmq client共存

    
        org.springframework.boot
        spring-boot-starter-parent
        2.1.6.RELEASE
    

    
        UTF-8
        me.van.App
        1.8
        1.14.8
    

    
        
            org.springframework.boot
            spring-boot-starter-web
        
        
            org.projectlombok
            lombok
            ${lombok.version}
            provided
        

        
            org.apache.rocketmq
            rocketmq-client
            4.4.0
        
        
            me.van
            sandbox
            1.0.0
        
    
    
        
            
                org.springframework.boot
                spring-boot-maven-plugin
            
        
    

此处引入了apache的rocketmq-client组件作为mq客户端,也就是存在前面所说的问题的组件。

启动类

package me.van;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;

@SpringBootApplication
public class App {
    public static void main(String[] args) {
        SpringApplication.run(App.class, args);
    }
}

非常的简单,没什么好介绍的。

配置类

package me.van;

import org.apache.rocketmq.client.exception.MQClientException;
import org.apache.rocketmq.client.producer.DefaultMQProducer;
import org.apache.rocketmq.client.producer.MQProducer;
import org.springframework.beans.factory.annotation.Autowire;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

@Configuration
public class AppConfig {

    @Bean(autowire = Autowire.BY_NAME, value = "producer")
    MQProducer producer() throws MQClientException {
        DefaultMQProducer producer = new DefaultMQProducer();
        initProducer(producer, "a.io:9876;b.io:9876");
        return producer;
    }

    @Bean(autowire = Autowire.BY_NAME, value = "producer_sandbox1")
    MQProducer producerSandbox1() throws MQClientException, SandboxCannotCreateObjectException {
        DefaultMQProducer producer = createProducerInSandbox();
        initProducer(producer, "x.io:9876;y.io:9876");
        return producer;
    }

    @Bean(autowire = Autowire.BY_NAME, value = "producer_sandbox2")
    MQProducer producerSandbox2() throws MQClientException, SandboxCannotCreateObjectException {
        DefaultMQProducer producer = createProducerInSandbox();
        initProducer(producer, "1.io:9876;2.io:9876");
        return producer;
    }

    private DefaultMQProducer createProducerInSandbox() throws SandboxCannotCreateObjectException {
        Sandbox sandbox = new Sandbox("org.apache.rocketmq.client");
        return sandbox.createObject(DefaultMQProducer.class);
    }

    private void initProducer(DefaultMQProducer producer, String namesrvAddr) throws MQClientException {
        producer.setNamesrvAddr(namesrvAddr);
        producer.setProducerGroup("test-group");
        producer.setRetryAnotherBrokerWhenNotStoreOK(true);
        producer.start();
    }
}

这里可以看到,producer对象是直接new 出来的DefaultMQProducer,而producer_sandbox1producer_sandbox2是通过不同的沙箱创建出来的;三个client分别连接到不同的NameServer中,同时其它属性保持一致。

Controller

package me.van;

import org.apache.rocketmq.client.exception.MQBrokerException;
import org.apache.rocketmq.client.exception.MQClientException;
import org.apache.rocketmq.client.producer.MQProducer;
import org.apache.rocketmq.common.message.Message;
import org.apache.rocketmq.remoting.exception.RemotingException;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RestController;

@RestController
public class TestController {
    @Autowired
    MQProducer producer;
    @Autowired
    MQProducer producer_sandbox1;
    @Autowired
    MQProducer producer_sandbox2;

    @GetMapping("/")
    public String hello(){
        return "hello world";
    }

    @GetMapping("/send")
    public String send(String msg){
        if(null == msg) return "msg is null";

        String returnMsg = "";
        Message message = new Message("topic-test-multi-mq-client", msg.getBytes());
        try {
            producer.send(message);
            returnMsg += "原生producer发送完成
"; producer_sandbox1.send(message); returnMsg += "第一个沙箱内producer发送完成
"; producer_sandbox2.send(message); returnMsg += "第二个沙箱内producer发送完成
"; } catch (MQClientException | InterruptedException | RemotingException | MQBrokerException e) { returnMsg += "发送过程出现异常:" + e.getMessage(); } return returnMsg; } }

通过send方法同时向三个producer发送消息。

测试一下

运行App,等几秒钟启动完毕,访问http://localhost:8080/send,返回

msg is null

访问,http://localhost:8080/send?msg=test

如何在同一个Java进程中连接多个RocketMQ服务器

代码地址

github: https://github.com/vancoo/multi-mq-demo
gitee: https://gitee.com/vancoo/multi-mq-demo

参考文档: 来自平行世界的救赎

另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。


当前名称:如何在同一个Java进程中连接多个RocketMQ服务器-创新互联
本文路径:http://scyanting.com/article/peeso.html