百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

SpringBoot中多数据库下使用MongoDB连接池

nanshan 2025-04-11 03:00 27 浏览 0 评论

背景

对于PaaS平台注册租户,每个租户的数据库隔离,也就是每个租户拥有自己单独的数据库。每个租户下可以创建多个应用,每个应用也是单独的数据库。在实际业务处理时,会根据租户和应用,动态的链接数据库。由于是动态的创建数据库,如果连接池不能复用,就意味着系统会由于日益增多的租户,而导致数据库数量持续增长,最终由于不能复用连接池,导致DB连接数过多,系统会逐渐变慢,最终导致CPU负荷过高而导致系统崩溃。


MongoDB连接池配置

#============== mongoDB连接配置 ===================
#格式: mongodb://账号:密码@ip:端口/数据库?认证数据库。例如:mongodb://root:admin@localhost/mongotest?authSource=admin
spring.data.mongodb.uri=mongodb://ip:port/your_db?waitQueueMultiple=100&connectTimeoutMS=100&minPoolSize=10&maxPoolSize=10&slaveOk=true&write=1&readPreference=secondaryPreferred
#以逗号分隔的主机:端口对列表
spring.data.mongodb.address=ip:port
#默认链接的数据库(需要与URI对应)
spring.data.mongodb.database=your_db

# Configure spring.data.mongodbDB Pool
# 每个host的TCP连接数
spring.data.mongodb.connectionsPerHost=10
# 每个host的最小TCP连接数
spring.data.mongodb.minConnectionsPerHost=10
# 计算允许多少个线程阻塞等待可用TCP连接时的乘数( 连接池里的连接数 )
# 算法:threadsAllowedToBlockForConnectionMultiplier*connectionsPerHost
spring.data.mongodb.threadsAllowedToBlockForConnectionMultiplier=1
spring.data.mongodb.serverSelectionTimeout=5000
# 当连接池无可用连接时客户端阻塞等待的时长,单位毫秒
spring.data.mongodb.maxWaitTime=15000
# TCP连接闲置时间,单位毫秒
spring.data.mongodb.maxConnectionIdleTime=3600000
# TCP连接最多可以使用多久,单位毫秒
spring.data.mongodb.maxConnectionLifeTime=3600000
# 连接超时时间,必须大于0,单位毫秒
spring.data.mongodb.connectTimeout=5000
# socket超时时间,单位毫秒
spring.data.mongodb.socketTimeout=5000
spring.data.mongodb.socketKeepAlive=true
spring.data.mongodb.sslEnabled=false
spring.data.mongodb.sslInvalidHostNameAllowed=false
spring.data.mongodb.alwaysUseMBeans=false
# 设置心跳频率。 这是驱动程序将尝试确定群集中每个服务器的当前状态的频率。 默认值为10,000毫秒
spring.data.mongodb.heartbeatFrequency=10000
# 设置最小心跳频率。 如果驱动程序必须经常重新检查服务器的可用性,它将至少在上一次检查后等待很长时间,以避免浪费精力。 默认值为500毫秒。
spring.data.mongodb.minHeartbeatFrequency=500
# 设置用于集群心跳的连接的连接超时,单位毫秒
spring.data.mongodb.heartbeatConnectTimeout=20000
# 设置用于集群心跳的连接的套接字超时,单位毫秒
spring.data.mongodb.heartbeatSocketTimeout=20000
# 本地阈值
spring.data.mongodb.localThreshold=15


SpringBoot中操作MongoDB操作实例产生的过程

从上的图中我们可以看出,产生MongoClient实例的方式有两种:一种是通过MongoClientURI;另外一种是直接实例化MongoClient。通过MongoClientURI内部会实例化一个ConnectionString

public ConnectionString(String connectionString) {
        this.connectionString = connectionString;
        boolean isMongoDBProtocol = connectionString.startsWith("mongodb://");
        this.isSrvProtocol = connectionString.startsWith("mongodb+srv://");
        if (!isMongoDBProtocol && !this.isSrvProtocol) {
            throw new IllegalArgumentException(String.format("The connection string is invalid. Connection strings must start with either '%s' or '%s", "mongodb://", "mongodb+srv://"));
        } else {
            String unprocessedConnectionString;
            if (isMongoDBProtocol) {
                unprocessedConnectionString = connectionString.substring("mongodb://".length());
            } else {
                unprocessedConnectionString = connectionString.substring("mongodb+srv://".length());
            }

            int idx = unprocessedConnectionString.indexOf("/");
            String userAndHostInformation;
            if (idx == -1) {
                if (unprocessedConnectionString.contains("?")) {
                    throw new IllegalArgumentException("The connection string contains options without trailing slash");
                }

                userAndHostInformation = unprocessedConnectionString;
                unprocessedConnectionString = "";
            } else {
                userAndHostInformation = unprocessedConnectionString.substring(0, idx);
                unprocessedConnectionString = unprocessedConnectionString.substring(idx + 1);
            }

            String userName = null;
            char[] password = null;
            idx = userAndHostInformation.lastIndexOf("@");
            String hostIdentifier;
            if (idx > 0) {
                String userInfo = userAndHostInformation.substring(0, idx).replace("+", "%2B");
                hostIdentifier = userAndHostInformation.substring(idx + 1);
                int colonCount = this.countOccurrences(userInfo, ":");
                if (userInfo.contains("@") || colonCount > 1) {
                    throw new IllegalArgumentException("The connection string contains invalid user information. If the username or password contains a colon (:) or an at-sign (@) then it must be urlencoded");
                }

                if (colonCount == 0) {
                    userName = this.urldecode(userInfo);
                } else {
                    idx = userInfo.indexOf(":");
                    userName = this.urldecode(userInfo.substring(0, idx));
                    password = this.urldecode(userInfo.substring(idx + 1), true).toCharArray();
                }
            } else {
                hostIdentifier = userAndHostInformation;
            }

            List unresolvedHosts = Collections.unmodifiableList(this.parseHosts(Arrays.asList(hostIdentifier.split(","))));
            if (this.isSrvProtocol) {
                if (unresolvedHosts.size() > 1) {
                    throw new IllegalArgumentException("Only one host allowed when using mongodb+srv protocol");
                }

                if (((String)unresolvedHosts.get(0)).contains(":")) {
                    throw new IllegalArgumentException("Host for when using mongodb+srv protocol can not contain a port");
                }
            }

            this.hosts = unresolvedHosts;
            idx = unprocessedConnectionString.indexOf("?");
            String nsPart;
            if (idx == -1) {
                nsPart = unprocessedConnectionString;
                unprocessedConnectionString = "";
            } else {
                nsPart = unprocessedConnectionString.substring(0, idx);
                unprocessedConnectionString = unprocessedConnectionString.substring(idx + 1);
            }

            if (nsPart.length() > 0) {
                nsPart = this.urldecode(nsPart);
                idx = nsPart.indexOf(".");
                if (idx < 0) {
                    this.database = nsPart;
                    this.collection = null;
                } else {
                    this.database = nsPart.substring(0, idx);
                    this.collection = nsPart.substring(idx + 1);
                }

                MongoNamespace.checkDatabaseNameValidity(this.database);
            } else {
                this.database = null;
                this.collection = null;
            }

            String txtRecordsQueryParameters = this.isSrvProtocol ? (new DefaultDnsResolver()).resolveAdditionalQueryParametersFromTxtRecords((String)unresolvedHosts.get(0)) : "";
            Map<String, List> connectionStringOptionsMap = this.parseOptions(unprocessedConnectionString);
            Map<String, List> txtRecordsOptionsMap = this.parseOptions(txtRecordsQueryParameters);
            if (!ALLOWED_OPTIONS_IN_TXT_RECORD.containsAll(txtRecordsOptionsMap.keySet())) {
                throw new MongoConfigurationException(String.format("A TXT record is only permitted to contain the keys %s, but the TXT record for '%s' contains the keys %s", ALLOWED_OPTIONS_IN_TXT_RECORD, unresolvedHosts.get(0), txtRecordsOptionsMap.keySet()));
            } else {
                Map<String, List> combinedOptionsMaps = this.combineOptionsMaps(txtRecordsOptionsMap, connectionStringOptionsMap);
                if (this.isSrvProtocol && !combinedOptionsMaps.containsKey("ssl")) {
                    combinedOptionsMaps.put("ssl", Collections.singletonList("true"));
                }

                this.translateOptions(combinedOptionsMaps);
                this.credential = this.createCredentials(combinedOptionsMaps, userName, password);
                this.warnOnUnsupportedOptions(combinedOptionsMaps);
            }
        }
    }

从构造函数中可以看到,ConnectionString在实例化时,也是对传入进来的URI进行了一些的校验和处理,通过URI获取用户名、密码等等信息。我们再看下SimpleMongoDbFactory

public class SimpleMongoDbFactory extends MongoDbFactorySupport implements DisposableBean {
    public SimpleMongoDbFactory(MongoClientURI uri) {
        this(new MongoClient(uri), uri.getDatabase(), true);
    }

    public SimpleMongoDbFactory(MongoClient mongoClient, String databaseName) {
        this(mongoClient, databaseName, false);
    }

    private SimpleMongoDbFactory(MongoClient mongoClient, String databaseName, boolean mongoInstanceCreated) {
        super(mongoClient, databaseName, mongoInstanceCreated, new MongoExceptionTranslator());
    }

    public DB getLegacyDb() {
        return ((MongoClient)this.getMongoClient()).getDB(this.getDefaultDatabaseName());
    }

    public ClientSession getSession(ClientSessionOptions options) {
        return ((MongoClient)this.getMongoClient()).startSession(options);
    }

    protected void closeClient() {
        ((MongoClient)this.getMongoClient()).close();
    }

    protected MongoDatabase doGetMongoDatabase(String dbName) {
        return ((MongoClient)this.getMongoClient()).getDatabase(dbName);
    }
}

从第一个构造函数里面就可以得出一个信息,通过URI最终仍是构造出一个MongoClient实例,所以通过MongoClientURI方式创建的MongoTemplate,虽然有连接池的作用,但是由于MongoClient实例不同,数据库连接池并没有共享!


按照业务背景需要,每个数据库都应该有自己专属的MongoTemplate,否则数据库操作就乱套了。但是从底层往上创建MongoTemplate过程中,若是能够复用MongoClient,那么就可以做到不同的DB实例共享同一个数据库连接池。所以我们应该让MongoClient共享,这样数据库连接池才能都是从一处控制。


自定义一个动态获取指定DB操作实例的公共类

public class SelfMongoTemplate {
    private static final Logger LOG = LoggerFactory.getLogger(SelfMongoTemplate.class);

    private static MongoClient mongoClient = null;

    //获取连接池配置对象
    public static MongoClientOptions.Builder getBuiler() {
        return BeanUtil.getBean("globalMongoPoolConfig", MongoClientOptions.Builder.class);
    }

    //带有连接池的Mongo客户端
    public static MongoClient getMongoClient() {
        // double check 确保单例
        if (null == mongoClient) {
            synchronized (SelfMongoTemplate.class) {
                if (null == mongoClient) {
                    // MongoDB地址列表
                    String[] addressList = Sysconfig.mongoAddress.split(",");
                    List serverAddresses = new ArrayList();
                    for (String address : addressList) {
                        String[] hostAndPort = address.split(":");
                        ServerAddress serverAddress = new ServerAddress(hostAndPort[0], Integer.parseInt(hostAndPort[1]));
                        serverAddresses.add(serverAddress);
                    }

                    // 创建非认证客户端
                    mongoClient = new MongoClient(serverAddresses, getBuiler().build());
                }
            }
        }

        return mongoClient;
    }

    public static MongoDbFactory getDbFactory(String dbName) {
        String beanName = FuncUtil.joinStr(dbName, "_mongoDbFactory");

        if (BeanUtil.hasBean(beanName)) {
            return BeanUtil.getBean(beanName, MongoDbFactory.class);
        }

        BeanUtil.registerBean(beanName, SimpleMongoDbFactory.class, getMongoClient(), dbName);

        return BeanUtil.getBean(beanName, MongoDbFactory.class);
    }

    /**
     * 获取数据库实例下面所有的数据库名称
     * @return
     */
    public static ArrayList listDatabaseNames() {
        ArrayList dbs = new ArrayList<>();

        MongoIterable list = getMongoClient().listDatabaseNames();

        for (String dbName : list) {
            dbs.add(dbName);
        }

        return dbs;
    }

    public static MongoTemplate getMongoDBTemplate(String dbName) {
        String beanName = FuncUtil.joinStr(dbName, "_mongoTemplate");

        if (BeanUtil.hasBean(beanName)) {
            return BeanUtil.getBean(beanName, MongoTemplate.class);
        }

        synchronized (SelfMongoTemplate.class) {
            if (!BeanUtil.hasBean(beanName)) {
                //动态注册一个MongoTemplate实例bean
                BeanUtil.registerBean(beanName, MongoTemplate.class, getDbFactory(dbName));
            }
        }

        return BeanUtil.getBean(beanName, MongoTemplate.class);
    }
}

相关推荐

0722-6.2.0-如何在RedHat7.2使用rpm安装CDH(无CM)

文档编写目的在前面的文档中,介绍了在有CM和无CM两种情况下使用rpm方式安装CDH5.10.0,本文档将介绍如何在无CM的情况下使用rpm方式安装CDH6.2.0,与之前安装C5进行对比。环境介绍:...

ARM64 平台基于 openEuler + iSula 环境部署 Kubernetes

为什么要在arm64平台上部署Kubernetes,而且还是鲲鹏920的架构。说来话长。。。此处省略5000字。介绍下系统信息;o架构:鲲鹏920(Kunpeng920)oOS:ope...

生产环境starrocks 3.1存算一体集群部署

集群规划FE:节点主要负责元数据管理、客户端连接管理、查询计划和查询调度。>3节点。BE:节点负责数据存储和SQL执行。>3节点。CN:无存储功能能的BE。环境准备CPU检查JDK...

在CentOS上添加swap虚拟内存并设置优先级

现如今很多云服务器都会自己配置好虚拟内存,当然也有很多没有配置虚拟内存的,虚拟内存可以让我们的低配服务器使用更多的内存,可以减少很多硬件成本,比如我们运行很多服务的时候,内存常常会满,当配置了虚拟内存...

国产深度(deepin)操作系统优化指南

1.升级内核随着deepin版本的更新,会自动升级系统内核,但是我们依旧可以通过命令行手动升级内核,以获取更好的性能和更多的硬件支持。具体操作:-添加PPAs使用以下命令添加PPAs:```...

postgresql-15.4 多节点主从(读写分离)

1、下载软件[root@TX-CN-PostgreSQL01-252software]#wgethttps://ftp.postgresql.org/pub/source/v15.4/postg...

Docker 容器 Java 服务内存与 GC 优化实施方案

一、设置Docker容器内存限制(生产环境建议)1.查看宿主机可用内存bashfree-h#示例输出(假设宿主机剩余16GB可用内存)#Mem:64G...

虚拟内存设置、解决linux内存不够问题

虚拟内存设置(解决linux内存不够情况)背景介绍  Memory指机器物理内存,读写速度低于CPU一个量级,但是高于磁盘不止一个量级。所以,程序和数据如果在内存的话,会有非常快的读写速度。但是,内存...

Elasticsearch性能调优(5):服务器配置选择

在选择elasticsearch服务器时,要尽可能地选择与当前业务量相匹配的服务器。如果服务器配置太低,则意味着需要更多的节点来满足需求,一个集群的节点太多时会增加集群管理的成本。如果服务器配置太高,...

Es如何落地

一、配置准备节点类型CPU内存硬盘网络机器数操作系统data节点16C64G2000G本地SSD所有es同一可用区3(ecs)Centos7master节点2C8G200G云SSD所有es同一可用区...

针对Linux内存管理知识学习总结

现在的服务器大部分都是运行在Linux上面的,所以,作为一个程序员有必要简单地了解一下系统是如何运行的。对于内存部分需要知道:地址映射内存管理的方式缺页异常先来看一些基本的知识,在进程看来,内存分为内...

MySQL进阶之性能优化

概述MySQL的性能优化,包括了服务器硬件优化、操作系统的优化、MySQL数据库配置优化、数据库表设计的优化、SQL语句优化等5个方面的优化。在进行优化之前,需要先掌握性能分析的思路和方法,找出问题,...

Linux Cgroups(Control Groups)原理

LinuxCgroups(ControlGroups)是内核提供的资源分配、限制和监控机制,通过层级化进程分组实现资源的精细化控制。以下从核心原理、操作示例和版本演进三方面详细分析:一、核心原理与...

linux 常用性能优化参数及理解

1.优化内核相关参数配置文件/etc/sysctl.conf配置方法直接将参数添加进文件每条一行.sysctl-a可以查看默认配置sysctl-p执行并检测是否有错误例如设置错了参数:[roo...

如何在 Linux 中使用 Sysctl 命令?

sysctl是一个用于配置和查询Linux内核参数的命令行工具。它通过与/proc/sys虚拟文件系统交互,允许用户在运行时动态修改内核参数。这些参数控制着系统的各种行为,包括网络设置、文件...

取消回复欢迎 发表评论: