主頁 > 後端開發 > 一種實作Spring動態資料源切換的方法

一種實作Spring動態資料源切換的方法

2023-06-20 07:59:44 後端開發

1 目標

不在現有查詢代碼邏輯上做任何改動,實作dao維度的資料源切換(即表維度)

2 使用場景

節約bdp的集群資源,接入新的寬表時,通常uat驗證后就會停止集群釋放資源,在對應的查詢服務器uat環境時需要查詢的是生產庫的表資料(uat庫表因為bdp實時任務停止,沒有資料落入),只進行服務器組態檔的改動而無需進行代碼的修改變更,即可按需切換查詢的資料源,

2.1 實時任務對應的集群資源

2.2 實時任務產生的資料進行存盤的兩套環境

2.3 資料使用系統的兩套環境(查詢展示資料)

即需要在zhongyouex-bigdata-uat中查詢生產庫的資料,

3 實作程序

3.1 實作重點

  1. org.springframework.jdbc.datasource.lookup.AbstractRoutingDataSource
    spring提供的這個類是本次實作的核心,能夠讓我們實作運行時多資料源的動態切換,但是資料源是需要事先配置好的,無法動態的增加資料源,
  2. Spring提供的Aop攔截執行的mapper,進行切換判斷并進行切換,

注:另外還有一個就是ThreadLocal類,用于保存每個執行緒正在使用的資料源,

3.2 AbstractRoutingDataSource決議

public abstract class AbstractRoutingDataSource extends AbstractDataSource 
implements InitializingBean{
    @Nullable
    private Map<Object, Object> targetDataSources;

    @Nullable
    private Object defaultTargetDataSource;

    @Override
    public Connection getConnection() throws SQLException {
        return determineTargetDataSource().getConnection();
    }
    protected DataSource determineTargetDataSource() {
        Assert.notNull(this.resolvedDataSources, "DataSource router not initialized");
        Object lookupKey = determineCurrentLookupKey();
        DataSource dataSource = this.resolvedDataSources.get(lookupKey);
        if (dataSource == null && (this.lenientFallback || lookupKey == null)) {
            dataSource = this.resolvedDefaultDataSource;
        }
        if (dataSource == null) {
            throw new IllegalStateException("Cannot determine target DataSource for lookup key [" + lookupKey + "]");
        }
        return dataSource;
    }
    @Override
    public void afterPropertiesSet() {
        if (this.targetDataSources == null) {
            throw new IllegalArgumentException("Property 'targetDataSources' is required");
        }
        this.resolvedDataSources = new HashMap<>(this.targetDataSources.size());
        this.targetDataSources.forEach((key, value) -> {
            Object lookupKey = resolveSpecifiedLookupKey(key);
            DataSource dataSource = resolveSpecifiedDataSource(value);
            this.resolvedDataSources.put(lookupKey, dataSource);
        });
        if (this.defaultTargetDataSource != null) {
            this.resolvedDefaultDataSource = resolveSpecifiedDataSource(this.defaultTargetDataSource);
        }
    }

從上面原始碼可以看出它繼承了AbstractDataSource,而AbstractDataSource是javax.sql.DataSource的實作類,擁有getConnection()方法,獲取連接的getConnection()方法中,重點是determineTargetDataSource()方法,它的回傳值就是你所要用的資料源dataSource的key值,有了這個key值,resolvedDataSource(這是個map,由組態檔中設定好后存入targetDataSources的,通過targetDataSources遍歷存入該map)就從中取出對應的DataSource,如果找不到,就用配置默認的資料源,

看完原始碼,我們可以知道,只要擴展AbstractRoutingDataSource類,并重寫其中的determineCurrentLookupKey()方法回傳自己想要的key值,就可以實作指定資料源的切換!

3.3 運行流程

  1. 我們自己寫的Aop攔截Mapper
  2. 判斷當前執行的sql所屬的命名空間,然后使用命名空間作為key讀取系統組態檔獲取當前mapper是否需要切換資料源
  3. 執行緒再從全域靜態的HashMap中取出當前要用的資料源
  4. 回傳對應資料源的connection去做相應的資料庫操作

3.4 不切換資料源時的正常配置

<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans"
       xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns:tx="http://www.springframework.org/schema/tx"
       xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans.xsd http://www.springframework.org/schema/tx http://www.springframework.org/schema/tx/spring-tx.xsd">

<!-- clickhouse資料源   -->
    <bean id="dataSourceClickhousePinpin"  destroy-method="close" lazy-init="true">
        <property name="url" value="https://www.cnblogs.com/Jcloud/archive/2023/06/19/${clickhouse.jdbc.pinpin.url}" />
    </bean>

    <bean id="singleSessionFactoryPinpin" >
        <!-- ref直接指向 資料源dataSourceClickhousePinpin  -->
<property name="dataSource" ref="dataSourceClickhousePinpin" />
    </bean>

</beans>

3.5 進行動態資料源切換時的配置

<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans"       xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns:tx="http://www.springframework.org/schema/tx"       xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans.xsd http://www.springframework.org/schema/tx http://www.springframework.org/schema/tx/spring-tx.xsd">
<!-- clickhouse資料源 1  -->
    <bean id="dataSourceClickhousePinpin"  destroy-method="close" lazy-init="true">
        <property name="url" value="https://www.cnblogs.com/Jcloud/archive/2023/06/19/${clickhouse.jdbc.pinpin.url}" />
    </bean>
<!-- clickhouse資料源 2  -->
    <bean id="dataSourceClickhouseOtherPinpin"  destroy-method="close" lazy-init="true">
        <property name="url" value="https://www.cnblogs.com/Jcloud/archive/2023/06/19/${clickhouse.jdbc.other.url}" />
    </bean>
 <!-- 新增配置 封裝注冊的兩個資料源到multiDataSourcePinpin里 -->
 <!-- 對應的key分別是 defaultTargetDataSource和targetDataSources-->
    <bean id="multiDataSourcePinpin" >
      <!-- 默認使用的資料源-->
<property name="defaultTargetDataSource" ref="dataSourceClickhousePinpin"></property>
        <!-- 存盤其他資料源,對應原始碼中的targetDataSources -->
<property name="targetDataSources">
            <!-- 該map即為原始碼中的resolvedDataSources-->
            <map>
                <!-- dataSourceClickhouseOther 即為要切換的資料源對應的key -->
<entry key="dataSourceClickhouseOther" value-ref="dataSourceClickhouseOtherPinpin"></entry>
            </map>
        </property>
    </bean>

    <bean id="singleSessionFactoryPinpin" >
        <!-- ref指向封裝后的資料源multiDataSourcePinpin  -->
<property name="dataSource" ref="multiDataSourcePinpin" />
    </bean>
</beans>

核心是AbstractRoutingDataSource,由spring提供,用來動態切換資料源,我們需要繼承它,來進行操作,這里我們自定義的com.zhongyouex.bigdata.common.aop.MultiDataSource就是繼承了AbstractRoutingDataSource

package com.zhongyouex.bigdata.common.aop;

import org.springframework.jdbc.datasource.lookup.AbstractRoutingDataSource;
/**
 * @author: cuizihua
 * @description: 動態資料源
 * @date: 2021/9/7 20:24
 * @return
 */
public class MultiDataSource extends AbstractRoutingDataSource {

    /* 存盤資料源的key值,InheritableThreadLocal用來保證父子執行緒都能拿到值,
     */
    private static final ThreadLocal<String> dataSourceKey = new InheritableThreadLocal<String>();

    /**
     * 設定dataSourceKey的值
     *
     * @param dataSource
     */
    public static void setDataSourceKey(String dataSource) {
        dataSourceKey.set(dataSource);
    }

    /**
     * 清除dataSourceKey的值
     */
    public static void toDefault() {
        dataSourceKey.remove();
    }

    /**
     * 回傳當前dataSourceKey的值
     */
    @Override
    protected Object determineCurrentLookupKey() {
        return dataSourceKey.get();
    }
}

3.6 AOP代碼

package com.zhongyouex.bigdata.common.aop;
import com.zhongyouex.bigdata.common.util.LoadUtil;
import lombok.extern.slf4j.Slf4j;
import org.aspectj.lang.JoinPoint;
import org.aspectj.lang.reflect.MethodSignature;
import java.lang.reflect.Method;

/**
 * 方法攔截  粒度在mapper上(對應的sql所屬xml)
 * @author cuizihua
 * @desc 切換資料源
 * @create 2021-09-03 16:29
 **/
@Slf4j
public class MultiDataSourceInterceptor {
//動態資料源對應的key
    private final String otherDataSource = "dataSourceClickhouseOther";

    public void beforeOpt(JoinPoint mi) {
//默認使用默認資料源
        MultiDataSource.toDefault();
        //獲取執行該方法的資訊
        MethodSignature signature = (MethodSignature) mi.getSignature();
        Method method = signature.getMethod();
        String namespace = method.getDeclaringClass().getName();
//本專案命名空間統一的規范為xxx.xxx.xxxMapper
        namespace = namespace.substring(namespace.lastIndexOf(".") + 1);
//這里在組態檔配置的屬性為xxxMapper.ck.switch=1 or 0  1表示切換
        String isOtherDataSource = LoadUtil.loadByKey(namespace, "ck.switch");
        if ("1".equalsIgnoreCase(isOtherDataSource)) {
            MultiDataSource.setDataSourceKey(otherDataSource);
            String methodName = method.getName();
        }
    }
}

3.7 AOP代碼邏輯說明

通過org.aspectj.lang.reflect.MethodSignature可以獲取對應執行sql的xml空間名稱,拿到sql對應的xml命名空間就可以獲取組態檔中配置的屬性決定該xml是否開啟切換資料源了,

3.8 對應的aop配置

<!--動態資料源-->
<bean id="multiDataSourceInterceptor"  ></bean>
<!--將自定義攔截器注入到spring中-->
<aop:config proxy-target- expose-proxy="true">
    <aop:aspect ref="multiDataSourceInterceptor">
        <!--切入點,也就是你要監控哪些類下的方法,這里寫的是DAO層的目錄,運算式需要保證只掃描dao層-->
        <aop:pointcut id="multiDataSourcePointcut" expression="execution(*  com.zhongyouex.bigdata.clickhouse..*.*(..)) "/>
        <!--在該切入點使用自定義攔截器-->
        <aop:before method="beforeOpt" pointcut-ref="multiDataSourcePointcut" />
    </aop:aspect>
</aop:config>

以上就是整個實作程序,希望能幫上有需要的小伙伴

作者:京東物流 崔子華

來源:京東云開發者社區

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/555550.html

標籤:其他

上一篇:java~搞懂Comparable介面的compareTo方法

下一篇:返回列表

標籤雲
其他(161271) Python(38242) JavaScript(25505) Java(18249) C(15237) 區塊鏈(8271) C#(7972) AI(7469) 爪哇(7425) MySQL(7258) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5875) 数组(5741) R(5409) Linux(5347) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4603) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2436) ASP.NET(2404) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) .NET技术(1984) HtmlCss(1968) 功能(1967) Web開發(1951) C++(1942) python-3.x(1918) 弹簧靴(1913) xml(1889) PostgreSQL(1881) .NETCore(1863) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • 一種實作Spring動態資料源切換的方法

    ## 1 目標 不在現有查詢代碼邏輯上做任何改動,實作dao維度的資料源切換(即表維度) ## 2 使用場景 節約bdp的集群資源。接入新的寬表時,通常uat驗證后就會停止集群釋放資源,在對應的查詢服務器uat環境時需要查詢的是生產庫的表資料(uat庫表因為bdp實時任務停止,沒有資料落入),只進行 ......

    uj5u.com 2023-06-20 07:59:44 more
  • java~搞懂Comparable介面的compareTo方法

    `Comparable` 介面的 `compareTo` 方法的升序或降序取決于實作該介面的類的具體實作。按照慣例,`compareTo` 方法應該回傳負數、零或正數來指示當前物件是小于、等于還是大于傳入的物件。具體來說: - 如果 `this` 物件小于傳入的物件,則 `compareTo` 應該 ......

    uj5u.com 2023-06-20 07:59:36 more
  • ElasticSearch的使用和介紹

    # 1、概述 ## 功能 Elasticsearch 是一個分布式的 RESTful 搜索和分析引擎,可用來集中存盤您的資料,以便您對形形色色、規模不一的資料進行搜索、索引和分析。 例如: - 在電商網站搜索商品 ![image](https://img2023.cnblogs.com/blog/3 ......

    uj5u.com 2023-06-20 07:54:11 more
  • Java 運算子的使用

    # Java 運算子的使用 # 1.算術運算子 ## 算術運算子包括: +, -, *, /, %, ++, --,其中需要注意的是%,++,--; ## % 取模運算也叫做取余,在 Java 中取余的規則: a % b = a - a / b * b,如果是小數的話是這樣:a % b = a- ( ......

    uj5u.com 2023-06-20 07:48:58 more
  • 【python基礎】函式-值傳遞

    為了更好的認識函式,我們還要研究值傳遞問題,再研究這個問題之前,我們已經知道了函式之間的值傳遞,是實參變數值傳遞給形參變數,然后讓形參變數在函式內完成相應的功能。但是因為資料型別的不同,這里的值傳遞產生的對實參變數的效果是不同的 # 1.傳遞資料本質 引數傳遞之間傳遞的肯定是資料,而這種資料本質上是 ......

    uj5u.com 2023-06-20 07:43:39 more
  • Spring Boot 優雅實作多租戶架構,so easy~!

    ## 一、概述 ### 1.什么是多租戶架構? 多租戶架構是指在一個應用中支持多個租戶(Tenant)同時訪問,每個租戶擁有獨立的資源和資料,并且彼此之間完全隔離。通俗來說,多租戶就是把一個應用按照客戶的需求“分割”成多個獨立的實體,每個實體互不干擾。 ### 2. 多租戶架構的優勢 - 更好地滿足 ......

    uj5u.com 2023-06-20 07:43:30 more
  • Scala高階語法

    # 高階函式 ## 函式可以作為引數進行傳遞和回傳值進行回傳 ```Scala //傳一個a乘b 就回傳一個函式,邏輯是實作兩數相乘 //傳一個a*b 回傳一個函式,邏輯是實作兩數相乘 //傳一個axb 回傳一個函式,邏輯是實作兩數相乘 def funTest6(str:String,fun:(St ......

    uj5u.com 2023-06-20 07:43:05 more
  • Python 標準類別庫-并發執行之multiprocessing-基于行程的并行

    ### 實踐環境 Python3.6 ### 介紹 `multiprocessing`是一個支持使用類似于執行緒模塊的API派生行程的包。該包同時提供本地和遠程并發,通過使用子行程而不是執行緒,有效地避開了全域解釋器鎖。因此,`multiprocessing`模塊允許程式員充分利用給定機器上的多個處理器 ......

    uj5u.com 2023-06-20 07:40:46 more
  • 【python基礎】函式-值傳遞

    為了更好的認識函式,我們還要研究值傳遞問題,再研究這個問題之前,我們已經知道了函式之間的值傳遞,是實參變數值傳遞給形參變數,然后讓形參變數在函式內完成相應的功能。但是因為資料型別的不同,這里的值傳遞產生的對實參變數的效果是不同的 # 1.傳遞資料本質 引數傳遞之間傳遞的肯定是資料,而這種資料本質上是 ......

    uj5u.com 2023-06-20 07:40:30 more
  • JAVA SE基礎《一》----JAVA入門

    初識Java 1.Java背景知識 java是美國sun公司(Stanford University Network)在1995年推出的一門計算機高級編程語言。 Java早期稱為Oak(橡樹),后期改名為Java。 Java之父:詹姆斯·高斯林(James Gosling)。 2009年sun公司被 ......

    uj5u.com 2023-06-20 07:39:41 more