主頁 > 後端開發 > 一個mysql的group_concat導致的問題

一個mysql的group_concat導致的問題

2023-05-28 07:30:33 後端開發

  好久都沒有寫點東西了,是時候有點寫東西的必要了,

  去年下年底離職了,躺了幾個月,最近又兜兜轉轉換了一家公司繼續當牛馬了,前段時間八股文背了好多,難受呀,不過我也趁著前段時間自己也整理了屬于我自己的八股文,有好幾萬字吧,哈哈哈,以后就不用到處去找八股文了,

  說回正題,這個group_concat的問題是最近在修復一個問題的時候發現的,是以前的人挖的坑,最近都不知道填了多少坑了,特喵的,

一. 問題背景

  一個機構樹的表,就是那種有層級的,類似于下圖這樣的,然后我想查詢某一個公司下所有部門的員工,我們就要把這個機構表遞回找到一個公司下所有的部門,然后關聯一下用戶表查詢就行了

 

  但是有人為了追求性能高一點,就把遞回查詢機構的邏輯使用使用find_in_set()函式和group_concat()函式封裝成了mysq的自定義函式,然后呼叫的時候在sql級別進行處理了, 

DROP FUNCTION IF EXISTS queryChildrenAreaInfo;
DELIMITER ;;
CREATE FUNCTION queryChildrenAreaInfo(areaId INT)
RETURNS VARCHAR(4000)
BEGIN
DECLARE sTemp VARCHAR(4000);
DECLARE sTempChd VARCHAR(4000);
SET sTemp='$';
SET sTempChd = CAST(areaId AS CHAR);
WHILE sTempChd IS NOT NULL DO
SET sTemp= CONCAT(sTemp,',',sTempChd);
SELECT GROUP_CONCAT(id) INTO sTempChd FROM t_areainfo WHERE FIND_IN_SET(parent_id,sTempChd)>0;
END WHILE;
RETURN sTemp;
END
;;
DELIMITER ;

 

  使用這種方式,在測驗環境肯定沒問題,但是到了生產環境機構表資料多了之后肯定就會踩坑,GROUP_CONCAT(id)回傳的資料有最大限制的,可以使用SHOW VARIABLES LIKE "group_concat_max_len" 進行查詢,默認是1024個位元組,下圖所示,

  也就是如果查詢的資料超過1024個位元組后,只會保留前1024個位元組的資料,至于修復方法,需要修改mysql組態檔或者使用sql陳述句臨時修改:SET GLOBAL group_concat_max_len=10240000SET SESSION group_concat_max_len=10240000;

 

  如果沒有修改的話,就可能導致一個問題,一樣的代碼在測驗環境跑的很正常,一到生產上就拉胯,你肯定以為是代碼哪里和生產不一致,可能比對了很久,然后測驗環境自己也測驗了n次,但就是生產上資料不完整,此時你就會兩眼無神,懷疑人生....

 

二 解決方

  2.1. 直接修改mysql的組態檔,擴大group_concat_max_len的最大容量,至于擴大到多少,就要靠你自己去根據資料量去衡量了,不過一般的開發也不想去為了這個一點問題就改生產資料庫配置吧,麻煩....

  2.2 如果是oracle資料庫,自帶了遞回查詢的關鍵字:start with connect by prior, 有興趣的可以自己研究一下,挺好用的,但是如果專案中是mysql資料庫,那就不適用了

  2.3 使用sql進行遞回查詢,不過這種sql就是很雞兒難看懂,要是讓你維護這樣的sql你想打人的心都有了,所以我也不是很推薦

-- 根據?個?節點為id為1 查詢所有?節點(包含??)
SELECT au.id, au.name, au.parent_id
  FROM (SELECT * FROM t_areainfo WHERE parent_id IS NOT NULL) au,
       (SELECT @pid := 1) pd
 WHERE FIND_IN_SET(parent_id, @pid) > 0
   AND @pid := concat(@pid, ',', id)
UNION
SELECT id, name, parent_id
  FROM t_areainfo
 WHERE id = '1'
 ORDER BY id;  

 

  2.4. 其實我們陷入了誤區了,想一想有必要把這么復雜的邏輯都放到sql陳述句上處理么?其實這種越復雜的sql,會給服務器的壓力也是倍增的,而且特別難排查出問題,這點是最致命的,因為只要能排查出來的問題就都不是問題,

  我的解決方案是: 首先查詢出所有的機構資訊,注意,如果機構資訊太多,我們可以再細化,比如先查詢一級機構,再查詢二級機構....分批次去查詢我們的資料,再記憶體級別進行組裝; 然后根據我們查詢的機構資訊再呼叫一次資料庫查詢用戶資訊就好了,雖然和資料庫互動可能多了兩三次,但是邏輯變得簡單了,有問題一下子就能排查出來了,

  錯誤示范: 先查詢一級機構下所有的部門,然后遍歷每一個部門分別再去資料庫中查詢下一級部門.....這樣你會被打死的,千萬不要回圈中嵌套著查詢資料庫的邏輯

三 還有話說

  繼續瞎逼逼幾句,最近就是搞公司的歷史遺留的專案,技術堆疊老,問題多,一個幾萬用戶的對內商城專案,扣減庫存的邏輯是查詢資料庫,記憶體中扣減了之后再將庫存更新到資料庫中......看到代碼我都驚呆了呀,

  由于我剛來沒幾個月,之前聽他們討論有什么超賣問題,我想著這尼瑪不超賣就出了鬼了, 然后我就提出了這個缺陷, 并使用了資料庫樂觀鎖嘎嘎優化了,這段時間幫著壓測這個商城專案,真的就是一堆破代碼,我還要去給各種優化,性能起碼提升了好多倍都不止,尼瑪資料庫關鍵的索引都有不加的,有的sql執行都需要好幾秒的,加了索引之后30ms......

  繼續茍著吧,現在這里最大的好處就是不怎么加班,干完自己的事情后五點半就可以走了,嘿嘿

--------------以上皆原創,給未來的自己留下一點學習的痕跡!--------

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/553567.html

標籤:其他

上一篇:Spring注解

下一篇:返回列表

標籤雲
其他(159812) Python(38173) JavaScript(25458) Java(18138) C(15231) 區塊鏈(8268) C#(7972) AI(7469) 爪哇(7425) MySQL(7213) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5873) 数组(5741) R(5409) Linux(5343) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4576) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2434) ASP.NET(2403) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) .NET技术(1977) 功能(1967) Web開發(1951) HtmlCss(1948) C++(1922) python-3.x(1918) 弹簧靴(1913) xml(1889) PostgreSQL(1878) .NETCore(1862) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • 一個mysql的group_concat導致的問題

    好久都沒有寫點東西了,是時候有點寫東西的必要了。 去年下年底離職了,躺了幾個月,最近又兜兜轉轉換了一家公司繼續當牛馬了,前段時間八股文背了好多,難受呀,不過我也趁著前段時間自己也整理了屬于我自己的八股文,有好幾萬字吧,哈哈哈,以后就不用到處去找八股文了。 說回正題,這個group_concat的問題 ......

    uj5u.com 2023-05-28 07:30:33 more
  • Spring注解

    Spring框架提供了眾多注解,以下是Spring中常用的注解及其解釋: 1. `@Component`:用于標識一個類為Spring的組件,可以被自動掃描并注冊為Bean。 2. `@Repository`:用于標識一個類為資料訪問層(DAO)組件。 3. `@Service`:用于標識一個類為服 ......

    uj5u.com 2023-05-28 07:06:05 more
  • Spring Boot + URule 規則引擎,可視化配置太爽了!

    作者:知了一笑\ 來源:juejin.cn/post/7210194936276680759 ## 一、背景 前段時間,在做專案重構的時候,遇到很多地方需要做很多的條件判斷。當然可以用很多的if-else判斷去解決,但是當時也不清楚怎么回事,就想玩點別的。于是乎,就去調研了規則引擎。 當然,市面上有 ......

    uj5u.com 2023-05-26 18:40:24 more
  • 性能測驗監控指標及分析調優 | 京東云技術團隊

    ### 一、哪些因素會成為系統的瓶頸? 1、CPU,如果存在大量的計算,他們會長時間不間斷的占用CPU資源,導致其他資源無法爭奪到CPU而回應緩慢,從而帶來系統性能問題,例如頻繁的FullGC,以及多執行緒造成的背景關系頻繁的切換,都會導致CPU繁忙,一般情況下CPU使用率 作者:京東健康 牛金亮 > ......

    uj5u.com 2023-05-26 18:39:10 more
  • 如何使用C++ 在Word檔案中創建串列

    串列分類是指在Word檔案中使用不同格式排序的串列,來幫助我們一目了然地表達出一段文字的主要內容。比如,當我們描述了某個主題的若干點,就可以用串列把它們一一表達出來,而不是寫成完整的段落形式。同時,串列也可以幫助我們做出精確的計算和比較,簡潔有效地表示出不同部分之間的關系。在Word檔案中創建串列可 ......

    uj5u.com 2023-05-26 18:38:47 more
  • Java的Atomic原子類

    Java SDK 并發包里提供了豐富的原子類,我們可以將其分為五個類別,這五個類別提供的方法基本上是相似的,并且每個類別都有若干原子類。 ......

    uj5u.com 2023-05-26 18:38:09 more
  • Hackathon 代碼黑客馬拉松采訪復盤

    AIGC Hackathon 2023 北京站 我參加了選手采訪提綱,這里我感覺有些點可以分享給大家。之前復盤的鏈接: 下面是采訪我的回答內容: ## 1. 請向大家簡單介紹一下自己吧? - 子木,社區名稱為程式員泥瓦匠,年齡三十歲,畢業于溫州醫科大學。 - 有8年SaaS經驗,曾在有贊和售后寶等S ......

    uj5u.com 2023-05-26 18:37:36 more
  • Rust async 編程

    # Rust async 編程 Asynchronous Programming in Rust: 中文書名《Rust 異步編程指南》: Rust語言圣經(Rust Course): ## 一、[Getting Started](https://rust-lang.github.io/async-b ......

    uj5u.com 2023-05-26 18:37:19 more
  • 【華為機試】單詞倒敘

    - 題目描述: 輸入單行英文句子,里面包含英文字母,空格以及,.?三種標點符號,請將句子內每個單詞進行倒序,并輸出倒序后的陳述句 - 輸入描述: 輸入字串 S, S 的長度 1≤N≤100 - 輸出描述: 輸出逆序后的字串。 - 解題思路: 遍歷給定句子,判斷如果字母,則插入到指定位置,如果是指定 ......

    uj5u.com 2023-05-26 18:36:39 more
  • 01.初識Python

    > 本教程計劃通過100天的時間,每天分享一篇關于python的知識點,與大家一起學習python這門編程語言。 Python 對初學者來說是一門很棒的語言: - 容易學 - 有一個積極的支持社區 - 在網路開發、游戲、資料科學方面提供多種機會。 ## Python的應用領域 目前Python在We ......

    uj5u.com 2023-05-26 18:23:04 more