RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

軟件系統(tǒng)數(shù)據(jù)庫的分庫分表設(shè)計(jì)

h1654155333.5939 ? 來源:laobabab ? 作者:laobabab ? 2024-08-22 11:39 ? 次閱讀

軟件系統(tǒng)數(shù)據(jù)庫的分庫分表設(shè)計(jì)

系統(tǒng)讀寫分離、分庫分表技術(shù)實(shí)現(xiàn)采用MyCat中間件,MyCat 是一款開源(遵循 Apache License 2.0 協(xié)議)的大數(shù)據(jù)庫集群中間件,用于搭建數(shù)據(jù)庫的分布式集群,實(shí)現(xiàn)分庫分表功能,解決數(shù)據(jù)庫中海量數(shù)據(jù)存儲(chǔ)和查詢性能的問題。MyCat 還是一個(gè)數(shù)據(jù)庫的集群中間件,主要實(shí)現(xiàn) RDBMS 數(shù)據(jù)庫集群的故障轉(zhuǎn)移、負(fù)載均衡、讀寫分離等功能。

MyCat 的關(guān)鍵技術(shù)是分庫分表,它通過將數(shù)據(jù)庫中物理表中的數(shù)據(jù)切分成多個(gè)表分片,并將表分片存儲(chǔ)在多個(gè)數(shù)據(jù)庫節(jié)點(diǎn)上,從而構(gòu)建分布式存儲(chǔ)架構(gòu),提升巨表關(guān)聯(lián)、排序、分組聚合等 OLAP 的能力。

分庫分表的工作原理:攔截客戶端提交的SQL語句并進(jìn)行分析(如:分片分析、路由分析、讀寫分離分析、緩存分析等),然后將此SQL發(fā)往后端的真實(shí)數(shù)據(jù)庫,并將返回的結(jié)果處理(如:數(shù)據(jù)合并)后再返回給客戶端。如下圖:

wKgZombGsDeAbXZcAADe-3smVHg464.png

分庫分表單規(guī)則匹配1

wKgaombGsEKAO49QAAD6kbgo5tI468.png

分庫分表單規(guī)則匹配2

MyCat 還是一個(gè)位于數(shù)據(jù)庫和客戶端之間,主要實(shí)現(xiàn)讀寫分離功能的集群中間件。主要解決在業(yè)務(wù)系統(tǒng)存在大量的讀并發(fā)時(shí),通過負(fù)載均衡提高查詢請(qǐng)求吞吐量,并將多個(gè)數(shù)據(jù)庫節(jié)點(diǎn)集群化管理,在多主集群中單點(diǎn)數(shù)據(jù)庫故障時(shí)候選主節(jié)點(diǎn)切換。

wKgZombGsEuAYwMNAAC8A0J_N0E501.png

圖90MyCat數(shù)據(jù)庫集群

MyCat組件適用于的場(chǎng)景如下:

1)適用于 MySQL 、Oracle等主流數(shù)據(jù)庫集群的讀寫分離、候選主節(jié)點(diǎn)切換、負(fù)載均衡等高可用模式;

2)適用于 MySQL 、Oracle等主流數(shù)據(jù)庫集群的分表分庫,對(duì)于單表數(shù)據(jù)超過1000 萬的物理表進(jìn)行分片,最大支持1000億數(shù)據(jù)的單表分片;

3)適用于多租戶應(yīng)用,通過分庫分表實(shí)現(xiàn)應(yīng)用數(shù)據(jù)按照租戶劃分物理數(shù)據(jù)庫存儲(chǔ)。從租戶的角度來看,個(gè)人應(yīng)用的數(shù)據(jù)集約存儲(chǔ)在獨(dú)立的空間,從應(yīng)用角度看,分布式數(shù)據(jù)庫有利于海量數(shù)據(jù)的分析和查詢;

4)適用于海量數(shù)據(jù)的統(tǒng)計(jì)、分析、研判等 OLAP 能力的支撐數(shù)據(jù)庫,分庫分表能夠快速完成巨表關(guān)聯(lián)、排序、分組聚合等數(shù)據(jù)計(jì)算功能;

5) 適用于海量數(shù)據(jù)的實(shí)時(shí)查詢,如:百億數(shù)據(jù)頻繁查詢的記錄需要在3秒內(nèi)反饋結(jié)果,包括主鍵查詢、范圍查詢或其他屬性查詢的情況;

wKgZombGsFWAY_XCAADiAPckBkM865.png

?數(shù)據(jù)庫集群部署拓?fù)鋱D


審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 數(shù)據(jù)庫
    +關(guān)注

    關(guān)注

    7

    文章

    3794

    瀏覽量

    64360
  • 軟件系統(tǒng)
    +關(guān)注

    關(guān)注

    0

    文章

    62

    瀏覽量

    9501
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    數(shù)據(jù)庫數(shù)據(jù)恢復(fù)—Mysql數(shù)據(jù)庫表記錄丟失的數(shù)據(jù)恢復(fù)流程

    Mysql數(shù)據(jù)庫故障: Mysql數(shù)據(jù)庫表記錄丟失。 Mysql數(shù)據(jù)庫故障表現(xiàn): 1、Mysql數(shù)據(jù)庫中無任何
    的頭像 發(fā)表于 12-16 11:05 ?106次閱讀
    <b class='flag-5'>數(shù)據(jù)庫</b><b class='flag-5'>數(shù)據(jù)</b>恢復(fù)—Mysql<b class='flag-5'>數(shù)據(jù)庫</b>表記錄丟失的<b class='flag-5'>數(shù)據(jù)</b>恢復(fù)流程

    Mybatis 攔截器實(shí)現(xiàn)單數(shù)據(jù)源內(nèi)多數(shù)據(jù)庫切換

    作者:京東保險(xiǎn) 王奕龍 物流的分揀業(yè)務(wù)在某些分揀場(chǎng)地只有一個(gè)數(shù)據(jù)源,因?yàn)?b class='flag-5'>數(shù)據(jù)量比較大,將所有數(shù)據(jù)存在一張內(nèi)查詢速度慢,也為了做不同設(shè)備數(shù)據(jù)
    的頭像 發(fā)表于 12-12 10:23 ?634次閱讀

    數(shù)據(jù)庫數(shù)據(jù)恢復(fù)—MYSQL數(shù)據(jù)庫ibdata1文件損壞的數(shù)據(jù)恢復(fù)案例

    mysql數(shù)據(jù)庫故障: mysql數(shù)據(jù)庫文件ibdata1、MYI、MYD損壞。 故障表現(xiàn):1、數(shù)據(jù)庫無法進(jìn)行查詢等操作;2、使用mysqlcheck和myisamchk無法修復(fù)數(shù)據(jù)庫
    的頭像 發(fā)表于 12-09 11:05 ?127次閱讀

    Sybase數(shù)據(jù)恢復(fù)—Sybase數(shù)據(jù)庫無法啟動(dòng)怎么恢復(fù)數(shù)據(jù)?

    數(shù)據(jù)庫數(shù)據(jù)恢復(fù)工程師經(jīng)過檢測(cè),發(fā)現(xiàn)Sybase數(shù)據(jù)庫出現(xiàn)故障的原因是:異常斷電造成Sybase數(shù)據(jù)庫無法回寫正常數(shù)據(jù),導(dǎo)致多個(gè)存儲(chǔ)頁
    的頭像 發(fā)表于 11-30 16:45 ?110次閱讀
    Sybase<b class='flag-5'>數(shù)據(jù)</b>恢復(fù)—Sybase<b class='flag-5'>數(shù)據(jù)庫</b>無法啟動(dòng)怎么恢復(fù)<b class='flag-5'>數(shù)據(jù)</b>?

    數(shù)據(jù)庫數(shù)據(jù)恢復(fù)—通過拼接數(shù)據(jù)庫碎片恢復(fù)SQLserver數(shù)據(jù)庫

    一個(gè)運(yùn)行在存儲(chǔ)上的SQLServer數(shù)據(jù)庫,有1000多個(gè)文件,大小幾十TB。數(shù)據(jù)庫每10天生成一個(gè)NDF文件,每個(gè)NDF幾百GB大小。數(shù)據(jù)庫包含兩個(gè)LDF文件。 存儲(chǔ)損壞,數(shù)據(jù)庫
    的頭像 發(fā)表于 10-31 13:21 ?199次閱讀
    <b class='flag-5'>數(shù)據(jù)庫</b><b class='flag-5'>數(shù)據(jù)</b>恢復(fù)—通過拼接<b class='flag-5'>數(shù)據(jù)庫</b>碎片恢復(fù)SQLserver<b class='flag-5'>數(shù)據(jù)庫</b>

    數(shù)據(jù)庫數(shù)據(jù)恢復(fù)—SQL Server數(shù)據(jù)庫出現(xiàn)823錯(cuò)誤的數(shù)據(jù)恢復(fù)案例

    SQL Server數(shù)據(jù)庫故障: SQL Server附加數(shù)據(jù)庫出現(xiàn)錯(cuò)誤823,附加數(shù)據(jù)庫失敗。數(shù)據(jù)庫沒有備份,無法通過備份恢復(fù)數(shù)據(jù)庫。
    的頭像 發(fā)表于 09-20 11:46 ?338次閱讀
    <b class='flag-5'>數(shù)據(jù)庫</b><b class='flag-5'>數(shù)據(jù)</b>恢復(fù)—SQL Server<b class='flag-5'>數(shù)據(jù)庫</b>出現(xiàn)823錯(cuò)誤的<b class='flag-5'>數(shù)據(jù)</b>恢復(fù)案例

    數(shù)據(jù)庫數(shù)據(jù)恢復(fù)—SqlServer數(shù)據(jù)庫底層File Record被截?cái)酁?的數(shù)據(jù)恢復(fù)案例

    SQL Server數(shù)據(jù)庫數(shù)據(jù)無法被讀取。 經(jīng)過數(shù)據(jù)庫數(shù)據(jù)恢復(fù)工程師的初步檢測(cè),發(fā)現(xiàn)SQL Server數(shù)據(jù)庫文件無法被讀取的原因是底層
    的頭像 發(fā)表于 07-26 11:27 ?375次閱讀
    <b class='flag-5'>數(shù)據(jù)庫</b><b class='flag-5'>數(shù)據(jù)</b>恢復(fù)—SqlServer<b class='flag-5'>數(shù)據(jù)庫</b>底層File Record被截?cái)酁?的<b class='flag-5'>數(shù)據(jù)</b>恢復(fù)案例

    恒訊科技分析:sql數(shù)據(jù)庫怎么用?

    SQL數(shù)據(jù)庫的使用通常包括以下幾個(gè)基本步驟: 1、選擇數(shù)據(jù)庫系統(tǒng): 選擇適合您需求的SQL數(shù)據(jù)庫系統(tǒng),如MySQL、PostgreSQL、Microsoft SQL Server、SQLite等
    的頭像 發(fā)表于 07-15 14:40 ?346次閱讀

    數(shù)據(jù)庫數(shù)據(jù)恢復(fù)—SQL Server數(shù)據(jù)庫所在分區(qū)空間不足報(bào)錯(cuò)的數(shù)據(jù)恢復(fù)案例

    SQL Server數(shù)據(jù)庫數(shù)據(jù)恢復(fù)環(huán)境: 某品牌服務(wù)器存儲(chǔ)中有兩組raid5磁盤陣列。操作系統(tǒng)層面跑著SQL Server數(shù)據(jù)庫,SQL Server
    的頭像 發(fā)表于 07-10 13:54 ?479次閱讀

    分庫后復(fù)雜查詢的應(yīng)對(duì)之道:基于DTS實(shí)時(shí)性ES寬構(gòu)建技術(shù)實(shí)踐

    1 問題域 業(yè)務(wù)發(fā)展的初期,我們的數(shù)據(jù)庫架構(gòu)往往是單,外加讀寫分離來快速的支撐業(yè)務(wù),隨著用戶量和訂單量的增加,數(shù)據(jù)庫的計(jì)算和存儲(chǔ)往往會(huì)成為我們
    的頭像 發(fā)表于 06-25 18:30 ?856次閱讀
    <b class='flag-5'>分庫</b><b class='flag-5'>分</b><b class='flag-5'>表</b>后復(fù)雜查詢的應(yīng)對(duì)之道:基于DTS實(shí)時(shí)性ES寬<b class='flag-5'>表</b>構(gòu)建技術(shù)實(shí)踐

    數(shù)據(jù)庫數(shù)據(jù)恢復(fù)—raid5陣列上層Sql Server數(shù)據(jù)庫數(shù)據(jù)恢復(fù)案例

    數(shù)據(jù)庫數(shù)據(jù)恢復(fù)環(huán)境: 5塊硬盤組建一組RAID5陣列,劃分LUN供windows系統(tǒng)服務(wù)器使用。windows系統(tǒng)服務(wù)器內(nèi)運(yùn)行了Sql Server
    的頭像 發(fā)表于 05-08 11:43 ?503次閱讀
    <b class='flag-5'>數(shù)據(jù)庫</b><b class='flag-5'>數(shù)據(jù)</b>恢復(fù)—raid5陣列上層Sql Server<b class='flag-5'>數(shù)據(jù)庫</b><b class='flag-5'>數(shù)據(jù)</b>恢復(fù)案例

    ?通過Modbus讀寫數(shù)據(jù)庫中的數(shù)據(jù)

    本文是將數(shù)據(jù)庫數(shù)據(jù)轉(zhuǎn)為Modbus服務(wù)端/從站,實(shí)現(xiàn)數(shù)據(jù)庫內(nèi)的數(shù)據(jù)也可以走M(jìn)odbus協(xié)議通過網(wǎng)口或串口讀寫的案例,下圖是通過智能網(wǎng)關(guān)的參數(shù)軟件
    發(fā)表于 03-14 13:44

    數(shù)據(jù)庫數(shù)據(jù)恢復(fù)】Oracle數(shù)據(jù)庫ASM實(shí)例無法掛載的數(shù)據(jù)恢復(fù)案例

    oracle數(shù)據(jù)庫ASM磁盤組掉線,ASM實(shí)例不能掛載。數(shù)據(jù)庫管理員嘗試修復(fù)數(shù)據(jù)庫,但是沒有成功。
    的頭像 發(fā)表于 02-01 17:39 ?518次閱讀
    【<b class='flag-5'>數(shù)據(jù)庫</b><b class='flag-5'>數(shù)據(jù)</b>恢復(fù)】Oracle<b class='flag-5'>數(shù)據(jù)庫</b>ASM實(shí)例無法掛載的<b class='flag-5'>數(shù)據(jù)</b>恢復(fù)案例

    IZYTRONIQ測(cè)試軟件介紹——管理測(cè)試設(shè)備數(shù)據(jù)庫

    一款完整的用于管理和記錄測(cè)試過程的數(shù)據(jù)庫軟件IZYTRONIQ
    的頭像 發(fā)表于 01-11 11:11 ?404次閱讀
    IZYTRONIQ測(cè)試<b class='flag-5'>軟件</b>介紹——管理測(cè)試設(shè)備<b class='flag-5'>數(shù)據(jù)庫</b>

    2024年,國產(chǎn)數(shù)據(jù)庫正醞釀新變局!

    隨著互聯(lián)網(wǎng)、5G、AI技術(shù)的飛速發(fā)展,海量數(shù)據(jù)的持續(xù)激增,數(shù)據(jù)資產(chǎn)的核心價(jià)值正在凸顯,大數(shù)據(jù)時(shí)代數(shù)據(jù)庫行業(yè)也迎來了快速增長(zhǎng)。 作為數(shù)據(jù)存儲(chǔ)、
    的頭像 發(fā)表于 01-05 13:18 ?449次閱讀
    2024年,國產(chǎn)<b class='flag-5'>數(shù)據(jù)庫</b>正醞釀新變局!
    RM新时代网站-首页