RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Redis的分頁+多條件模糊查詢組合實(shí)現(xiàn)方案

jf_ro2CN3Fa ? 來源:芋道源碼 ? 2023-11-20 14:26 ? 次閱讀

Redis是一個高效的內(nèi)存數(shù)據(jù)庫,它支持包括String、List、Set、SortedSet和Hash等數(shù)據(jù)類型的存儲,在Redis中通常根據(jù)數(shù)據(jù)的key查詢其value值,Redis沒有模糊條件查詢,在面對一些需要分頁、排序以及條件查詢的場景時(如評論,時間線,檢索等),只憑借Redis所提供的功能就不太好不處理了。

本文不對Redis的特性做過多贅述。由于之前基于業(yè)務(wù)問題需要實(shí)現(xiàn)基于Redis的條件查詢和分頁功能,在百度上查詢了不少文章,基本不是只有分頁功能就是只有條件查詢功能的實(shí)現(xiàn),缺少兩者組合的解決方案。因此,本文將基于Redis提供條件查詢+分頁的技術(shù)解決方案。

注:本文只提供實(shí)現(xiàn)思路,并不提供實(shí)現(xiàn)的代碼

本文將從四個部分進(jìn)行說明:

分頁實(shí)現(xiàn)

模糊條件查詢實(shí)現(xiàn)

分頁和模糊條件查詢的組合實(shí)現(xiàn)

優(yōu)化方案

大家可以直接跳到自己需要的部分進(jìn)行閱讀。

Redis的分頁實(shí)現(xiàn)

我們通常習(xí)慣于在Mysql、Oracle這樣持久化數(shù)據(jù)庫中實(shí)現(xiàn)分頁查詢,但是基于某些特殊的業(yè)務(wù)場景下,我們的數(shù)據(jù)并未持久化到了數(shù)據(jù)庫中或是出于查詢速度上的考慮將熱點(diǎn)數(shù)據(jù)加載到了緩存數(shù)據(jù)庫中。因此,我們可能需要基于Redis這樣的緩存數(shù)據(jù)庫去進(jìn)行分頁查詢。

Redis的分頁查詢的實(shí)現(xiàn)是基于Redis提供的ZSet數(shù)據(jù)結(jié)構(gòu)實(shí)現(xiàn)的,ZSet全稱為Sorted Set,該結(jié)構(gòu)主要存儲有序集合。下面是它的指令描述以及該指令在分頁實(shí)現(xiàn)中的作用:

ZADD :SortedSet的添加元素指令ZADD key score member [[score,member]…]會給每個添加的元素member綁定一個用于排序的值score,SortedSet就會根據(jù)score值的大小對元素進(jìn)行排序。我們?yōu)橥ǔA?xí)慣于將數(shù)據(jù)的時間屬性當(dāng)作score用于排序,當(dāng)然大家也可以根據(jù)具體的業(yè)務(wù)場景去選擇排序的目標(biāo)。

ZREVRANGE :SortedSet中的指令ZREVRANGE key start stop可以返回指定區(qū)間內(nèi)的成員,可以用來做分頁。

ZREM :SortedSet的指令ZREM key member可以根據(jù)key移除指定的成員,能滿足刪評論的要求。

所以SortedSet用來做分頁是非常適合的。下面是分頁實(shí)現(xiàn)的演示圖,包含插入新記錄后的查詢情況。

01f81b84-8749-11ee-939d-92fbcf53809c.png

事實(shí)上,Redis中的List結(jié)構(gòu)也是可以實(shí)現(xiàn)分頁,但List無法實(shí)現(xiàn)自動排序,并且Zset還可以根據(jù)score進(jìn)行數(shù)據(jù)篩選,取出目標(biāo)score區(qū)間內(nèi)數(shù)據(jù)。

所以在實(shí)現(xiàn)上,ZSet往往更加適合我們。當(dāng)然如果你需要插入重復(fù)數(shù)據(jù)的情況下,分頁就可能就需要借助List來實(shí)現(xiàn)了。具體使用那種結(jié)構(gòu)來實(shí)現(xiàn)分頁還是需要根據(jù)實(shí)際的業(yè)務(wù)場景來進(jìn)行選擇的。

Redis的多條件模糊查詢實(shí)現(xiàn)

Redis是key-value類型的內(nèi)存數(shù)據(jù)庫,通過key直接取數(shù)據(jù)雖然很方便,但是并未提供像mysql那樣方便的sql條件查詢支持。因此我們需要借助Redis提供的結(jié)構(gòu)和功能去自己實(shí)現(xiàn)模糊條件查詢功能。

事實(shí)上,Redis的模糊條件查詢是基于Hash實(shí)現(xiàn)的,我們可以將數(shù)據(jù)的某些條件值作為hash的key值,并數(shù)據(jù)本身作為value進(jìn)行存儲。然后通過Hash提供的HSCAN指令去遍歷所有的key進(jìn)行篩選,得到我們符合條件的所有key值(hscan可以進(jìn)行模式匹配)。

為了方便,我們通常將符合條件的key全部放入到一個Set或是List中。這樣一來,我們就可以根據(jù)得到的key值去取出相應(yīng)的數(shù)據(jù)了。下面是模糊查詢的演示圖(其中field中的命名規(guī)則為:<姓名>:<性別>,value為用戶詳情的json串)。

查詢所有性別為女的用戶

0205c4f0-8749-11ee-939d-92fbcf53809c.png

查詢所有名字中姓阿的用戶

02136eca-8749-11ee-939d-92fbcf53809c.png

HSCAN雖然為我們提供了模式匹配的功能,但這種匹配是基于遍歷實(shí)現(xiàn)的,每一次匹配都需要遍歷全部的key,效率上并不高。因此在下面一節(jié)會這方面進(jìn)行補(bǔ)充,本節(jié)只談如何實(shí)現(xiàn)模糊匹配。

Redis的分頁+多條件模糊查詢組合實(shí)現(xiàn)

前面分別單獨(dú)敘述了如何實(shí)現(xiàn)Redis的分頁和多條件某查詢。在實(shí)際使用中,單獨(dú)使用ZSet實(shí)現(xiàn)分頁已經(jīng)能夠展現(xiàn)不錯的性能了,但存在一個問題是我們所分頁的數(shù)據(jù)往往是伴隨著一些動態(tài)的篩選條件的,而ZSet并不提供這樣的功能。

面對這種情況,我們通常有兩種解決方案:

如果數(shù)據(jù)已經(jīng)存儲在了持久化數(shù)據(jù)庫中,我們可以每次在數(shù)據(jù)庫中做好條件查詢再將數(shù)據(jù)放入Redis中進(jìn)行分頁。

在Redis中實(shí)現(xiàn)多條件模糊查詢并分頁。

前者方案其實(shí)是一個不錯的選擇,但缺點(diǎn)在于數(shù)據(jù)有時候并不一定都在持久化數(shù)據(jù)庫中。在有些業(yè)務(wù)場景下,我們的數(shù)據(jù)為了展現(xiàn)更好的并發(fā)性以及高響應(yīng),我們的數(shù)據(jù)會先放置在緩存數(shù)據(jù)庫中,等到某個時間或者滿足某種條件時再持久化到數(shù)據(jù)庫中。

在這種情況下我們第一個方案就不起作用了,需要使用第二個方案。因此,下面將介紹如何實(shí)現(xiàn)多條件模糊查詢的基礎(chǔ)上進(jìn)行分頁。

實(shí)現(xiàn)思路

首先我們可以采用多條件模糊查詢章節(jié)所說的方式,將我們所涉及到的條件字段作為hash的field,而數(shù)據(jù)的內(nèi)容則作為對應(yīng)value進(jìn)行存儲(一般以json格式存儲,方便反序列化)。

我們需要實(shí)現(xiàn)約定好查詢的格式,用前面一節(jié)的例子來說,field中的命名規(guī)則為:<姓名>:<性別>,我們每次可以通過"*"來實(shí)現(xiàn)我們希望的模糊匹配條件,比如“*:*:男”就是匹配所有男性數(shù)據(jù),“100*:*:*”就是匹配所有id前綴為100的用戶。

當(dāng)我們拿到了匹配串后我們先去Redis中尋找是否存在以該匹配串為key的ZSet,如果沒有則通過Redis提供的HSCAN遍歷所有hash的field,得到所有符合條件的field,并將其放入一個ZSet集合,同時將這個集合的key設(shè)置為我們的條件匹配串。如果已經(jīng)存在了,則直接對這個ZSet進(jìn)行分頁查詢即可。對ZSet進(jìn)行分頁的方式已經(jīng)在前面敘述過了。通過這樣的方式我們就實(shí)現(xiàn)了最簡單的分頁+多條件模糊查詢。

021eb51e-8749-11ee-939d-92fbcf53809c.png

上圖中,由于并未在緩存數(shù)據(jù)庫中找到符合的ZSet集合,我們將根據(jù)匹配串生成一個新的集合用于分頁。

性能優(yōu)化方案

雖然上文實(shí)現(xiàn)了多條件模糊查詢+分頁的功能,但是在時間開發(fā)中,我們不能無限制的生成新的集合,因?yàn)槠ヅ浯呛芏鄻踊模@會給緩存帶來巨大的壓力。

因此我們在生成集合時可以賦予這個集合一個過期時間,到期集合會自動銷毀。因?yàn)楦鶕?jù)時間局部性原理,我們在一段時間內(nèi)不訪問的數(shù)據(jù)大概率在很長一頓時間內(nèi)也不會再訪問。而對于命中的集合,我們將更新其過期時間。

同時,我們數(shù)據(jù)的實(shí)時性也是一個問題,因?yàn)槲覀兊募鲜窃谏杉蠒r的Hash內(nèi)容決定的,對于新插入到Hash的數(shù)據(jù),集合是無法探知的,因此有兩種解決方案:

第一種是插入到Hash時同時再插入到其他相應(yīng)的集合中,保證數(shù)據(jù)一直是最新的,這種方式需要增加特殊前綴用于識別,否則我們也不清楚到底要插入到哪些集合中。

第二種方式是定時更新,這種方式比較省力,但無法保證分頁數(shù)據(jù)的實(shí)時性。因此具體怎么選擇還是取決于業(yè)務(wù)場景。

總結(jié)

本文大概地描述了實(shí)現(xiàn)分頁和多條件模糊查詢的方案,希望能夠?qū)Υ蠹矣兴鶐椭?/p>

編輯:黃飛

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 數(shù)據(jù)庫
    +關(guān)注

    關(guān)注

    7

    文章

    3794

    瀏覽量

    64360
  • Oracle
    +關(guān)注

    關(guān)注

    2

    文章

    289

    瀏覽量

    35123
  • MySQL
    +關(guān)注

    關(guān)注

    1

    文章

    804

    瀏覽量

    26528
  • Redis
    +關(guān)注

    關(guān)注

    0

    文章

    374

    瀏覽量

    10871

原文標(biāo)題:Redis實(shí)現(xiàn)分頁+多條件模糊查詢組合方案!

文章出處:【微信號:芋道源碼,微信公眾號:芋道源碼】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    labview 多條件結(jié)構(gòu)

    1.請問一下條件結(jié)構(gòu)怎樣多條件輸入,比如說隨機(jī)數(shù)節(jié)點(diǎn)隨機(jī)產(chǎn)生0到1的數(shù),當(dāng)我獲取到0.2,0.55,0.9三個數(shù)的時候,開始執(zhí)行后面的程序。這個多條件不同步怎么實(shí)現(xiàn)的呢
    發(fā)表于 04-06 20:26

    JPA分頁查詢的常用方法

    JPA分頁查詢條件分頁查詢
    發(fā)表于 10-23 17:10

    Labview里面多列列表框 如何多條件查詢

    討教一個問題: 多條件查詢. 前面板有一個多列列表框, 需要對其中5個列的內(nèi)容進(jìn)行查詢, 比方說這 5列 分別是 籍貫, 性別, 入職日期, 省份, 成績.. 可能查詢
    發(fā)表于 06-05 14:14

    XML數(shù)據(jù)分頁索引技術(shù)研究

    對海量XML文檔的索引查詢技術(shù)進(jìn)行研究,提出一種XML數(shù)據(jù)分頁索引查詢實(shí)現(xiàn)方法。該方法把頁面元素標(biāo)記數(shù)量作為數(shù)據(jù)分頁依據(jù),建立XML數(shù)據(jù)的
    發(fā)表于 03-31 10:07 ?10次下載

    Delphi教程之標(biāo)準(zhǔn)/模糊查詢

    Delphi教程之標(biāo)準(zhǔn)/模糊查詢,學(xué)習(xí)Delphi的必備資料。
    發(fā)表于 03-31 11:29 ?2次下載

    Jquery簡單分頁實(shí)現(xiàn)

    這篇文章主要介紹了Jquery簡單分頁實(shí)現(xiàn)方法,實(shí)例分析了jquery分頁的相關(guān)實(shí)現(xiàn)技巧,具有一定參考借鑒價值,需要的朋友可以參考下。
    發(fā)表于 11-28 11:55 ?1078次閱讀

    多條件型非對稱跨加密系統(tǒng)的代理重加密方案

    方將信息加密成IBBE密文,一次性發(fā)送給多個接收方,其中任一接收方又可以授權(quán)給代理者一個多條件型的重加密密鑰,代理者利用該多條件型重加密密鑰,能將符合多個條件的原始密文重加密成一個新的接收方可以解密的IBE密文。該
    發(fā)表于 12-12 11:25 ?0次下載

    三維模型多條件組合檢索研究

    3個因素的基礎(chǔ)上,對本體的語義相似度計算原理進(jìn)行了研究,同時對產(chǎn)品類別、功能或特性進(jìn)行了相似度計算,實(shí)現(xiàn)了以類別一功能一特性為檢索條件組合式擴(kuò)展查詢
    發(fā)表于 03-26 10:20 ?0次下載
    三維模型<b class='flag-5'>多條件</b><b class='flag-5'>組合</b>檢索研究

    SQL存儲過程進(jìn)行多條件查詢實(shí)例說明

    本文檔的主要內(nèi)容詳細(xì)介紹的是SQL數(shù)據(jù)庫存儲過程進(jìn)行多條件查詢實(shí)例說明。
    發(fā)表于 09-17 10:29 ?2次下載

    MyBatis流式查詢輕松幫你解決分頁慢的問題

    結(jié)果。流式查詢的好處是能夠降低內(nèi)存使用。 如果沒有流式查詢,我們想要從數(shù)據(jù)庫取 1000 萬條記錄而又沒有足夠的內(nèi)存時,就不得不分頁查詢,而分頁
    的頭像 發(fā)表于 08-04 15:52 ?4194次閱讀

    聊聊分頁列表緩存設(shè)計

    這是最簡單易懂的方案,我們按照不同的分頁條件查詢出結(jié)果后,直接緩存分頁結(jié)果 。
    的頭像 發(fā)表于 06-06 18:25 ?719次閱讀
    聊聊<b class='flag-5'>分頁</b>列表緩存設(shè)計

    python if 多條件并列判斷

    一下Python中最常用的多條件判斷方法——邏輯運(yùn)算符。邏輯運(yùn)算符包括and、or和not。我們可以將多個條件使用邏輯運(yùn)算符鏈接起來,以實(shí)現(xiàn)多條件并列判斷。 and運(yùn)算符:只有所有
    的頭像 發(fā)表于 11-21 16:40 ?1842次閱讀

    sql語句where條件查詢

    的細(xì)節(jié),包括使用的操作符、條件組合、多張表的查詢、條件的性能優(yōu)化等方面。 首先,讓我們了解一下WHERE子句中常用的操作符。在SQL中,常用的操作符包括: 比較操作符: 等于(=):
    的頭像 發(fā)表于 11-23 11:28 ?1190次閱讀

    mybatis邏輯分頁和物理分頁的區(qū)別

    這兩種分頁方式的區(qū)別。 邏輯分頁是在數(shù)據(jù)庫中執(zhí)行查詢時使用的一種分頁方式。這種方式是通過在查詢語句中添加LIMIT或OFFSET關(guān)鍵字來限制
    的頭像 發(fā)表于 12-03 14:54 ?897次閱讀

    分庫分表后復(fù)雜查詢的應(yīng)對之道:基于DTS實(shí)時性ES寬表構(gòu)建技術(shù)實(shí)踐

    分表,通過分庫分表應(yīng)對存系統(tǒng)讀寫性能瓶頸和存儲瓶頸;分庫分表幫我們解決問題的同時,也帶來了復(fù)雜性;比如多條件分頁查詢,多條件的聯(lián)表查詢變得
    的頭像 發(fā)表于 06-25 18:30 ?856次閱讀
    分庫分表后復(fù)雜<b class='flag-5'>查詢</b>的應(yīng)對之道:基于DTS實(shí)時性ES寬表構(gòu)建技術(shù)實(shí)踐
    RM新时代网站-首页