對(duì)于大模型RAG技術(shù)的一些思考

大模型或者句向量在訓(xùn)練時(shí)，使用的語(yǔ)料都是較為通用的語(yǔ)料。這導(dǎo)致了這些模型，對(duì)于垂直領(lǐng)域的知識(shí)識(shí)別是有缺陷的。它們沒有辦法理解企業(yè)內(nèi)部的一些專用術(shù)語(yǔ)，縮寫...

2023-12-07 標(biāo)簽：向量檢索大模型 1148 0

大模型外掛知識(shí)庫(kù)優(yōu)化-大模型輔助向量召回

用LLM根據(jù)用戶query生成k個(gè)“假答案”。（大模型生成答案采用sample模式，保證生成的k個(gè)答案不一樣，不懂LLM生成答案原理的同學(xué)可以看我這篇文...

2023-09-08 標(biāo)簽：向量數(shù)據(jù)集大模型 1945 0

十分鐘讀懂旋轉(zhuǎn)編碼（RoPE）

對(duì)于位置編碼，常規(guī)的做法是在計(jì)算 query，key 和 value 向量之前，會(huì)計(jì)算一個(gè)位置編碼向量 加到詞嵌入 上，位置編碼向量 同樣也是 維向量，...

2023-09-05 標(biāo)簽：向量旋轉(zhuǎn)編碼大模型 1.5萬(wàn) 0

連接和復(fù)制運(yùn)算符

連接和復(fù)制運(yùn)算符將多個(gè)表達(dá)式連接在一起，形成一個(gè)向量表達(dá)式。結(jié)果向量中的位總數(shù)是每個(gè)子表達(dá)式中所有位的總和。連接有兩種形式，簡(jiǎn)單連接和復(fù)制連接。一個(gè)簡(jiǎn)單...

2023-02-09 標(biāo)簽：向量連接運(yùn)算符 733 0

圖解NumPy的核心概念：向量、矩陣、3維及更高維數(shù)組

譯者：AI研習(xí)社（季一帆） 雙語(yǔ)原文鏈接：NumPy Illustrated： The Visual Guide to NumPy 是一個(gè)廣泛適用的Py...

2021-02-11 標(biāo)簽：核心矩陣向量 6022 0

什么是標(biāo)量機(jī)？標(biāo)量、向量、張量的區(qū)別

計(jì)算機(jī)（computer）俗稱電腦，是一種用于高速計(jì)算的電子計(jì)算機(jī)器，可以進(jìn)行數(shù)值計(jì)算，又可以進(jìn)行邏輯計(jì)算，還具有存儲(chǔ)記憶功能。是能夠按照程序運(yùn)行，自動(dòng)...

2020-01-28 標(biāo)簽：向量標(biāo)量標(biāo)量機(jī) 9955 0

大模型卷價(jià)格，向量數(shù)據(jù)庫(kù)“卷”什么？

被大模型“帶飛”這一年，向量數(shù)據(jù)庫(kù)才剛剛寫下序言

2024-05-23 標(biāo)簽：數(shù)據(jù)庫(kù)向量大模型 1768 0

搭載英偉達(dá)GPU，全球領(lǐng)先的向量數(shù)據(jù)庫(kù)公司Zilliz發(fā)布Milvus2.4向量數(shù)據(jù)庫(kù)

在美國(guó)硅谷圣何塞召開的 NVIDIA GTC 大會(huì)上，全球領(lǐng)先的向量數(shù)據(jù)庫(kù)公司 Zilliz 發(fā)布了 Milvus 2.4 版本。這是一款革命性的向量數(shù)...

2024-04-01 標(biāo)簽：gpu向量英偉達(dá) 467 0

向量數(shù)據(jù)庫(kù)這杯“啤酒”與“泡沫”

就像啤酒注定要有泡沫，每一場(chǎng)淘金熱都不缺被捧上了時(shí)代風(fēng)口的人

2023-07-28 標(biāo)簽：摩爾定律gpu數(shù)據(jù)庫(kù) 1398 0

互質(zhì)是什么？如何去定義它

互質(zhì)（互素），是一個(gè)同學(xué)們?cè)谛W(xué)五六年級(jí)便熟悉的數(shù)學(xué)知識(shí)內(nèi)容，它的定義是：若個(gè)整數(shù)的最大公因數(shù)是1，則稱這個(gè)整數(shù)互質(zhì).

2022-09-19 標(biāo)簽：向量 9239 0

常見的9種距離度量方法

缺點(diǎn)：盡管這是一種常用的距離度量，但歐式距離并不是尺度不變的，這意味著所計(jì)算的距離可能會(huì)根據(jù)特征的單位發(fā)生傾斜。通常，在使用歐式距離度量之前，需要對(duì)數(shù)據(jù)...

2021-03-05 標(biāo)簽：數(shù)據(jù)距離向量 1.0萬(wàn) 0

CentripetalNet：更合理的角點(diǎn)匹配，多方面改進(jìn)CornerNet

函數(shù)用來減少向心偏移的數(shù)值范圍，讓訓(xùn)練更容易。在訓(xùn)練時(shí)，由于非GT角點(diǎn)需要結(jié)合角點(diǎn)偏移計(jì)算向心偏移，比較復(fù)雜，如圖a所示，所以僅對(duì)GT角點(diǎn)使用smoot...

2021-03-03 標(biāo)簽：模塊檢測(cè)向量 2069 0