基于預(yù)訓(xùn)練模型和長(zhǎng)短期記憶網(wǎng)絡(luò)的深度學(xué)習(xí)模型
資料介紹
語(yǔ)義槽填充是對(duì)話系統(tǒng)中一項(xiàng)非常重要的任務(wù),旨在為輸入句子的毎個(gè)單詞標(biāo)注正確的標(biāo)簽,其性能的妤壞極大地影響著后續(xù)的對(duì)話管理模塊。目前,使用深度學(xué)習(xí)方法解決該任務(wù)時(shí),一般利用隨機(jī)詞向量或者預(yù)訓(xùn)練詞向量作為模型的初始化詞向量。但是,隨機(jī)詞向量存在不具備語(yǔ)乂和語(yǔ)法信息的缺點(diǎn);預(yù)訓(xùn)練詞向量存在¨一詞-乂”的缺點(diǎn),無(wú)法為模型提供具備上下文依賴的詞向量。針對(duì)該問(wèn)題,提岀了一種基于預(yù)訓(xùn)練模型BERT和長(zhǎng)短期記憶網(wǎng)絡(luò)的深度學(xué)習(xí)模型。該模型使用基Transformer的雙向編碼表征模型( Bidirectional Encoder Representations from Transformers,BERT)產(chǎn)生具備上下文依賴的詞向量,并將其作為雙向長(zhǎng)短期記憶網(wǎng)絡(luò)( Bidirectional Long Short- Term Memory, BILSTM)的輸入,最后利用 Softmax函數(shù)和條件隨機(jī)場(chǎng)進(jìn)行解碼。將預(yù)訓(xùn)練模型BERT和 BILSTM網(wǎng)絡(luò)作為整體進(jìn)行訓(xùn)練,達(dá)到了提升語(yǔ)乂槽填充飪務(wù)性能的目的。在MIT Restaurant Corpus, MIT Movie Corpυs和 MIT Movie trivial Corpυs3個(gè)數(shù)據(jù)集上,所提模型得出了良好的結(jié)果,最大F值分別為78.74%,87.60%和71.54%。實(shí)驗(yàn)結(jié)果表明,所提模型顯著提升了語(yǔ)義槽填充任務(wù)的F1值。
- 基于時(shí)空特性的ST-LSTM網(wǎng)絡(luò)位置預(yù)測(cè)模型 13次下載
- 基于神經(jīng)網(wǎng)絡(luò)和長(zhǎng)短期記憶網(wǎng)絡(luò)的網(wǎng)絡(luò)入侵檢測(cè) 2次下載
- 基于BERT的中文科技NLP預(yù)訓(xùn)練模型 14次下載
- 基于長(zhǎng)短期記憶網(wǎng)絡(luò)的長(zhǎng)距離股票趨勢(shì)預(yù)測(cè) 7次下載
- 一種側(cè)重于學(xué)習(xí)情感特征的預(yù)訓(xùn)練方法 4次下載
- 深度模型中的優(yōu)化與學(xué)習(xí)課件下載 3次下載
- 一種脫離預(yù)訓(xùn)練的多尺度目標(biāo)檢測(cè)網(wǎng)絡(luò)模型 26次下載
- 基于改進(jìn)長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)的兒童語(yǔ)音情感識(shí)別模型 14次下載
- 基于雙向長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)的交互注意力模型 28次下載
- 基于雙向長(zhǎng)短期記憶循環(huán)神經(jīng)網(wǎng)絡(luò)的句子切分模型 14次下載
- 一種基于多視圖架構(gòu)的深度卷積神經(jīng)網(wǎng)絡(luò)模型 5次下載
- 借助長(zhǎng)短期記憶網(wǎng)絡(luò)預(yù)測(cè)文件訪問(wèn)熱度預(yù)測(cè) 7次下載
- 如何使用深度長(zhǎng)短時(shí)記憶神經(jīng)網(wǎng)絡(luò)模型進(jìn)行心律失常檢測(cè)算法的資料說(shuō)明 3次下載
- 如何使用樹結(jié)構(gòu)長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)進(jìn)行金融時(shí)間序列預(yù)測(cè) 7次下載
- 基于長(zhǎng)短期記憶模型的多維主題模型 1次下載
- 預(yù)訓(xùn)練和遷移學(xué)習(xí)的區(qū)別和聯(lián)系 317次閱讀
- 大語(yǔ)言模型的預(yù)訓(xùn)練 242次閱讀
- 預(yù)訓(xùn)練模型的基本原理和應(yīng)用 1323次閱讀
- 深度學(xué)習(xí)的典型模型和訓(xùn)練過(guò)程 609次閱讀
- 深度學(xué)習(xí)模型訓(xùn)練過(guò)程詳解 424次閱讀
- 深度學(xué)習(xí)的模型優(yōu)化與調(diào)試方法 432次閱讀
- 如何基于深度學(xué)習(xí)模型訓(xùn)練實(shí)現(xiàn)工件切割點(diǎn)位置預(yù)測(cè) 581次閱讀
- 如何基于深度學(xué)習(xí)模型訓(xùn)練實(shí)現(xiàn)圓檢測(cè)與圓心位置預(yù)測(cè) 1362次閱讀
- 視覺深度學(xué)習(xí)遷移學(xué)習(xí)訓(xùn)練框架Torchvision介紹 734次閱讀
- 什么是預(yù)訓(xùn)練AI模型? 869次閱讀
- 超詳細(xì)配置教程:用Windows電腦訓(xùn)練深度學(xué)習(xí)模型 1344次閱讀
- 利用視覺語(yǔ)言模型對(duì)檢測(cè)器進(jìn)行預(yù)訓(xùn)練 1238次閱讀
- 如何實(shí)現(xiàn)更綠色、經(jīng)濟(jì)的NLP預(yù)訓(xùn)練模型遷移 2089次閱讀
- 針對(duì)線性回歸模型和深度學(xué)習(xí)模型,介紹了確定訓(xùn)練數(shù)據(jù)集規(guī)模的方法 5995次閱讀
- tensorflow 訓(xùn)練模型之目標(biāo)檢測(cè)入門知識(shí)與案例解析 1.6w次閱讀
下載排行
本周
- 1HFSS電磁仿真設(shè)計(jì)應(yīng)用詳解PDF電子教程免費(fèi)下載
- 24.30 MB | 126次下載 | 1 積分
- 2H橋中的電流感測(cè)
- 545.39KB | 7次下載 | 免費(fèi)
- 3雷達(dá)的基本分類方法
- 1.25 MB | 4次下載 | 4 積分
- 4I3C–下一代串行通信接口
- 608.47KB | 3次下載 | 免費(fèi)
- 5電感技術(shù)講解
- 827.73 KB | 2次下載 | 免費(fèi)
- 6從 MSP430? MCU 到 MSPM0 MCU 的遷移指南
- 1.17MB | 2次下載 | 免費(fèi)
- 7有源低通濾波器設(shè)計(jì)應(yīng)用說(shuō)明
- 1.12MB | 2次下載 | 免費(fèi)
- 8RA-Eco-RA2E1-48PIN-V1.0開發(fā)板資料
- 35.59 MB | 2次下載 | 免費(fèi)
本月
- 12024年工控與通信行業(yè)上游發(fā)展趨勢(shì)和熱點(diǎn)解讀
- 2.61 MB | 763次下載 | 免費(fèi)
- 2HFSS電磁仿真設(shè)計(jì)應(yīng)用詳解PDF電子教程免費(fèi)下載
- 24.30 MB | 126次下載 | 1 積分
- 3繼電保護(hù)原理
- 2.80 MB | 36次下載 | 免費(fèi)
- 4正激、反激、推挽、全橋、半橋區(qū)別和特點(diǎn)
- 0.91 MB | 32次下載 | 1 積分
- 5labview實(shí)現(xiàn)DBC在界面加載配置
- 0.57 MB | 21次下載 | 5 積分
- 6在設(shè)計(jì)中使用MOSFET瞬態(tài)熱阻抗曲線
- 1.57MB | 15次下載 | 免費(fèi)
- 7GBT 4706.1-2024家用和類似用途電器的安全第1部分:通用要求
- 7.43 MB | 13次下載 | 免費(fèi)
- 8PADS-3D庫(kù)文件
- 2.70 MB | 10次下載 | 2 積分
總榜
- 1matlab軟件下載入口
- 未知 | 935113次下載 | 10 積分
- 2開源硬件-PMP21529.1-4 開關(guān)降壓/升壓雙向直流/直流轉(zhuǎn)換器 PCB layout 設(shè)計(jì)
- 1.48MB | 420061次下載 | 10 積分
- 3Altium DXP2002下載入口
- 未知 | 233084次下載 | 10 積分
- 4電路仿真軟件multisim 10.0免費(fèi)下載
- 340992 | 191360次下載 | 10 積分
- 5十天學(xué)會(huì)AVR單片機(jī)與C語(yǔ)言視頻教程 下載
- 158M | 183329次下載 | 10 積分
- 6labview8.5下載
- 未知 | 81578次下載 | 10 積分
- 7Keil工具M(jìn)DK-Arm免費(fèi)下載
- 0.02 MB | 73804次下載 | 10 積分
- 8LabVIEW 8.6下載
- 未知 | 65985次下載 | 10 積分
評(píng)論
查看更多