Attention注意力機(jī)制與Transformer是大語(yǔ)言模型的基石。

　　1）Attention機(jī)制在并行計(jì)算（效率更高）以及解決長(zhǎng)距離信息依賴的能力（效果更好）上優(yōu)于過(guò)去的神經(jīng)網(wǎng)絡(luò)模型。

　　2）Transformer模型沒(méi)有使用傳統(tǒng)的CNN和RNN結(jié)構(gòu)，其完全是由Attention機(jī)制組成，其中Self-Attention（自注意力）是Transformer的核心。

　　3）OpenAI的GPT模型和Google的BERT模型雖然都是基于Transformer所構(gòu)建，但GPT模型僅使用了解碼器的部分，而BERT僅使用了編碼器的部分，二者在技術(shù)路線上也走向了兩條不同的道路。

　　GPT 模型的持續(xù)進(jìn)化與能力突變：從 CPT-1 到 CPT-4。

　　1）GPT-1：有監(jiān)督學(xué)習(xí)和無(wú)監(jiān)督學(xué)習(xí)的結(jié)合，模型的語(yǔ)言泛化 能力不夠，更接近于處理特定語(yǔ)言任務(wù)的專家模型，而非通用 的語(yǔ)言模型；

　　2）GPT-2：舍棄了模型微調(diào)，讓多個(gè)不同的任務(wù)在同一個(gè)模型 上學(xué)習(xí)，構(gòu)建了換一個(gè)泛化能力更強(qiáng)的語(yǔ)言模型，開(kāi)始讓語(yǔ)言 模型的通用性得到了更加充分的展現(xiàn)；

　　3）GPT-3：在訓(xùn)練方法上則采取了 In-context 學(xué)習(xí)，參數(shù)量相 較于 GPT-2 提升了兩個(gè)數(shù)量級(jí)，達(dá)到了 1750 億，數(shù)據(jù)集在處理 前容量達(dá)到了 45TB，是真正意義上的超大語(yǔ)言模型。

　　4）ChatGPT：引入人類反饋的強(qiáng)化學(xué)習(xí)（RLHF）及近端策略優(yōu) 化算法（PPO）等新的訓(xùn)練方式后，語(yǔ)言生成能力大幅提升，并 且涌現(xiàn)出了思維鏈及邏輯推理等多種能力。

　　5）GPT-4：在推理能力、文本生成能力、對(duì)話能力等方面有了 進(jìn)一步提升的同時(shí)，實(shí)現(xiàn)了從大語(yǔ)言模型向多模態(tài)模型進(jìn)化的 第一步。