簡介：2023年是技術發(fā)展的分水嶺，生成式人工智能成為主流。隨著我們進入2024年，預計生成式人工智能格局將迅速演化，引入一系列有望改變技術及其應用的趨勢，包括多模態(tài)人工智能模型、小語言模型、自主代理等。這些趨勢不僅將塑造技術格局，還將重新定義交互、創(chuàng)造力和對人工智能潛力的理解。

1、多模態(tài)人工智能模型的出現(xiàn)

OpenAI公司的GPT4、Meta的Llama 2和Mistral都是大型語言模型進步的例子。該技術利用多模態(tài)人工智能模型超越了文本，允許用戶基于文本、音頻、圖像和視頻匹配內容，以提示和生成新內容。這種方法包括將圖像、文本和語音等數(shù)據(jù)與高級算法相結合，以進行預測并生成結果。

到2024年，多模態(tài)人工智能預計將發(fā)生顯著變化，帶來生成式人工智能能力的轉變。這些模型正在超越傳統(tǒng)的單模功能，結合圖像、語言和音頻等不同的數(shù)據(jù)類型。隨著向多模態(tài)模型的過渡，人工智能將變得更加直觀和動態(tài)化。

GPT4-V因其多模態(tài)功能已經(jīng)在ChatGPT Plus用戶中深受歡迎。2024年，我們可以期待開放模型的興起，如大語言和視覺助理或LLava。

2、功能強大的小語言模型

2024年將見證小型語言模型的力量。大語言模型是在Common Crawl和The Pile等大型數(shù)據(jù)集上進行訓練的。這些數(shù)據(jù)集是從數(shù)十億個可公開訪問的網(wǎng)站中提取的，其龐大的數(shù)據(jù)對模型十分有益，但同時也無法擺脫其“嘈雜”的本質。但是，小型語言模型是在較為有限的數(shù)據(jù)集上訓練的，這些數(shù)據(jù)集由教科書、期刊和權威內容等高質量的來源組成。這些模型對參數(shù)技術以及存儲和內存需求較小，可在功能較弱且價格較低的硬件上運行。雖然小語言模型規(guī)模較小，但其產(chǎn)出的內容質量與一些規(guī)模較大的大語言模型相當。

微軟的PHI-2和Mistral 7B是兩種潛力巨大的小語言模型，將為下一代生成式人工智能應用提供動力。

3、自主代理的興起

自主代理是為完成特定目標而設計的自主軟件程序，這是構建生成式人工智能模型的一種創(chuàng)新策略。在沒有人為干預的情況下，自主代理生產(chǎn)內容的能力超越了傳統(tǒng)提示工程的限制。

先進的算法和機器學習技術被用于自主代理的開發(fā)。這些代理使用數(shù)據(jù)來學習、適應新情況，并在幾乎沒有人為干預的情況下做出決策。例如，OpenAI已經(jīng)創(chuàng)建了有效利用自主代理的自定義GPT等工具，這表明人工智能領域取得了重大進展。

多模態(tài)人工智能結合了自然語言處理、計算機視覺和機器學習等各種人工智能技術，對自主代理的發(fā)展至關重要。通過同時分析不同的數(shù)據(jù)類型并應用當前上下文，它可以做出預測、采取行動并進行更適當?shù)慕换ァ?/p>

例如，LangChain和LlamaIndex等框架可用于構建基于大語言模型的代理。2024年將出現(xiàn)利用多模態(tài)人工智能的新框架。

4、開放模式將與專有模式相媲美

預計2024年開放的生成式人工智能模型將發(fā)生重大變化，一些預測表明它們將與專有模型相媲美。開放模型和專有模型之間的比較很復雜，依賴于各種因素，包括特定的用例、開發(fā)資源和用于訓練模型的數(shù)據(jù)。

Meta的Llama 270b、Falcon 180B和Mistral AI的Mixtral-8x7B在2023年非常受歡迎，其性能與GPT 3.5、Claude 2和Jurassic-2等專有模型相當。

未來，開放模型和專有模型之間的差距將縮小，從而成為企業(yè)在混合或本地環(huán)境中托管生成式人工智能模型的絕佳選擇。

5、云原生成為本地生成式人工智能的關鍵

Kubernetes已成為托管生成式人工智能模型的首選環(huán)境。預計Hugging Face、OpenAI和谷歌等主要參與方將利用Kubernetes提供的云原生基礎設施來交付生成式人工智能平臺。

諸如來自Hugging Face的文本生成推理、AnyScale的Ray Serve和vLLM等工具已經(jīng)能夠支持在容器中運行模型推理。2024年，Kubernetes上運行的框架、工具和平臺將日趨成熟，以管理基礎模型的整個生命周期。用戶將能夠有效地進行預訓練、微調、部署和擴展生成模型。

關鍵的云原生生態(tài)系統(tǒng)參與方將為在云原生基礎設施上運行生成式人工智能提供參考架構、最佳實踐和優(yōu)化方案。

審核編輯：劉清