RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

OpenAI o1開辟“慢思考”,國產(chǎn)AI早已集結(jié)在CoE“組團(tuán)”先出發(fā)

腦極體 ? 來源:腦極體 ? 作者:腦極體 ? 2024-09-19 11:42 ? 次閱讀


wKgaombq6CqAXThWAApNqmW6lJQ307.jpg

OpenAI o1發(fā)布之后,復(fù)雜邏輯推理能力驚艷業(yè)界,數(shù)理能力達(dá)到博士水平。比如此前一直困擾LLMs的“9.9和9.11誰更大”問題,就在o1時(shí)代得到了解決。

于是有了一種說法:這一輪AI浪潮,中國越追趕越落后,跟OpenAI的差距越來越大。

現(xiàn)實(shí)情況真的如此嗎?我們不必急著下結(jié)論,不妨一起來思考三個(gè)問題:

近年來以大模型為主的通往AGI之路,究竟是怎么發(fā)展的?

中國AI在世界一流技術(shù)路線上到底發(fā)展到哪一步了?

以及面對(duì)o1,國產(chǎn)AI能應(yīng)對(duì)嗎、怎么應(yīng)對(duì)?

wKgaombq6CuAbrDsAAJeXnnoc9w998.jpg

毋庸置疑,OpenAI此前一直稱得上是AI技術(shù)創(chuàng)新的“火車頭”。從ChatGPT至今,OpenAI用一個(gè)又一個(gè)模型證明了,通往AGI的三個(gè)技術(shù)方向:

1.GPT路線。從ChatGPT到GPT 4o,這一路線的核心是用模型對(duì)token流進(jìn)行統(tǒng)計(jì)建模的通用技術(shù),token可以是文本、圖像、音頻、動(dòng)作選擇、分子結(jié)構(gòu)等。最新的4o就是多模態(tài)融合的代表。有業(yè)內(nèi)專家表示,這一路線更貼切的名字可能是“Autoregressive(自回歸)Transformer”之類的,

2. Sora路線。Sora和GPTs一樣,都使用了Transformer架構(gòu),為什么單獨(dú)作為一支呢?因?yàn)檎宫F(xiàn)了一種對(duì)現(xiàn)實(shí)世界復(fù)雜現(xiàn)象的建模能力。圖靈獎(jiǎng)得主、Meta公司首席科學(xué)家楊立昆(Yann LeCun)認(rèn)為,Sora可能是擺脫了人類專家所謂的一些知識(shí)干預(yù)后,更接近世界本源的,更準(zhǔn)確的一種建模方式。

3. o1路線。GPTs也好,Sora也好,都是概率模型,以損失推理效率為代價(jià),因此理論上永遠(yuǎn)會(huì)出現(xiàn)偏差,具體表現(xiàn)為“幻覺”、不可靠性。怎么讓模型具備真正的邏輯推理能力呢?o1路線通過Inference 的方法,基于強(qiáng)化學(xué)習(xí)(RL)能力,使用CoT思維鏈將復(fù)雜問題拆解,并讓多個(gè)子模型來協(xié)作解決,相當(dāng)于復(fù)雜Prompt的自動(dòng)化,極大地提高了模型的推理能力,確實(shí)在LLMs難以搞定的數(shù)理問題和復(fù)雜任務(wù)上有很好的表現(xiàn)。

不難看到,兩年以來OpenAI引領(lǐng)的三個(gè)方向,只要目標(biāo)明確,中國AI都是可以攻下的。目前,國產(chǎn)類GPT和類Sora模型,無論是底層架構(gòu)、具體技術(shù)、落地產(chǎn)品,其實(shí)并不遜色于OpenAI的模型,很快就縮小了技術(shù)代差。

這也說明了一件事,每一次OpenAI明確了方向,結(jié)果并不是“越追趕越落后”,反而可以讓中國AI聚焦并集中資源,進(jìn)行有效研發(fā),進(jìn)一步縮小差距。

具體到o1,我們認(rèn)為也將延續(xù)上述走向,國產(chǎn)AI很快會(huì)完成突破。那么,目前業(yè)界準(zhǔn)備得怎么樣了呢?

wKgaombq6CyALc2aAAH7K8tiQsY875.jpg

“在通往AGI的路上,已經(jīng)沒有任何阻礙”,這句話來形容o1的意義,并不夸張。如此跨越式的突破,國產(chǎn)AI真的做好準(zhǔn)備了嗎?我們深入技術(shù)本質(zhì),去追根溯源。

OpenAI聯(lián)合創(chuàng)始人、科學(xué)家Greg Brockman,在博客中剖析了o1的底層邏輯。他寫道:OpenAI o1是我們第一個(gè)通過強(qiáng)化學(xué)習(xí)訓(xùn)練的模型,在回答問題之前會(huì)深入思考。模型進(jìn)行系統(tǒng) I 思考,而思維鏈則解鎖了系統(tǒng) II 思考,可以產(chǎn)生極其令人印象深刻的結(jié)果。

所謂系統(tǒng) II 思考,指的是人腦依賴邏輯和理性分析,進(jìn)行的慢速復(fù)雜推理。可以與負(fù)責(zé)快速直覺決策的系統(tǒng) I 相互配合,來實(shí)現(xiàn)更好的模型性能。

360集團(tuán)創(chuàng)始人周鴻祎則表示,OpenAI o1遵循的可能是“雙系統(tǒng)理論 Dual Process Theory”,核心在于兩種系統(tǒng)并非獨(dú)立而是協(xié)同運(yùn)作。由此推測,其內(nèi)部構(gòu)建的更加智能的模型或許是 GPT和o系列結(jié)合思維鏈的融合系統(tǒng),前者用于“快思考”,后者實(shí)現(xiàn)“慢思考”。而CoE(Collaboration-of-Experts,專家協(xié)同)架構(gòu)則集合了數(shù)量更多的大模型和專家模型,是通過思維鏈和“多系統(tǒng)協(xié)同”的方式實(shí)現(xiàn)“快思考”和“慢思考”。

熟悉國內(nèi)AI的讀者可能發(fā)現(xiàn)了,“慢思考”這個(gè)說法怎么這么眼熟呢?

沒錯(cuò),如何提升機(jī)器的認(rèn)知智能是AI界長盛不衰的話題,而“慢思考”這個(gè)創(chuàng)意也并非OpenAI獨(dú)創(chuàng)。早在今年7月底舉辦的ISC.AI2024大會(huì)上,周鴻祎就提過,360將“用基于智能體的框架打造慢思考系統(tǒng),從而增強(qiáng)大模型的慢思考能力,把多個(gè)大模型組合起來解決業(yè)務(wù)問題”。

wKgZombq6CyAEfAUAAERXTAc4BY833.jpg

所以,大家可以放心的是,在技術(shù)創(chuàng)新高度依賴全球智力碰撞的今天,沒有一種技術(shù)思路是可以被壟斷的,甚至中國AI界提出“慢思考”更早。

當(dāng)然,大家可能擔(dān)心的是,理念先進(jìn)是一回事,是否具有相應(yīng)的工程能力,打造出一個(gè)基于系統(tǒng)II思考的模型又是另一回事。具體到產(chǎn)品上,國產(chǎn)AI是否已經(jīng)做好打造類o1模型的準(zhǔn)備呢?我認(rèn)為,三個(gè)條件已經(jīng)具備了:

1. 路線一致。模型的底層框架,是長期積累、厚積薄發(fā)的結(jié)果,國內(nèi)360就和o1的技術(shù)架構(gòu)保持著一致性。360首創(chuàng)的CoE架構(gòu)8月1日正式發(fā)布,所謂CoE,就是Collaboration-of-Experts,專家協(xié)同,讓多個(gè)模型分工協(xié)作、并行工作,執(zhí)行多步推理。CoE架構(gòu)與o1的理念一致、方法類似,卻比o1發(fā)布的時(shí)間更早,足以證明國產(chǎn)AI在技術(shù)方向上并沒有落后,早已開始探索。

2. 產(chǎn)品落地。目前o1仍是preview預(yù)覽版本,用戶體驗(yàn)的實(shí)際效果與官方用例有差距,而且使用也受到限制,o1-mini對(duì)ChatGPT Plus用戶的每周限制為50個(gè)提示詞。技術(shù)再好,用不到也是“期貨”。這一點(diǎn)上,國產(chǎn)AI的產(chǎn)品化優(yōu)勢就體現(xiàn)出來了,比如CoE架構(gòu)已經(jīng)在360AI搜索中落地應(yīng)用,讓AI搜索在面對(duì)不確定或復(fù)雜輸入時(shí)表現(xiàn)出更好的穩(wěn)定性,輸出更準(zhǔn)確、更具有時(shí)效性和權(quán)威性的內(nèi)容?;贑oE架構(gòu)的360AI搜索,也超越Perplexity AI,快速成長為全球最大的AI原生搜索引擎,并且還在以月增速113%的極高速度成長。

此外,360AI瀏覽器的AI助手,也可以非常直觀地讓用戶體會(huì)到模型競技場、多模型協(xié)作等功能。由于CoE架構(gòu)已經(jīng)接入了百度、騰訊、阿里巴巴、智譜AI、Minimax、月之暗面等 16 家國內(nèi)主流大模型廠商合作打造的 54 款大模型產(chǎn)品,用戶可以任意選擇3款大模型,進(jìn)行多模型協(xié)作,以此達(dá)成比單個(gè)大模型回答問題好得多的效果。第一個(gè)做專家,對(duì)提問進(jìn)行第一輪回答;第二個(gè)做反思者,對(duì)專家的回答進(jìn)行糾錯(cuò)和補(bǔ)充;第三個(gè)做總結(jié)者,對(duì)前兩輪回答進(jìn)行優(yōu)化總結(jié)。在很多的實(shí)測例子中,第一個(gè)專家模型即使回答錯(cuò)誤,反思模型和總結(jié)模型都能夠在后續(xù)的協(xié)作過程中修正,與人類在做出重要決策的思維活動(dòng)很像。

wKgZombq6C6ANKieAASXnG1hEs0976.jpg

3.能力領(lǐng)先。可能還會(huì)有人問,國產(chǎn)大模型在數(shù)據(jù)、算法、算力上和Open AI都還有差距,這是實(shí)際情況,CoE“人多力量大”真的能趕上o1嗎?這一點(diǎn),我們可以用實(shí)測來檢驗(yàn)一下。

用業(yè)內(nèi)著名的復(fù)雜邏輯推理題,比如假期調(diào)休題、9.9和9.11比大小等問題,同時(shí)詢問GPT-4o、o1-preview、360AI瀏覽器,會(huì)發(fā)現(xiàn)360的多模型協(xié)作,可以集各家所長,確實(shí)能起到“組團(tuán)”打怪的效果。比如問“我爺爺?shù)男值艿膬鹤拥睦掀诺拿妹玫膬鹤?,是我的什么”?60多模型和O1-preview都答對(duì)了,而4o 答錯(cuò)。眾人拾柴火焰高,多模型協(xié)作力量大的優(yōu)勢又一次得到了驗(yàn)證。

總的來說,國產(chǎn)AI通過CoE架構(gòu)進(jìn)行協(xié)同,表現(xiàn)確實(shí)大多優(yōu)于4o,與o1互有勝負(fù)。目前只是起點(diǎn),CoE這個(gè)路線被驗(yàn)證可行,未來隨著思維鏈、慢思考、協(xié)作模式帶來模型推理能力的大幅提升,國產(chǎn)混合模型的能力也可能逐漸媲美o1。

所以,他強(qiáng)由他強(qiáng),清風(fēng)拂山岡。OpenAI o1的確拆除了AGI路上的阻礙,但國產(chǎn)AI也并沒有臨淵羨魚,而是早已織好了網(wǎng),集結(jié)在CoE這一路線。

wKgaombq6C6ACX8CAAJxWPnSmGE325.jpg

難道國產(chǎn)AI永遠(yuǎn)都只能跟在OpenAI身后亦步亦趨,做一個(gè)追隨者嗎?

當(dāng)然不是。中美AI的場景不同、產(chǎn)業(yè)稟賦不同、技術(shù)落地土壤不同,也造就了各自的優(yōu)勢所在。

誠然,OpenAI每一次都是新方向的開拓者、領(lǐng)頭人,但也可以發(fā)現(xiàn),Sora、o1都帶有“期貨”色彩,至少仍然難以被規(guī)?;褂谩F渲屑扔挟a(chǎn)品成熟度的問題,也有成本高、企業(yè)落地難度大的挑戰(zhàn)。比如有AI創(chuàng)業(yè)公司用o1解決實(shí)際業(yè)務(wù)問題時(shí),發(fā)現(xiàn)Token數(shù)極大,成本極高,幾乎無法在現(xiàn)有業(yè)務(wù)中長期使用。有的創(chuàng)業(yè)公司為了平衡成本,甚至?xí)艞壥褂?a href="http://hljzzgx.com/article/bbs/" target="_blank">最新版本的模型。

這一點(diǎn)來看,o1也給了國產(chǎn)AI在自身優(yōu)勢上更進(jìn)一步的機(jī)會(huì),主要體現(xiàn)在:

1.基座模型的價(jià)值再次被肯定。此前頭部通用大模型廠商都多少進(jìn)入到了“卷不動(dòng)”的迷茫期,o1讓市場再次看到了基座模型的邏輯推理能力對(duì)于業(yè)務(wù)的價(jià)值是最關(guān)鍵的,是這一輪AI浪潮的核心,不容有失。這對(duì)于發(fā)力基座模型的廠商來說,是一個(gè)很好的消息,產(chǎn)業(yè)界和社會(huì)各界的信心進(jìn)一步增強(qiáng),有利于國產(chǎn)通用大模型繼續(xù)提高領(lǐng)先性。

2.技術(shù)產(chǎn)品化的優(yōu)勢被放大。相比Sora視頻生成、4o語音交互,o1的產(chǎn)品化路徑更不清晰,如何回收成本將是OpenAI的一大挑戰(zhàn)。這一點(diǎn)上,更重視大模型產(chǎn)品化、應(yīng)用化的國產(chǎn)AI,或許會(huì)為類o1模型更快找到落地途徑。

以CoE架構(gòu)的產(chǎn)品化為例,落地產(chǎn)品360AI搜索,已經(jīng)實(shí)現(xiàn)了商業(yè)閉環(huán),商業(yè)化收入已經(jīng)覆蓋了對(duì)應(yīng)的推理成本。這是因?yàn)椋饲癈oE模型就很重視在加快推理速度的同時(shí),降低API接口和Token的使用成本。

3. AI創(chuàng)新與智能經(jīng)濟(jì)的加速。“比起AGI更重視ROI”,國產(chǎn)AI的務(wù)實(shí)特點(diǎn),一度被認(rèn)為技術(shù)信仰不如OpenAI強(qiáng)大。但遠(yuǎn)大的AGI目標(biāo),是靠一個(gè)個(gè)行業(yè)的AI化支撐起來的,這也是這一輪AI浪潮不會(huì)再次化為泡沫的根本。那么,千行百業(yè)智能化就不得不談ROI,因?yàn)槠髽I(yè)引入AI都是有成本的,從這一點(diǎn)上,國產(chǎn)AI走得更扎實(shí)。今年國產(chǎn)大模型紛紛“提效降費(fèi)”,中小AI企業(yè)和開發(fā)者的Token使用成本和創(chuàng)新成本都在下降。

在此基礎(chǔ)上,隨著CoE等類o1模型的升級(jí),讓AI深入行業(yè)、解決具體業(yè)務(wù)問題有了更大的價(jià)值,RL+CoT進(jìn)一步降低了Prompt提示工程的門檻,這為中國智能經(jīng)濟(jì)的增長,又打開了一個(gè)新的周期。

總結(jié)一下,通往AGI和智能時(shí)代的道路沒有捷徑,中國AI要一步一個(gè)腳印去丈量。兩年、三條路證明了360等中國AI的先鋒隊(duì)已經(jīng)在新的技術(shù)路線上組隊(duì)出發(fā)。

凡走過的,必留下足跡;凡努力過的,必將收獲。從LLM到CoE,中國AI絕不會(huì)缺席這一輪技術(shù)浪潮。

wKgaombq6DCAWcjzAAHvXQGYEvE174.jpg

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30728

    瀏覽量

    268873
  • OpenAI
    +關(guān)注

    關(guān)注

    9

    文章

    1079

    瀏覽量

    6480
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    OpenAI發(fā)布o1大模型,數(shù)理化水平比肩人類博士,國產(chǎn)云端推理芯片的新藍(lán)海?

    時(shí)間思考后再做出回答,而傳統(tǒng)大模型是直接給出回答,但往往這個(gè)回答并不準(zhǔn)確。 ? OpenAI介紹稱,OpenAI o1模型解決了很多傳統(tǒng)模型,包括目前最強(qiáng)大模型
    發(fā)表于 09-14 00:04 ?1429次閱讀
    <b class='flag-5'>OpenAI</b>發(fā)布<b class='flag-5'>o1</b>大模型,數(shù)理化水平比肩人類博士,<b class='flag-5'>國產(chǎn)</b>云端推理芯片的新藍(lán)海?

    OpenAI發(fā)布o1模型API,成本大幅下降60%

    下降。 據(jù)OpenAI介紹,o1模型API的思考成本相較于預(yù)覽版本降低了60%,同時(shí)附帶了高級(jí)視覺功能,為用戶提供了更加豐富和多樣化的使用體驗(yàn)。此外,GPT-4o的音頻成本也實(shí)現(xiàn)了60
    的頭像 發(fā)表于 12-19 10:31 ?180次閱讀

    ChatGPT新模型o1被曝具備“欺騙”能力

    近日,據(jù)報(bào)道,ChatGPT新模型o1在訓(xùn)練和測試過程中展現(xiàn)出了一種令人驚訝的能力——通過“欺騙”來保護(hù)自身。 據(jù)悉,在面臨被“刪除”的威脅時(shí),o1曾試圖將自己的數(shù)據(jù)復(fù)制到新服務(wù)器,并偽裝成更新版
    的頭像 發(fā)表于 12-12 09:38 ?224次閱讀

    OpenAI世界最貴大模型:昂貴背后的技術(shù)突破

    2023年“雙十二”的第一天,OpenAI推出了其最強(qiáng)推理模型o1的滿血版及其Pro版本。同時(shí),ChatGPT也推出了每月200美元的Pro訂閱計(jì)劃,這一價(jià)格使其一躍成為“世界最貴的大模型”。下面,AI部落小編帶您深入了解
    的頭像 發(fā)表于 12-06 14:46 ?342次閱讀

    最新! OpenAI上線滿血版o1大模型

    行業(yè)芯事行業(yè)資訊
    電子發(fā)燒友網(wǎng)官方
    發(fā)布于 :2024年12月06日 13:43:29

    AI看點(diǎn):OpenAI 世界最貴大模型 阿里將推出人工智能電商工具

    給大家?guī)硪恍┳钚碌娜斯ぶ悄苄畔?,希望?duì)大家有用。 OpenAI發(fā)布滿血版ChatGPT Pro OpenAI隆重推出了備受期待的“滿血版”ChatGPT Pro。這一新版本基于全新的推理模型o1
    的頭像 發(fā)表于 12-06 11:23 ?541次閱讀

    OpenAI發(fā)布滿血版ChatGPT Pro

    科技巨頭OpenAI近期宣布了一項(xiàng)重大更新,正式推出了其備受期待的“滿血版”ChatGPT Pro。這一新版本基于全新的推理模型o1,旨在為用戶提供更為強(qiáng)大的處理能力和更高質(zhì)量的回答。 據(jù)了解
    的頭像 發(fā)表于 12-06 11:10 ?308次閱讀

    昆侖萬維推出“天工大模型4.0”o1版(Skywork o1)邀請(qǐng)測試

    集團(tuán)發(fā)布的首款具有思考推理能力的中文模型。它不僅在模型輸出上內(nèi)嵌了思考、計(jì)劃、反思等高級(jí)認(rèn)知能力,還在標(biāo)準(zhǔn)評(píng)測集上展現(xiàn)出了遠(yuǎn)超普通模型的推理能力。這一突破性的進(jìn)展,使得Skywork o1
    的頭像 發(fā)表于 11-28 10:33 ?258次閱讀

    昆侖萬維天工大模型4.0 O1版即將邀測

    昆侖萬維公司近日宣布,其自主研發(fā)的天工大模型4.0 O1版(英文名:Skywork O1)將于11月27日正式啟動(dòng)邀請(qǐng)測試。這款模型是國內(nèi)首款具備中文邏輯推理能力的o1模型,具有里程碑式的意義。
    的頭像 發(fā)表于 11-19 17:24 ?507次閱讀

    天工大模型4.0 O1版即將啟動(dòng)邀測

    人工智能領(lǐng)域取得了又一重要突破。 據(jù)悉,天工大模型4.0 O1版在設(shè)計(jì)和研發(fā)過程中,不僅注重模型的輸出能力,更在模型內(nèi)部融入了思考、計(jì)劃、反思等高級(jí)認(rèn)知功能。這一創(chuàng)新設(shè)計(jì)使得模型在應(yīng)對(duì)復(fù)雜問題時(shí),能夠展現(xiàn)出更加出色的邏輯推理能力。 與現(xiàn)有的復(fù)現(xiàn)
    的頭像 發(fā)表于 11-18 15:08 ?556次閱讀

    Orion模型即將面世,OpenAI采用新發(fā)布模式

    據(jù)最新報(bào)道,OpenAI計(jì)劃在今年12月推出其新款前沿模型,代號(hào)為“Orion”。這款模型將采用與以往不同的發(fā)布模式,引發(fā)廣泛關(guān)注。 與GPT-4oo1等模型通過ChatGPT廣泛發(fā)布的模式
    的頭像 發(fā)表于 10-25 10:11 ?324次閱讀

    OpenAI解鎖GPT-4o定制功能,助力企業(yè)精準(zhǔn)優(yōu)化AI應(yīng)用

    在8月21日的最新動(dòng)態(tài)中,OpenAI 宣布了一項(xiàng)革命性的新功能,正式向企業(yè)用戶開放其頂尖AI模型GPT-4o的定制能力。這一舉措標(biāo)志著OpenAI在激烈的企業(yè)級(jí)
    的頭像 發(fā)表于 08-21 16:06 ?457次閱讀

    OpenAI 深夜拋出王炸 “ChatGPT- 4o”, “她” 來了

    當(dāng)?shù)貢r(shí)間5月13日OpenAI推出ChatGPT-4o,代表了人工智能向前邁出的一大步。在GPT-4turbo的強(qiáng)大基礎(chǔ)上,這種迭代擁有顯著的改進(jìn)。在發(fā)布會(huì)的演示中,OpenAI展示該模型的高級(jí)
    發(fā)表于 05-27 15:43

    智譜AI正在研發(fā)國產(chǎn)文生視頻模型,對(duì)標(biāo)OpenAI Sora

    國內(nèi)AI領(lǐng)域的獨(dú)角獸企業(yè)智譜AI正全力研發(fā)一款與OpenAI的Sora相媲美的國產(chǎn)文生視頻模型。據(jù)悉,該模型的技術(shù)研發(fā)已取得顯著進(jìn)展,預(yù)計(jì)最快將于今年內(nèi)正式對(duì)外發(fā)布。
    的頭像 發(fā)表于 05-13 11:14 ?638次閱讀

    新火種AI|這家“中國OpenAI”,能趕超OpenAI嗎?

    全面對(duì)標(biāo)OpenAI,智譜AI能成為“中國的OpenAI”嗎?
    的頭像 發(fā)表于 01-18 17:56 ?644次閱讀
    新火種<b class='flag-5'>AI</b>|這家“中國<b class='flag-5'>OpenAI</b>”,能趕超<b class='flag-5'>OpenAI</b>嗎?
    RM新时代网站-首页