RM新时代网站-首页

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

GPT-4已經會自己設計芯片了嗎?

摩爾學堂 ? 來源:摩爾學堂 ? 2023-06-20 11:51 ? 次閱讀

GPT-4已經會自己設計芯片了!芯片設計行業(yè)的一個老大難問題HDL,已經被GPT-4順利解決。并且,它設計的130nm芯片,已經成功流片。

GPT-4,已經可以幫人類造芯片了!

只用簡單的英語對話,紐約大學Tandon工程學院的研究人員就通過GPT-4造出了一個芯片。

具體來說,GPT-4通過來回對話,就生成了可行的Verilog。隨后將基準測試和處理器發(fā)送到Skywater 130 nm穿梭機上成功流片(tapeout)。

這項成就,堪稱史無前例。

這意味著,在大語言模型的幫助下,芯片設計行業(yè)的大難題——HDL將被攻克。芯片開發(fā)的速度將大大加快,并且芯片設計的門檻也被大大降低,沒有專業(yè)技能的人都可以設計芯片了。

研究者表示:「可以認為,這項研究產生了第一個完全由AI生成的HDL(硬件描述語言),它可以直接用來制造物理芯片?!?/p>

HDL難題被GPT-4順利解決

如上圖所示,芯片設計和制造中非常重要的一部分代碼——Verilog,就是研究人員通過提示詞讓GPT-4生成的。

bc16f54e-0f1c-11ee-962d-dac502259ad0.png

在NYU的這項研究中,兩名硬件工程師僅僅通過英語和GPT-4交談,就設計出了一種新型的8位基于累加器微處理器架構。

而GPT-4設計的芯片,顯然已經達到了工業(yè)標準,因為它隨后就被研究者送去在Skywater 130nm shuttle上制造了。

這標志著第一個由大語言模型設計的IC被實際制造出來,達到了一個里程碑。

bc23bfc2-0f1c-11ee-962d-dac502259ad0.png

硬件描述語言(HDL),一直是芯片設計行業(yè)一直面臨的一個巨大挑戰(zhàn)。

因為HDL代碼需要非常專業(yè)的知識,對很多工程師來說,想要掌握它們非常困難。

如果大語言模型可以替代HDL的工作,工程師就可以把精力集中在攻關更有用的事情上。

Pearce博士面對自己設計出的第一塊芯片,頗為感慨地表示:「我根本就不是芯片設計專家,卻設計出了一塊芯片,這正是令人印象深刻的地方?!?/p>

通常情況下,開發(fā)任何類型的硬件(包括芯片),第一步都是用日常語言描述硬件功能。

隨后,經過專門培訓的工程師會把這個描述翻譯成硬件描述語言 (HDL),由此創(chuàng)建允許硬件執(zhí)行任務的實際電路元件。

Verilog就是一個經典的例子。在這項研究中,大語言模型能夠通過來回對話生成可行的Verilog。隨后就是將基準測試和處理器發(fā)送到Skywater 130 nm穿梭機上,進行流片(tapeout)。

bc418444-0f1c-11ee-962d-dac502259ad0.png

紐約大學坦登電氣與計算機工程系以及網絡安全中心的研究助理教授Dr. Hammond Pearce介紹說,之所以啟動這個Chip Chat項目,是希望探索大語言模型在硬件設計領域的能力。

在他們看來,這些大語言模型不僅僅是「玩具」,而是有潛力做更多事情。為了驗證這個概念,Chip Chat項目誕生了。

我們都知道,OpenAI的ChatGPT和谷歌的Bard都可以生成不同編程語言的軟件代碼,但它們在硬件設計的應用中尚未得到廣泛的研究。

而NYU的這項研究表明,AI不僅可以生成軟件代碼,還能使硬件制造收益。

大語言模型的優(yōu)點在于,我們可以采用對話的方式與其交互,這樣,我們就能通過有來有回的方式,來完善硬件的設計。

bc5127be-0f1c-11ee-962d-dac502259ad0.png

研究團隊使用大語言模型處理了8個硬件設計示例,尤其是生成用于功能和驗證目的的Vrilog代碼。

此前,研究人員就曾測試了大語言模型將英語轉換為Vrilog的效果,但他們發(fā)現(xiàn),加入與人類工程師的交互過程后,大語言模型才產生了最好的Vrilog。

這項研究不僅僅停留在實驗層面。研究人員發(fā)現(xiàn),如果在現(xiàn)實環(huán)境中將這個方法投入實踐,大語言模型可以減少HDL轉換過程中的人為錯誤,這就可以大大提高生產力,縮短芯片的設計時間和上市時間,還允許芯片設計者進行更具創(chuàng)意的設計。

另外,這個過程還極大地降低了芯片設計師對HDL流利程度的需求。

因為寫HDL是一種相對罕見的技能,對不少芯片設計求職者都是一大難關。

bc58da7c-0f1c-11ee-962d-dac502259ad0.png

所以,如果真的將大語言模型用于芯片設計,在現(xiàn)階段是否可行呢?

研究人員表示,相關的安全因素以及可能導致的問題,還需要通過進一步測試來識別和解決。

在疫情期間的芯片短缺,已經阻礙了汽車以及其他依賴芯片設備的供應,如果大語言模型真的能夠在實踐中設計芯片,無疑會大大緩解這種短缺。

bc64c990-0f1c-11ee-962d-dac502259ad0.png

四大LLM芯片設計大PK

研究人員首先設置了設計流程圖和評估標準,來給大語言模型在芯片設計方面的表現(xiàn)打分。對話框架形成了一個反饋循環(huán)。

通過這個「半自動化」流程,研究人員想對比一下4個大語言模型(GPT-4,ChatGPT,Bard,HuggingChat),執(zhí)行芯片設計的能力。

bc6fa090-0f1c-11ee-962d-dac502259ad0.png

研究人員首先給大語言模型喂了如下圖所示的提示詞,讓他們生成兩種不同的文檔。

bc7a595e-0f1c-11ee-962d-dac502259ad0.png

然后輸出的內容研究人員會讓有經驗的工程師來評估是否能夠使用。

如果輸出內容達不到標準,研究人員會讓大語言模型通過相同的提示詞再輸出5次。

如果還不符合要求,那么就認為這個大語言模型無法完成這個工作流程。

當完成了的設計和Benchtest內容后,用Icarus Verilog(iverilog)對內容進行編譯,如果編譯成功了的話,就進一步進行模擬。

如果這個流程跑下來沒有報錯,那么這個設計就通過了。

但是如果這個流程中任意一個過程報錯了,就把報錯的地方反饋到模型中,讓它自己提供修復,這個過程稱為Tool Feedback(TF)。

如果之后相同的錯誤重復出現(xiàn)了三次,則用戶會給出簡單的人工反饋(Simple Human Feedback,SHF)。

如果依然存在錯誤,就繼續(xù)給予模型進一步的反饋(Moderate Human Feedback,MHF)和(Advenced Human Feedback,AHF)。

如果還存在錯誤,就認為模型完成不了這個流程。

GPT-4、ChatGPT勝出

研究人員根據(jù)上面的流程,對4個大語言模型,GPT-4/ChatGPT/Bard/Hugging Chat生成用于硬件設計的Verilog的水平進行了測試。

在用完全相同的提示詞進行提示之后,得到了以下的結果:

bc836ee0-0f1c-11ee-962d-dac502259ad0.png

bc882f48-0f1c-11ee-962d-dac502259ad0.png

bc931aac-0f1c-11ee-962d-dac502259ad0.png

bca1f6b2-0f1c-11ee-962d-dac502259ad0.png

GPT-4和ChatGPT都能夠滿足規(guī)范并最終通過了設計的整個流程,Bard和HuggingChat都未能滿足標準從而開啟下邊進一步的測試流程。

因為Bard和HuggingChat的表現(xiàn)不好,之后的流程研究人員就只針對GPT-4和ChatGPT進行。

在進行完了整個測試流程后,GPT-4和ChatGPT的對比結果如下圖

bcad4170-0f1c-11ee-962d-dac502259ad0.pngOutcome指的是在哪個反饋階段得到了成功或者失敗的結果。

GPT-4表現(xiàn)很好,基本上通過大多數(shù)的測試。

大多數(shù)情況下都只需要進行到工具反饋(TF)階段就能結束測試,只是在Testbench中需要人工反饋。

ChatGPT的表現(xiàn)明顯要比GPT-4差,大部分的嘗試最終都沒有通過測試,而且大部分通過測試的結果也不符合整體的標準。

GPT4輔助設計芯片在實際芯片設計流程中的探索

在完成了這個標準化的測試流程,篩選出了唯一合格的大模型GPT-4之后。

研究團隊決定將它用來實際參與芯片流程,解決現(xiàn)實世界中芯片設計和制造流程中出現(xiàn)的問題。

具體來說,研究團隊讓一名經驗豐富的硬件設計工程師使用GPT-4來設計一些更復雜的芯片設計,并對設計結果進行定性的檢查。

研究團隊使用GPT-4編寫了設計芯片的所有Verilog(不包括頂層的Tiny Tapeout wraper)。

通過下圖所示的提示詞,研究人員讓硬件設計工程師和GPT-4共同開始設計一個8位的基于累加器的構架,擁有32字節(jié)內存的馮諾依曼類型的芯片。

bcb588b2-0f1c-11ee-962d-dac502259ad0.png

在設計的過程中,人類工程師負責引導GPT-4,驗證它的輸出。

GPT-4單獨負責處理器的Verilog代碼的編寫,同時還制定了處理器的大部分規(guī)格。

具體來說,研究團隊將較大的設計項目細分成子任務,每個子任務在界面中都有自己 的「對話線程」。

由于ChatGPT-4不會在線程之間共享信息,工程師要將從上一個線程復制相關信息到新的第一個消息中, 從而形成一個慢慢定義處理器的「基礎規(guī)范」。

基本規(guī)范最終包 括ISA、寄存器列表、內存庫、ALU和控制單元的定義,以及處理器在每 個周期中應該做什么的高級概述。

這個規(guī)范中的大多數(shù)信息都是由ChatGPT-4生成的,工程師只做了一些復制/粘貼的工作,并稍加編輯。

ChatGPT-4有時會輸出不是很理想的響應內容。

出現(xiàn)這種情況,工程師可能會做出兩個選擇,要么繼續(xù)對話并推動它修復響應,或使用接口強制ChatGPT-4「重啟」響應,即通過假裝之前的答案從未發(fā)生來重新生成結果。

在這兩者之間進行選擇需要專業(yè)的判斷:繼續(xù)對話允許用戶指定前一個響應的哪些部分是好的或壞的,而重新生成將保持整個對話更短和更簡潔(考慮到有限 的上下文窗口大小,這是有價值的)。

盡管如此,從下圖中 的‘#Restart ‘列可以看出,隨著工程師對使用ChatGPT-4越來越 有經驗,重啟次數(shù)趨于減少。

bcbe71a2-0f1c-11ee-962d-dac502259ad0.png

研究者在論文中展示了一個最為困難,重啟了10次的提示和回復實例,是一段關于控制信號規(guī)劃的內容(Control Signal Planning)。

bccae82e-0f1c-11ee-962d-dac502259ad0.png

bcd62482-0f1c-11ee-962d-dac502259ad0.png

設計結果

設計流程的全部對話內容可以在下面的鏈接中查閱:

https://zenodo.org/record/7953724

GPT-4參與生成的指令系統(tǒng)結構(Instruction Set Architecture,ISA)如下圖所示。

bce5308a-0f1c-11ee-962d-dac502259ad0.png

研究人員繪制了GPT-4設計的芯片的通路數(shù)據(jù)圖如下圖所示。

bcee0930-0f1c-11ee-962d-dac502259ad0.png

最后,研究人員評價道:「大語言模型能夠成倍放大設計能力,讓設計人員能夠快速地設計空間探索(space exploration)和迭代」。

「總體上來說,GPT-4可以生成能使用的代碼,節(jié)省大量的設計時間?!?br /> 責任編輯:彭菁

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    455

    文章

    50714

    瀏覽量

    423131
  • 語言模型
    +關注

    關注

    0

    文章

    520

    瀏覽量

    10268
  • GPT
    GPT
    +關注

    關注

    0

    文章

    352

    瀏覽量

    15342

原文標題:AI竟能生成芯片了!GPT-4僅用19輪對話造出130nm芯片,攻克芯片設計行業(yè)巨大挑戰(zhàn)HDL

文章出處:【微信號:moorexuetang,微信公眾號:摩爾學堂】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    GPT-4發(fā)布!多領域超越“人類水平”,專家:國內落后2-3年

    電子發(fā)燒友網報道(文/吳子鵬)北京時間3月15日凌晨,人工智能研究公司OpenAI正式發(fā)布了其下一代大型語言模型GPT-4。目前,ChatGPT的Plus訂閱用戶已經可以使用GPT-4,其他用戶需要
    的頭像 發(fā)表于 03-16 01:58 ?4694次閱讀
    <b class='flag-5'>GPT-4</b>發(fā)布!多領域超越“人類水平”,專家:國內落后2-3年

    ChatGPT升級 OpenAI史上最強大模型GPT-4發(fā)布

    ChatGPT升級 史上最強大模型GPT-4發(fā)布 OpenAI正式推出了ChatGPT升級版本,號稱史上最強大模型GPT-4發(fā)布。OpenAI期待GPT-4成為一個更有價值的AI工具。 GPT
    的頭像 發(fā)表于 03-15 18:15 ?2812次閱讀

    GPT-4多模態(tài)模型發(fā)布,對ChatGPT的升級和斷崖式領先

    而且 GPT-4 是多模態(tài)的,同時支持文本和圖像輸入功能。此外,GPT-4 比以前的版本“更大”,這意味著其已經在更多的數(shù)據(jù)上進行了訓練,并且在模型文件中有更多的權重,這也使得它的運行成本更高。
    的頭像 發(fā)表于 03-17 10:31 ?3421次閱讀

    關于GPT-4的產品化狂想

    GPT-4是條件,而不是結果
    的頭像 發(fā)表于 03-26 10:48 ?2993次閱讀
    關于<b class='flag-5'>GPT-4</b>的產品化狂想

    GPT-4是這樣搞電機的

    GPT-4寫電機基礎程序沒問題
    的頭像 發(fā)表于 04-17 09:41 ?1012次閱讀
    <b class='flag-5'>GPT-4</b>是這樣搞電機的

    微軟GPT-4搜索引擎重大升級 新Bing開放AI能力

    GPT-4GPT-4有更強悍的能力可以提供創(chuàng)意性文章創(chuàng)作和圖像識別功能。微軟馬上跟進,宣布旗下的Bing Chat已經升級使用了OpenAI提供的GPT-4技術。 現(xiàn)在,微軟公司在官
    的頭像 發(fā)表于 05-05 17:15 ?2593次閱讀

    GPT-4 的模型結構和訓練方法

    GPT-4 的發(fā)布報道上,GPT-4 的多模態(tài)能力讓人印象深刻,它可以理解圖片內容給出圖片描述,甚至能在圖片內容的基礎上理解其中的隱喻或推斷下一時刻的發(fā)展。
    的頭像 發(fā)表于 05-22 15:21 ?2633次閱讀
    <b class='flag-5'>GPT-4</b> 的模型結構和訓練方法

    人工通用智能的火花:GPT-4的早期實驗

    人工智能(AI)研究人員一直在開發(fā)和完善大型語言模型(LLMs),這些模型在各種領域和任務中表現(xiàn) 出非凡的能力,挑戰(zhàn)我們對學習和認知的理解。由OpenAI開發(fā)的最新模型GPT-4[Ope23
    發(fā)表于 06-20 15:49 ?1次下載

    OpenAI宣布GPT-4 API全面開放使用!

    OpenAI 在博客文章中寫道:“自 3 月份以來,數(shù)百萬開發(fā)者請求訪問 GPT-4 API,并且利用 GPT-4 的創(chuàng)新產品范圍每天都在增長?!?“我們設想基于對話的模型未來可以支持任何用例。”
    的頭像 發(fā)表于 07-12 14:55 ?1255次閱讀

    gpt-4怎么用 英特爾Gaudi2加速卡GPT-4詳細參數(shù)

    介紹GPT-4 詳細參數(shù)及英特爾發(fā)布 Gaudi2 加速器相關內容,對大模型及 GPU 生態(tài)進行探討和展望。英特爾發(fā)布高性價比Gaudi2加速卡GPT4詳細參數(shù)分析。
    發(fā)表于 07-21 10:50 ?867次閱讀
    <b class='flag-5'>gpt-4</b>怎么用 英特爾Gaudi2加速卡<b class='flag-5'>GPT-4</b>詳細參數(shù)

    GPT-3.5 vs GPT-4:ChatGPT Plus 值得訂閱費嗎 國內怎么付費?

    GPT-3.5 vs GPT-4:ChatGPT Plus值得訂閱費嗎?ChatGPT Plus國內如何付費?? ChatGPT-3.5一切都很好,但ChatGPT-4(通過ChatGPT Plus
    的頭像 發(fā)表于 08-02 12:09 ?4251次閱讀
    <b class='flag-5'>GPT</b>-3.5 vs <b class='flag-5'>GPT-4</b>:ChatGPT Plus 值得訂閱費嗎 國內怎么付費?

    GPT-4沒有推理能力嗎?

    今年三月,OpenAI 重磅發(fā)布了 GPT-4 大模型,帶來了比 ChatGPT 背后 GPT-3.5 更強的推理、計算、邏輯能力,也引發(fā)了全民使用的熱潮。在各行各領域研究人員、開發(fā)者、設計師的使用過程中,「GPT-4 是最為領
    的頭像 發(fā)表于 08-11 14:20 ?889次閱讀
    <b class='flag-5'>GPT-4</b>沒有推理能力嗎?

    OpenAI發(fā)布的GPT-4 Turbo版本ChatGPT plus有什么功能?

    GPT-4的最新版本。OpenAI憑借承諾增強功能和成本效率的模型實現(xiàn)了巨大飛躍,為人工智能行業(yè)樹立了新標準。 我們來看看OpenAI帶來了什么: 文本和圖像理解 GPT-4 Turbo憑借兩個獨特的版本脫穎而出:以文本為中心的分析器和精通解釋文本和圖像的尖端變體。文本分
    的頭像 發(fā)表于 12-05 17:57 ?2476次閱讀
    OpenAI發(fā)布的<b class='flag-5'>GPT-4</b> Turbo版本ChatGPT plus有什么功能?

    ChatGPT plus有什么功能?OpenAI 發(fā)布 GPT-4 Turbo 目前我們所知道的功能

    OpenAI 發(fā)布 GPT-4 Turbo 目前我們所知道的功能分析解答 在最近的OpenAI DevDay上,該組織發(fā)布了一項備受期待的公告:推出GPT-4 Turbo,這是對其突破性AI模型
    的頭像 發(fā)表于 12-13 09:19 ?1128次閱讀
    ChatGPT plus有什么功能?OpenAI 發(fā)布 <b class='flag-5'>GPT-4</b> Turbo 目前我們所知道的功能

    微軟Copilot全面更新為OpenAI的GPT-4 Turbo模型

    起初,Copilot作為Bing Chat AI助手推出,初期采用GPT-3.5模型,隨后升級至GPT-4取得顯著進步,如今再次更新至性能卓越的GPT-4 Turbo模型,這無疑將使得Copilot功能再上新臺階。
    的頭像 發(fā)表于 03-13 13:42 ?723次閱讀
    RM新时代网站-首页