杰和課堂|帶你認(rèn)識(shí)算力

杰和課堂|帶你認(rèn)識(shí)算力人工智能浪潮洶涌的今天，算力一詞頻繁出現(xiàn)在各類科技新聞、產(chǎn)業(yè)發(fā)展報(bào)告中。了解過杰和科技產(chǎn)品的讀者們，也會(huì)在杰和各產(chǎn)品參數(shù)中發(fā)現(xiàn)算力...

2024-12-06 標(biāo)簽：AI人工智能算力 248 0

FP8數(shù)據(jù)格式在大型模型訓(xùn)練中的應(yīng)用

本文主要介紹了 FP8 數(shù)據(jù)格式在大型模型訓(xùn)練中的應(yīng)用、挑戰(zhàn)及最佳實(shí)踐，展示了 FP8 在提升訓(xùn)練速度和效率方面的潛力和實(shí)際效果。

2024-11-19 標(biāo)簽：NVIDIA數(shù)據(jù)格式模型 241 0

存算一體技術(shù)的分類

近年間，云計(jì)算與人工智能技術(shù)的蓬勃興起，計(jì)算中心面臨著數(shù)據(jù)效率低、能耗大等核心挑戰(zhàn)，這促使學(xué)術(shù)界和工業(yè)界重新聚焦。

2024-11-05 標(biāo)簽：處理器存儲(chǔ)器算力 302 0

【一文看懂】大白話解釋“GPU與GPU算力”

隨著大模型的興起，“GPU算力”這個(gè)詞正頻繁出現(xiàn)在人工智能、游戲、圖形設(shè)計(jì)等工作場景中，什么是GPU，它與CPU的區(qū)別是什么？以及到底什么是GPU算力？...

2024-10-29 標(biāo)簽：cpugpu算力 553 0

使用OpenVINO 2024.4在算力魔方上部署Llama-3.2-1B-Instruct模型

前面我們分享了《三步完成Llama3在算力魔方的本地量化和部署》。2024年9月25日，Meta又發(fā)布了Llama3.2：一個(gè)多語言大型語言模型（LLM...

2024-10-12 標(biāo)簽：模型Meta算力 562 0

算力服務(wù)器為什么選擇GPU

隨著人工智能技術(shù)的快速普及，算力需求日益增長。智算中心的服務(wù)器作為支撐大規(guī)模數(shù)據(jù)處理和計(jì)算的核心設(shè)備，其性能優(yōu)化顯得尤為關(guān)鍵。而GPU服務(wù)器也進(jìn)入了大眾...

2024-07-25 標(biāo)簽：cpugpu服務(wù)器 607 0

中國AI長卷（一）：大國重算

AI為沃土，智算是長城

2024-07-23 標(biāo)簽：半導(dǎo)體AI人工智能 1290 0

OpenAI刺破了中國AI的幻想

不可逆的AI封鎖，還有哪些牌可出？

2024-06-28 標(biāo)簽：芯片APIAI 2383 0

存內(nèi)計(jì)算——助力實(shí)現(xiàn)28nm等效7nm功效

可重構(gòu)芯片嘗試在芯片內(nèi)布設(shè)可編程的計(jì)算資源，根據(jù)計(jì)算任務(wù)的數(shù)據(jù)流特點(diǎn)，動(dòng)態(tài)構(gòu)造出最適合的計(jì)算架構(gòu)，國內(nèi)團(tuán)隊(duì)設(shè)計(jì)并在12nm工藝下制造的CGRA芯片，已經(jīng)...

2024-05-17 標(biāo)簽：芯片AI芯片制程 1901 0

基于FPGA的網(wǎng)絡(luò)加速設(shè)計(jì)實(shí)現(xiàn)

首先是FPGA硬件的變化太多，各個(gè)模塊可配參數(shù)的變化（比如卷積模塊并行數(shù)的變化），另外一個(gè)是網(wǎng)絡(luò)模型多種多樣以及開源的網(wǎng)絡(luò)模型平臺(tái)也很多（tensorf...

2024-04-08 標(biāo)簽：FPGA神經(jīng)網(wǎng)絡(luò)算力 1019 0

大算力時(shí)代，關(guān)于內(nèi)存墻的應(yīng)對方法

以Transformer架構(gòu)為基礎(chǔ)的AI大模型導(dǎo)致了模型參數(shù)量激增，短短兩年間模型大小擴(kuò)大了驚人的410倍，運(yùn)算量更是激增了高達(dá)750倍。

2024-03-14 標(biāo)簽：gpu內(nèi)存AI 355 0

到底什么是算力？算力的價(jià)值在哪里？

算力的字面意思，大家都懂，就是計(jì)算能力（ComputingPower）。所謂“計(jì)算”，我們可以有多種定義。狹義的定義，是對數(shù)學(xué)問題進(jìn)行運(yùn)算的過程，例如完...

2024-03-13 標(biāo)簽：算法算力存力 1683 0

AI新基建引領(lǐng)“三浪變革”，驅(qū)動(dòng)產(chǎn)業(yè)升級(jí)與創(chuàng)新

2023年迎來“知識(shí)生產(chǎn)力變革”第一浪，以大語言模型為核心，實(shí)現(xiàn)知識(shí)工程的生產(chǎn)力變革，類似于中世紀(jì)的印刷革命。大語言模型具有超高速學(xué)習(xí)能力，可在人機(jī)協(xié)同...

2024-01-31 標(biāo)簽：gpuAI人工智能 2171 0

深入分析評(píng)估GPU算力需求

長期來看，國產(chǎn)CPU、GPU、AI芯片廠商受益于龐大的國內(nèi)市場，疊加國內(nèi)信創(chuàng)市場帶來國產(chǎn)化需求增量，我們預(yù)期國內(nèi)AI芯片的國產(chǎn)化比例將顯著提升，借此機(jī)會(huì)...

2024-01-17 標(biāo)簽：cpuNVIDIAgpu 830 0

2024 AI智算產(chǎn)業(yè)趨勢報(bào)告

當(dāng)下智算時(shí)代雖然在初級(jí)階段，依托AI大模型形成的新一代算力基礎(chǔ)設(shè)施和AI應(yīng)用已經(jīng)在諸多領(lǐng)域嶄露頭角。 數(shù)字中國愿景的實(shí)現(xiàn)，基石在于夯實(shí)數(shù)字化基礎(chǔ)設(shè)施建設(shè)。

2024-01-17 標(biāo)簽：AI智能制造算力 489 0

大模型智能的革命：如何打破算力瓶頸

大模型的參數(shù)量主要取決于隱藏層的維度和構(gòu)成模型的Block的數(shù)量，我們假定隱藏層的維度為 h，Block 的數(shù)量為 i，那么，大模型的參數(shù)量為 。

2024-01-16 標(biāo)簽：AIGPT算力 496 0

AI智算產(chǎn)業(yè)的發(fā)展趨勢與展望（2024年）

AI賽道投資火熱，基建與應(yīng)用兩端爆發(fā) 當(dāng)前中國資本市場對于AI領(lǐng)域的主要關(guān)注在兩端：前端基礎(chǔ)設(shè)施部署及后端應(yīng)用開發(fā)；AI相關(guān)應(yīng)用開發(fā)正由虛轉(zhuǎn)實(shí)，落地實(shí)體...

2024-01-16 標(biāo)簽：AI云原生算力 1373 0

詳細(xì)分析算力網(wǎng)絡(luò)的發(fā)展

2023年12月底，由國家發(fā)展改革委、國家數(shù)據(jù)局、中央網(wǎng)信辦、工業(yè)和信息化部、國家能源局五部門聯(lián)合印發(fā)的《關(guān)于深入實(shí)施“東數(shù)西算”工程 加快構(gòu)建全國一體...

2024-01-16 標(biāo)簽：處理器芯片網(wǎng)絡(luò) 574 0