谷歌推出了其最新的人工智能數(shù)據(jù)中心芯片——Trillium。這款芯片是谷歌的第六代產(chǎn)品，與上一代TPU v5e相比，Trillium在每個(gè)芯片上的峰值計(jì)算性能提高了4.7倍，節(jié)能67%以上。

此外，谷歌還通過(guò)增加高帶寬存儲(chǔ)（HBM）容量和整體帶寬，以及引入新的技術(shù)特性，如擴(kuò)大了矩陣乘單元（MXU）的大小并提高了時(shí)鐘速度，以及配備了第三代SparseCore等，進(jìn)一步提升了Trillium的性能。

SparseCore是Trillium的一個(gè)關(guān)鍵特性，它是一種專(zhuān)門(mén)用于處理高級(jí)排名和推薦工作負(fù)載中常見(jiàn)的超大型嵌入的專(zhuān)用加速器。通過(guò)戰(zhàn)略性地從張量核心中卸載隨機(jī)和細(xì)粒度訪(fǎng)問(wèn)，SparseCore能夠加速嵌入繁重的工作負(fù)載。此外，HBM容量和帶寬翻倍后，Trillium可以使用具有更多權(quán)重和更大鍵值緩存的更大模型。

Alphabet首席執(zhí)行官桑達(dá)爾·皮查伊（Sundar Pichai）表示，過(guò)去六年，行業(yè)對(duì)機(jī)器學(xué)習(xí)計(jì)算機(jī)的需求增長(zhǎng)了100萬(wàn)臺(tái)，每年大約增長(zhǎng)10倍。谷歌推出Trillium AI芯片正是為了應(yīng)對(duì)這一日益增長(zhǎng)的需求。谷歌本身并不銷(xiāo)售芯片，而是通過(guò)其云計(jì)算平臺(tái)出租訪(fǎng)問(wèn)權(quán)限。谷歌表示，新芯片Trillium旨在為從大模型生成文本和其他媒體的技術(shù)提供支持，并計(jì)劃于2024年末向云客戶(hù)提供。

在架構(gòu)設(shè)計(jì)上，Trillium可以在單個(gè)高帶寬、低延遲的Pod中擴(kuò)展到多達(dá)256個(gè)TPU，并且可以擴(kuò)展到數(shù)百個(gè)Pod。這使得Trillium能夠處理更大規(guī)模、更復(fù)雜的人工智能任務(wù)，進(jìn)一步推動(dòng)人工智能技術(shù)的發(fā)展和應(yīng)用。

谷歌推出的Trillium AI芯片在性能上實(shí)現(xiàn)了近5倍的提升，并在多個(gè)方面進(jìn)行了創(chuàng)新和改進(jìn)。這款芯片有望在未來(lái)的人工智能領(lǐng)域中發(fā)揮重要作用。