PCB、液冷產值狂飆!輝達新AI晶片Rubin CPX架構全解析

中時新聞網
編纂、 吳美觀 、文、先探投資週刊、黃冠豪
輝達推出 Rubin CPX,專為大範圍情境推論而打造的新一代 GPU河。(圖/先探投資週刊供給)
字級設定:小中大特

輝達九月推出的 VR200 CPX 架構的擴充卡,正面迎戰 ASIC 競爭對手,將性價比大幅晉升,還供給客製化機櫃組裝,加深其雲端伺服器護城河。

九月中旬,輝達揭橥新一代VR200 NVL144 CPX機櫃,在印刷電路板(PCB)設計、材料與散熱方案周全升級,推動AI伺服器供給鏈邁入新一波成長輪回。Rubin系列中,今朝已公開發布的有兩種產品:VR200、VR300(Ultra),外加一個CPX擴充卡作為支援,新一代VR200沿用「十八個compute trays+九個switch trays」的根基架構,運算托盤(compute trays)整合了伺服器核心元件,如CPU/GPU、記憶體、網路模組、散熱裝配等模組化單位,就像AI伺服器的「心臟底座」,負責悉數的運算能力。

AV女優

AI推理的過程當中,有預填充(prefill)息爭碼(decode)兩個階段,在Prefill階段特別吃計較能力,但對記憶體頻寬的需求很低,而到了Decode,模子要基於第一個token不斷生成後續內容,此階段對算力需求相對較低,反而得靠高記憶體頻寬快速調取之前的快取資料。曩昔的問題是,都用統一種GPU(例如輝達的VR200)來跑這兩個階段,在預填充階段搭配昂貴的HBM記憶體,底子用不上,而在解碼時,又泛起算力相對多余、記憶體頻寬不足,效力差也浪費錢,是以非輝達陣營進而發展出自己的ASIC規格,以節省成本。

Rubin CPX擴充卡

丁字褲

輝達於是推出Rubin CPX擴充卡,專門為預填充階段,量身定做的加快器,目標是:本錢下降。單卡性能上和VR200相比,HBM換成了GDDR7,不但視訊記憶體的容量、頻寬都顯著下降,機能降落不少,但CPX的原物料成本約為VR200的四分之一,且可供應約VR200六○%的算力。另外,HBM的價錢異常貴,占GPU中的成本比例愈來愈高,從A100的三五%漲到GB300的五一%,CPX用的GDDR7,本錢可以省下八○%。一樣跑一個預填充當務,VR200每小時需支出○.九美元的總擁有本錢,而Rubin CPX只鋪張○.一六美元。

可以說,輝達此布局明白對準其他ASIC廠而來。晶片有性價比還不敷,這次Rubin系列的機架設計都一同進級,解決了前兩代(GB200/GB300)的幾大痛點。第一,無電纜設計,GB200機架用的是電纜+PCB的連接體例,電線又多又亂,組裝時容易壞,還占空間,此次Rubin系列改用美商安飛諾(Amphenol)的板對板毗鄰器,並共同中心的PCB中板,所有訊號都走電路板,沒有一條電線。

第二,全液冷方案,前兩代機架是八五%液冷、十五%氣冷,此次改成百分百全液冷,把CPX與CX-9網路卡的PCB疊板設計疊放在一路,中央夾一個同享的液冷板,雙方的熱量都能快速導走。在CPX的運算托盤內部,冷卻板(Cold Plate)數量由兩片增至五片,快接頭數量也從六顆提升至十二顆,初步估算,VR200 NVL144 CPX平台之液冷散熱零組件產值,較GB300 NVL72約有「倍增」的增幅。

欣興、定穎供應HDI板

第三,客製化布建,若已採購先前的VR200 NVL144機架,不想全數更換怎麼辦?輝達此次給了Rubin CPX雙機架方案,零丁加一個裡面滿是Rubin CPX的機架,經由過程InfiniBand(高效能互連)或乙太網路毗鄰,客戶可以自行調劑預填充和解碼的比例。綜上所述,輝達CPX架構明確對準AMD、Google、AWS等競爭敵手,AMD和Google都需要趕緊開辟出新的預填充專用晶片,否則本錢太高。(全文未完)

《先探投資週刊2378期》

全文及圖表請見《先探投資週刊2378期精彩當期內文轉載》

記憶體股大反撲!DRAM雙雄攻頂 3家模組廠high炸
南市議員變身「台南黃仁勳」!質詢AI市政掉隊現況
晶片部分回神 三星估上季獲利創3年新高


本篇文章引用自此: https://www.chinatimes.com/realtimenews/20251117000005-260410
情趣用品進口世界各國情趣成人用品玩具,非一般簡陋的產品,讓夫妻和情侶可以享受到真正的性愛催情性生活,在2019年進口日本、中國、美國最新科技飛機杯和按摩棒,讓您的性愛達到極致最高峰!<
情趣用品(英語:SEX TOYS),又稱成人玩具、性用品,指可以提升男女之間情趣性慾的產品。

人類歷史上很早就有這類調情的器具再使用,全球第一家成人用品開於1962年的西德弗倫斯堡,中國則是在1993年的北京開了第一家情趣用品店,當時引起了巨大的與論爭議。

成人用品網購是保護顧客隱私的銷售方式,目前網路購買情趣用品非常方便,可使用超商取貨、宅配貨到付款,包裝隱密安全,客服會出貨前測試正常狀態再進行出貨,產品保證全新品。
情趣用品類別就和春藥品(壯陽藥、陰莖增大)的感覺很像,用了會讓人上癮的!情趣就像春藥、加長加粗套就像持久液跳蛋、女性催情劑就像威而柔凝膠,這比喻是相當貼切的。
在台灣各地(台北、新北市、桃園、竹南、竹北、高雄、台中、彰化、新竹、台東、台南、屏東、澎湖、金門)只要有網路,都可以購買到我們公司的情趣按摩棒、R20自慰杯、性感睡衣、丁字褲、角色扮演、SM性玩具,在24H內送貨到指定地點給您!
男性專屬快感提升神器,飛機杯、自慰器、延時噴霧全面推薦,真實觸感、安全材質,讓你重拾性愛自信!
屏東赤牛嶺改良站數位旗子暗記恢復正常發射性玩具
舞出蚵仔麵線!avantgardey駭客任務開場+台味組曲 女團助陣嗨翻了自慰杯
創作者介紹
創作者 蝦皮情趣用品 台灣經銷總代理 跳蛋/按摩棒/潤滑油 的頭像
uptont80f060

蝦皮情趣用品 台灣經銷總代理 跳蛋/按摩棒/潤滑油

uptont80f060 發表在 痞客邦 留言(0) 人氣( 0 )

Blog Stats
⚠️

成人內容提醒

本部落格內容僅限年滿十八歲者瀏覽。
若您未滿十八歲,請立即離開。

已滿十八歲者,亦請勿將內容提供給未成年人士。