10月14日凌晨，英偉達(dá)在2023年全球超算大會(huì)（Supercomputing Conference，SC）上正式宣布，升級(jí)旗艦AI芯片，推出全新的H200芯片，以處理更強(qiáng)大的人工智能系統(tǒng)。包括亞馬遜的AWS、Alphabet的Google Cloud，以及甲骨文的云端基礎(chǔ)設(shè)施等美國(guó)科技巨頭已承諾，將在明年開(kāi)始采用這一新芯片。
消息一出，炸裂科技圈，驚呼“英偉達(dá)果然沒(méi)讓人失望！”“要么不出場(chǎng)，一出場(chǎng)就是王炸”....
當(dāng)你以為短期內(nèi) H200 就是頂時(shí)，英偉達(dá)已經(jīng)準(zhǔn)備好了更強(qiáng)的 B100。或許再接下來(lái)還會(huì)有 B200，x100，x200……真是太恐怖了！
H200 AI芯片組的突然發(fā)布讓許多人感到吃驚，尤其是考慮到英偉達(dá)憑借H100已經(jīng)遙遙領(lǐng)先于競(jìng)爭(zhēng)對(duì)手，訂單排到了明年。然而，英偉達(dá)并未滿足于此，反而一口氣推出了性能更強(qiáng)的AI芯片，H200預(yù)計(jì)于明年二季度開(kāi)始交付，英偉達(dá)尚未公布其價(jià)格。
據(jù)報(bào)道，H200擁有141GB的高帶寬內(nèi)存，相較于H100的80 GB，這是一次顯著的提升。英偉達(dá)的內(nèi)存芯片供應(yīng)商是韓國(guó)SK海力士，英偉達(dá)的訂單為SK海力士在第三季度實(shí)現(xiàn)了良好的銷售業(yè)績(jī)。美光表示，他們正在努力成為英偉達(dá)的供應(yīng)商。
目前英偉達(dá)的H200系列采用HBM3e內(nèi)存，其吞吐量高達(dá)4.8TB/s。然而，由于美光的HBM4預(yù)計(jì)要到2025年才會(huì)推出，英偉達(dá)可能會(huì)尋找Blackwell系列的替代解決方案，例如三星的產(chǎn)品。Blackwell GPU預(yù)計(jì)將采用臺(tái)積電的3nm制造工藝，這有望提高效率。
隨著H200成為焦點(diǎn)，更多關(guān)于采用下一代全新Blackwell架構(gòu)的B100芯片的信息也浮出水面。
B100的性能被宣布是H200的兩倍。根據(jù)英偉達(dá)公布的信息，該公司計(jì)劃在2024年發(fā)布Blackwell架構(gòu)，而搭載這一架構(gòu)的B100 GPU芯片預(yù)計(jì)將大幅提高處理能力。初步評(píng)估數(shù)據(jù)表明，與目前采用Hopper架構(gòu)的H200系列相比，性能提升超過(guò)了100%。這種性能提升在AI相關(guān)任務(wù)中表現(xiàn)得尤為明顯，B100在GPT-3 175B推理性能基準(zhǔn)測(cè)試中的表現(xiàn)就是明證。
NVIDIA還透露了X100芯片的計(jì)劃，計(jì)劃于2025年發(fā)布。該芯片將擴(kuò)大產(chǎn)品范圍，包括企業(yè)用途的X40和GX200，將CPU和GPU功能結(jié)合在Superchip配置中。同樣，GB200預(yù)計(jì)將效仿B100，融入超級(jí)芯片的概念。
從英偉達(dá)的產(chǎn)品路線來(lái)看，在未來(lái)1-2 年，AI 芯片市場(chǎng)將再次天翻地覆。
英偉達(dá)憑借AI芯片的主導(dǎo)地位，市值突破了萬(wàn)億美元，營(yíng)收讓所有競(jìng)爭(zhēng)對(duì)手望塵莫及。然而，這種霸主地位并不牢固，競(jìng)爭(zhēng)對(duì)手正密切關(guān)注，一不小心就可能失去領(lǐng)先地位。
谷歌已經(jīng)推出了一項(xiàng)史無(wú)前例的計(jì)劃，打造自己的AI基礎(chǔ)設(shè)施，其中包括對(duì)TPUv5和TPUv5e AI芯片的資源投入。這些芯片不僅可用于內(nèi)部訓(xùn)練/推理，還可供外部客戶使用，包括Apple、Anthropic、CharacterAI、MidJourney、Assembly、Gridspace等公司。
谷歌并不是英偉達(dá)唯一的威脅。在軟件方面，Meta的PyTorch 2.0和OpenAI Triton正在快速發(fā)展，允許其他硬件供應(yīng)商啟用。
盡管英偉達(dá)仍然保持硬件領(lǐng)先地位，但在軟件方面的差距并不像過(guò)去那么大，這一優(yōu)勢(shì)可能會(huì)在未來(lái)被打破。
英偉達(dá)的直接競(jìng)爭(zhēng)對(duì)手AMD的MI300X等芯片、英特爾的Gaudi 3等都將在未來(lái)幾個(gè)月內(nèi)推出技術(shù)更優(yōu)越的硬件。
即使在谷歌、AMD和英特爾之外，英偉達(dá)也面臨著來(lái)自硬件設(shè)計(jì)落后的公司的競(jìng)爭(zhēng)壓力，它們背后的巨頭正試圖擺脫英偉達(dá)在HBM上的利潤(rùn)，并尋求補(bǔ)貼。
亞馬遜即將推出Trainium2和Inferentia3，微軟也即將推出Athena。
因此，英偉達(dá)計(jì)劃超越與英特爾和AMD等傳統(tǒng)競(jìng)爭(zhēng)對(duì)手的比較，躋身科技巨頭行列。他們希望成為谷歌、微軟、亞馬遜、Meta 和蘋果的同行，這無(wú)疑是一個(gè)艱巨的任務(wù)。