我們擅長商業策略與用戶體驗的完美結合。
歡迎瀏覽我們的案例。
AI芯片H100的熱度還沒過,芯片巨頭英偉達(Nasdaq:NVDA)又打出一張新王牌——H100的升級版。
當地時間11月13日,英偉達正式宣布,在目前最強AI(人工智能)芯片H100的基礎上進行一次大升級,發布新一代H200芯片。H200擁有141GB的內存、4.8TB/秒的帶寬,并將與H100相互兼容,在推理速度上幾乎達到了H100的兩倍。H200預計將于明年二季度開始交付,英偉達尚未公布其價格。
英偉達還透露,下一代Blackwell B100 GPU也將在2024年推出,性能已經“望不到頭”。
英偉達預計在2024年推出H200和B100兩款芯片。來源:英偉達官網 與作為前輩的A100和H100相比,H200最大的變化就是內存。搭載“世界上最快的內存”HBM3e技術的H200在性能上得到了直接提升,141GB的內存幾乎是A100和H100最高80GB內存的2倍,4.8TB每秒的帶寬則達到了A100的2.4倍,也顯著高于H100 3.35TB每秒的帶寬。
英偉達表示,根據使用Meta的70B大模型Llama 2進行的測試,H200的輸出速度幾乎是H100的兩倍?;谂cH100相同的Hopper架構,H200將具有H100的一切功能,例如可以用來加速基于Transformer架構搭建的深度學習模型的Transformer Engine功能。
根據官方發布的圖片,H200在大模型Llama 2、GPT-3.5的輸出速度上分別是H100的1.9倍和1.6倍,在高性能計算HPC方面的速度更是達到了雙核x86 CPU的110倍。
來源:英偉達官網/侵刪
英偉達加速計算總經理兼副總裁伊恩·巴克 (Ian Buck)表示:“要利用生成式AI和高性能計算HPC來構建智能,需要利用大容量、超高速的GPU內存來高速快速地處理大量數據。英偉達H200將為業界領先的端到端AI超級計算平臺進一步加速,以解決一些世界上最重要的挑戰。”
從今年年初起,英偉達股價已經上漲了超230%,截至11月14日,公司總市值達到1.2萬億美元。當天,英偉達股價在H200發布后一度漲超490美元,全日收于486.2美元,漲0.59%,盤后漲0.3%,股價實現九連漲。
美國知名經濟評論員吉姆·克雷默(Jim Cramer)表示,英偉達最新的高端芯片可能會為其股價提供推動力,幫助其在生成式AI熱潮中進一步上漲。
此前,根據瑞杰金融(Raymond James)統計的數據,H100芯片的價格已經到達了25000美元到40000美元之間,而一個AI訓練過程需要數千個這樣的芯片協同工作。在當下的AI熱潮中,這也使得H100成為了硅谷最搶手的“硬通貨”。
科技網站The Verge表示,最關鍵的問題在于英偉達能否為市場提供足夠的H200,或者它們是否會像H100一樣在供應量上受到限制。而對于這點,英偉達并沒有給出明確的答案,只表示公司正在與“全球系統制造商和云服務提供商”合作來供應這些芯片,亞馬遜、谷歌、微軟和甲骨文等云服務商將是明年二季度首批使用H200的公司之一。
另外,英偉達競爭對手AMD已經在英偉達之前搶先推出了最新AI芯片MI300X,高達192GB的HBM3內存,5.2TB/秒帶寬。此前,AMD表示,公司正在今年第三季度向客戶提供樣品,產量將在第四季增加。預計AMD將在北京時間12月7日凌晨舉辦的“Advancing AI”特別活動上正式發布MI300X GPU。
值得一提的是,此前有消息稱,英偉達已開發出針對中國市場的最新改良版系列芯片——HGX H20、L20 PCle和L2 PCle。知情人士稱這三款芯片由H100改良而來,英偉達最快或將于本月16號之后公布。澎湃新聞記者采訪了多位產業鏈人士,均證實英偉達改良版芯片屬實。英偉達官方尚未對此作出評論。
今年10月17日, 美國商務部工業和安全局(BIS)發布了針對芯片的出口管制新規,尤其是對高算力的AI芯片進行了更嚴格的管控。其中一個很重要的新規定就是調整了先進計算芯片受限的標準,設置了新的“性能密度閾值”來作為參數。
10月31日,中國貿促會新聞發言人張鑫表示,美方新發布的對華半導體出口管制規則,進一步加嚴了人工智能相關芯片、半導體制造設備對華出口的限制,并將多家中國實體列入出口管制“實體清單”。美國這些措施嚴重違反了市場經濟原則和國際經貿規則,加劇了全球半導體供應鏈撕裂與碎片化風險。美國自2022年下半年開始實施的對華芯片出口禁令正在深刻改變全球供需,造成2023年芯片供應失衡,影響了世界芯片產業格局,損害了包括中國企業在內的各國企業的利益。
英偉達將于美國時間11月21日盤后發布2023財年第三財季財報。根據美國投資研究公司Zacks Investment Research的數據,預計調整后的每股收益(EPS)將達到3.01美元,去年同期為0.34美元。