我們擅長(cháng)商業(yè)策略與用戶(hù)體驗的完美結合。
歡迎瀏覽我們的案例。
AI芯片H100的熱度還沒(méi)過(guò),芯片巨頭英偉達(Nasdaq:NVDA)又打出一張新王牌——H100的升級版。
當地時(shí)間11月13日,英偉達正式宣布,在目前最強AI(人工智能)芯片H100的基礎上進(jìn)行一次大升級,發(fā)布新一代H200芯片。H200擁有141GB的內存、4.8TB/秒的帶寬,并將與H100相互兼容,在推理速度上幾乎達到了H100的兩倍。H200預計將于明年二季度開(kāi)始交付,英偉達尚未公布其價(jià)格。
英偉達還透露,下一代Blackwell B100 GPU也將在2024年推出,性能已經(jīng)“望不到頭”。
英偉達預計在2024年推出H200和B100兩款芯片。來(lái)源:英偉達官網(wǎng) 與作為前輩的A100和H100相比,H200最大的變化就是內存。搭載“世界上最快的內存”HBM3e技術(shù)的H200在性能上得到了直接提升,141GB的內存幾乎是A100和H100最高80GB內存的2倍,4.8TB每秒的帶寬則達到了A100的2.4倍,也顯著(zhù)高于H100 3.35TB每秒的帶寬。
英偉達表示,根據使用Meta的70B大模型Llama 2進(jìn)行的測試,H200的輸出速度幾乎是H100的兩倍?;谂cH100相同的Hopper架構,H200將具有H100的一切功能,例如可以用來(lái)加速基于Transformer架構搭建的深度學(xué)習模型的Transformer Engine功能。
根據官方發(fā)布的圖片,H200在大模型Llama 2、GPT-3.5的輸出速度上分別是H100的1.9倍和1.6倍,在高性能計算HPC方面的速度更是達到了雙核x86 CPU的110倍。
來(lái)源:英偉達官網(wǎng)/侵刪
英偉達加速計算總經(jīng)理兼副總裁伊恩·巴克 (Ian Buck)表示:“要利用生成式AI和高性能計算HPC來(lái)構建智能,需要利用大容量、超高速的GPU內存來(lái)高速快速地處理大量數據。英偉達H200將為業(yè)界領(lǐng)先的端到端AI超級計算平臺進(jìn)一步加速,以解決一些世界上最重要的挑戰。”
從今年年初起,英偉達股價(jià)已經(jīng)上漲了超230%,截至11月14日,公司總市值達到1.2萬(wàn)億美元。當天,英偉達股價(jià)在H200發(fā)布后一度漲超490美元,全日收于486.2美元,漲0.59%,盤(pán)后漲0.3%,股價(jià)實(shí)現九連漲。
美國知名經(jīng)濟評論員吉姆·克雷默(Jim Cramer)表示,英偉達最新的高端芯片可能會(huì )為其股價(jià)提供推動(dòng)力,幫助其在生成式AI熱潮中進(jìn)一步上漲。
此前,根據瑞杰金融(Raymond James)統計的數據,H100芯片的價(jià)格已經(jīng)到達了25000美元到40000美元之間,而一個(gè)AI訓練過(guò)程需要數千個(gè)這樣的芯片協(xié)同工作。在當下的AI熱潮中,這也使得H100成為了硅谷最搶手的“硬通貨”。
科技網(wǎng)站The Verge表示,最關(guān)鍵的問(wèn)題在于英偉達能否為市場(chǎng)提供足夠的H200,或者它們是否會(huì )像H100一樣在供應量上受到限制。而對于這點(diǎn),英偉達并沒(méi)有給出明確的答案,只表示公司正在與“全球系統制造商和云服務(wù)提供商”合作來(lái)供應這些芯片,亞馬遜、谷歌、微軟和甲骨文等云服務(wù)商將是明年二季度首批使用H200的公司之一。
另外,英偉達競爭對手AMD已經(jīng)在英偉達之前搶先推出了最新AI芯片MI300X,高達192GB的HBM3內存,5.2TB/秒帶寬。此前,AMD表示,公司正在今年第三季度向客戶(hù)提供樣品,產(chǎn)量將在第四季增加。預計AMD將在北京時(shí)間12月7日凌晨舉辦的“Advancing AI”特別活動(dòng)上正式發(fā)布MI300X GPU。
值得一提的是,此前有消息稱(chēng),英偉達已開(kāi)發(fā)出針對中國市場(chǎng)的最新改良版系列芯片——HGX H20、L20 PCle和L2 PCle。知情人士稱(chēng)這三款芯片由H100改良而來(lái),英偉達最快或將于本月16號之后公布。澎湃新聞?dòng)浾卟稍L(fǎng)了多位產(chǎn)業(yè)鏈人士,均證實(shí)英偉達改良版芯片屬實(shí)。英偉達官方尚未對此作出評論。
今年10月17日, 美國商務(wù)部工業(yè)和安全局(BIS)發(fā)布了針對芯片的出口管制新規,尤其是對高算力的AI芯片進(jìn)行了更嚴格的管控。其中一個(gè)很重要的新規定就是調整了先進(jìn)計算芯片受限的標準,設置了新的“性能密度閾值”來(lái)作為參數。
10月31日,中國貿促會(huì )新聞發(fā)言人張?chǎng)伪硎?,美方新發(fā)布的對華半導體出口管制規則,進(jìn)一步加嚴了人工智能相關(guān)芯片、半導體制造設備對華出口的限制,并將多家中國實(shí)體列入出口管制“實(shí)體清單”。美國這些措施嚴重違反了市場(chǎng)經(jīng)濟原則和國際經(jīng)貿規則,加劇了全球半導體供應鏈撕裂與碎片化風(fēng)險。美國自2022年下半年開(kāi)始實(shí)施的對華芯片出口禁令正在深刻改變全球供需,造成2023年芯片供應失衡,影響了世界芯片產(chǎn)業(yè)格局,損害了包括中國企業(yè)在內的各國企業(yè)的利益。
英偉達將于美國時(shí)間11月21日盤(pán)后發(fā)布2023財年第三財季財報。根據美國投資研究公司Zacks Investment Research的數據,預計調整后的每股收益(EPS)將達到3.01美元,去年同期為0.34美元。
最強AI芯片升級!英偉達H200登場(chǎng):推理速度翻倍,明年二季度交付 09:12:51
阿里智能信息事業(yè)群宣布發(fā)布自研大模型,夸克App將全面升級 09:02:04
AMD Zen5c架構巨變!三星4nm斜刺里殺出 與臺積電3nm共舞 09:48:23
微軟與電影《旺卡》聯(lián)動(dòng),推出可食用的巧克力 Xbox 手柄 09:43:08
印度考慮對電動(dòng)汽車(chē)進(jìn)口減稅五年,以吸引特斯拉等制造商 09:41:16
辨識度拉滿(mǎn):榮耀 100 系列手機發(fā)布會(huì )定檔 11 月 23 日,后置不規則鏡頭模組 09:38:11