偷偷做久久久久网站,久久久久久亚洲精品不卡,亚洲精品偷拍的自拍的,无码毛片内射白浆视频,国产精品小说

Internet Develppment
互聯(lián)網(wǎng)開(kāi)發(fā)& 推廣服務(wù)提供商

我們擅長(cháng)商業(yè)策略與用戶(hù)體驗的完美結合。

歡迎瀏覽我們的案例。

首頁(yè) > 新聞中心 > 新聞動(dòng)態(tài) > 正文

Meta第二代自研AI芯投產(chǎn),擺脫英偉達依賴(lài)!為買(mǎi)H100小扎狂砸數百億美元

發(fā)布時(shí)間:2024-02-03 09:19:03來(lái)源:網(wǎng)易科技

  Meta第二代自研AI芯片Artemis,今年正式投產(chǎn)!

  據悉,新的芯片將被用于數據中心的推理(Inference)任務(wù),并與英偉達等供應商的GPU一起協(xié)同工作。

  對此,Meta的發(fā)言人表示:「我們認為,我們自主開(kāi)發(fā)的加速器將與市面上的GPU相得益彰,為Meta的任務(wù)提供最佳的性能與效率平衡?!?/p>

  除了更高效地運行的推薦模型外,Meta還需要為自家的生成式AI應用,以及正在訓練的GPT-4開(kāi)源競品Llama 3提供算力。

  Meta的AI貼紙功能,此前在Messenger、Instagram和WhatsApp上都處于測試階段

  OpenAI工程師Jason Wei在Meta的一次AI活動(dòng)中聽(tīng)到,Meta現在有足夠的算力來(lái)訓練Llama 3和4。Llama 3計劃達到GPT-4的性能水平,但仍將免費提供

  不難看出,Meta的目標非常明確——在減少對英偉達芯片依賴(lài)的同時(shí),盡可能控制AI任務(wù)的成本。

  Meta成英偉達大客戶(hù)

  Meta CEO小扎最近宣布,他計劃到今年年底部署35萬(wàn)顆英偉達H100 GPU,總共將有約60萬(wàn)顆GPU運行和訓練AI系統。

  這也讓Meta成為了繼微軟之后,英偉達最大的已知客戶(hù)。

  小扎表示,目前Meta內部正在訓練下一代模型Llama 3。

  在35萬(wàn)塊H100上訓練的Llama 3,無(wú)法想象會(huì )有多大!

  Omdia的研究數據顯示,Meta在2023年H100的出貨量為15萬(wàn)塊,與微軟持平,且是其他公司出貨量的3倍。

  小扎稱(chēng),「如果算上英偉達A100和其他AI芯片,到2024年底,Meta將擁有近60萬(wàn)個(gè)GPU等效算力」。

  性能更強、尺寸更大的模型,導致更高的AI工作負載,讓成本直接螺旋式上升。

  據《華爾街日報》的一位匿名人士稱(chēng),今年頭幾個(gè)月,每有一個(gè)客戶(hù),微軟每月在Github Copilot上的損失就超過(guò)20美元,甚至某些用戶(hù)每月的損失高達80美元,盡管微軟已經(jīng)向用戶(hù)收取每月10美元的費用。

  之所以賠錢(qián),是因為生成代碼的AI模型運行成本高昂。 如此高的成本,讓大科技公司們不得不尋求別的出路。

  除了Meta之外,OpenAI和微軟也在試圖打造自己專(zhuān)有的AI芯片以及更高效的模型,來(lái)打破螺旋式上升的成本。

  此前外媒曾報道,Sam Altman正計劃籌集數十億美元,為OpenAI建起全球性的半導體晶圓廠(chǎng)網(wǎng)絡(luò ),為此他已經(jīng)在和中東投資者以及臺積電談判

  專(zhuān)為大模型定制AI芯

  去年5月,Meta首次展示了最新芯片系列——「Meta訓練和推理加速器」(MTIA),旨在加快并降低運行神經(jīng)網(wǎng)絡(luò )的成本。

  MTIA是一種ASIC,一種將不同電路組合在一塊板上的芯片,允許對其進(jìn)行編程,以并行執行一項或多項任務(wù)。

  內部公告稱(chēng),Met首款芯片將在2025年投入使用,同時(shí)數據中心開(kāi)啟測試。不過(guò),據路透社報道,Artemis已經(jīng)是MTIA的更高級版本。

  其實(shí),第一代的MITA早就從2020年開(kāi)始了,當時(shí)MITA v1采用的是7nm工藝。

  該芯片內部?jì)却婵梢詮?28MB擴展到128GB,同時(shí),在Meta設計的基準測試中,MITA在處理中低復雜度的AI模型時(shí),效率要比GPU還高。

  在芯片的內存和網(wǎng)絡(luò )部分,Meta表示,依然有不少工作要做。

  隨著(zhù)AI模型的規模越來(lái)越大,MITA也即將遇到瓶頸,因此需要將工作量分擔到多個(gè)芯片上。

  當時(shí),Meta團隊還設計了第一代MTIA加速器,同樣采用臺積電7nm,運行頻率為800MHz,在INT8精度下提供102.4 TOPS,在FP16精度下提供51.2 TFLOPS。它的熱設計功耗(TDP)為25W。

  2022年1月,Meta還推出了超算RSC AI,并表示要為元宇宙鋪路。RSC包含2000個(gè)英偉達DGX A100系統,16000個(gè)英偉達A100 GPU。

  這款超算與Penguin Computing、英偉達和Pure Storage合作組裝,目前已完成第二階段的建設。

 

最新資訊
? 2018 河北碼上網(wǎng)絡(luò )科技有限公司 版權所有 冀ICP備18021892號-1   
? 2018 河北碼上科技有限公司 版權所有.
偷偷做久久久久网站,久久久久久亚洲精品不卡,亚洲精品偷拍的自拍的,无码毛片内射白浆视频,国产精品小说