我們擅長(cháng)商業(yè)策略與用戶(hù)體驗的完美結合。
歡迎瀏覽我們的案例。
不會(huì )造超算的車(chē)企不是好的自動(dòng)駕駛企業(yè)?這句話(huà)看來(lái)不是玩笑。近日,特斯拉公布了新型超級計算機,就每秒浮點(diǎn)運算 ( FLOPS)而言,它是世界上排名第五的超級計算機。新機器是特斯拉的第三個(gè)超級計算機集群,為還未發(fā)布的超級計算機Dojo(Dojo發(fā)音源自日語(yǔ),意為 “道場(chǎng)”)的開(kāi)發(fā)原型版本。一切順利的話(huà),超級計算機Dojo將超越目前世界排名第一的日本超級計算機富岳(Fugaku,富士山的別名)。
以上消息來(lái)自特斯拉人工智能與自動(dòng)駕駛視覺(jué)總監(Director of AI and Autopilot Vision) Andrej Karpathy 在2021 年計算機視覺(jué)和模式識別會(huì )議 (CVPR 2021)上所作的報告。在2019年的特斯拉自動(dòng)駕駛開(kāi)放日(Autonomy Day)上,特斯拉CEO馬斯克曾“劇透”了Dojo項目——專(zhuān)門(mén)用于大規模的圖像和視頻數據處理,其浮點(diǎn)運算能力達到了exaflop級別,也就是每秒運算百億億次。
Karpathy談?wù)撔碌某売嬎銠C(37:46)
超級計算機(Super computer)通常是體量巨大、造價(jià)高昂的設備,擁有數以萬(wàn)計的處理器,旨在執行專(zhuān)業(yè)性強、計算密集型的任務(wù),可完成極端尺度的宇宙模擬、為藥物反應預測尋找新途徑、發(fā)現可用于制造高效有機太陽(yáng)能電池的新材料等任務(wù),應用于人工智能、生物醫藥和智慧城市建設等多個(gè)領(lǐng)域。
Andrej Karpathy是計算機視覺(jué)和深度學(xué)習領(lǐng)域的頂級專(zhuān)家之一,博士畢業(yè)于斯坦福AI實(shí)驗室,師從華人AI學(xué)者李飛飛。Karpathy的主要研究方向是卷積神經(jīng)網(wǎng)絡(luò )結構,自然語(yǔ)言處理,以及其在計算機視覺(jué)上的應用。
Karpathy表示,“我們展示的是使用720個(gè)80GB版本的8x A100節點(diǎn)構建的集群。這是一臺巨大的超級計算機,就每秒浮點(diǎn)(FLOPS)運算次數而言,我認為它可能是全球第五的超級計算機。第五位目前由英偉達公司的 Selene 集群占據,該集群擁有非常相似的架構和類(lèi)似的 GPU 數量(4480 對我們的 5760,所以少一點(diǎn))”。
他于論壇中展示了它的三個(gè)集群之一的照片,并公布了新超級計算機的能力:總算力達1.8 EFLOPS(EFLOPS指每秒百億億次浮點(diǎn)運算),由5760個(gè)算力為321TFLOPS(TFLOPS指每秒萬(wàn)億次浮點(diǎn)運算)的A100顯卡組成720個(gè)節點(diǎn),有10PB的存儲空間,讀寫(xiě)速度為1.6TBps。
· 720 nodes of 8x A100 80GB. (5760 GPUs total)
· 1.8 EFLOPS (720 nodes * 312 TFLOPS-FP16-A100 * 8 gpu / nodes)
· 10 PB of “hot tier” NVME storage @ 1.6 TBps
· 640 Tbps of total switching capacity
一家汽車(chē)生產(chǎn)商為什么要做超級計算機?
Karpathy 解釋道,如果想要讓計算機以人類(lèi)的方式對新環(huán)境做出反應,這需要一個(gè)巨大的數據集,以及超級計算機的處理能力,從而利用從整個(gè)車(chē)隊收集來(lái)的數據訓練和改進(jìn)特斯拉自動(dòng)駕駛儀 (Autopilot)和為下一代自動(dòng)駕駛人工智能(AI)提供動(dòng)力的神經(jīng)網(wǎng)絡(luò )。
而在所有自動(dòng)駕駛公司中,特斯拉尤為需要超級計算機。
因為馬斯克主張采用純視覺(jué)的自動(dòng)駕駛方法,其依靠攝像頭和機器學(xué)習來(lái)支持其高級駕駛輔助系統和自動(dòng)駕駛,而非采用激光雷達(LiDAR)、攝像頭和雷達。在純視覺(jué)自動(dòng)駕駛方法下想改進(jìn)這套自動(dòng)駕駛AI達到足夠的可靠性,自研適應計算需要的超級計算機便極為必要。
Dojo 將配合無(wú)監督學(xué)習算法(unsupervised learning,即無(wú)需人工對訓練數據集進(jìn)行標注,系統可以自行根據樣本間的統計規律對樣本集進(jìn)行分析。如不給任何額外提示的情況下,僅依據一定數量“狗”的圖片特征,將“狗”的圖片區分出來(lái)),來(lái)減少特斯拉對于數據人工標注的工作量,進(jìn)而幫助其數據訓練效率實(shí)現指數級提升。
“Dojo使用我們自己的芯片和針對神經(jīng)網(wǎng)絡(luò )訓練而優(yōu)化的計算機架構,而不是GPU集群。如果我沒(méi)弄錯,這將是世界上最好的,”馬斯克2019年如是稱(chēng)。
2020年,馬斯克在推特(Twitter)發(fā)文表示,特斯拉的Dojo超級計算機能夠實(shí)現每秒千萬(wàn)億次浮點(diǎn)運算(1000 PFLOPS),這將使得Dojo成為一款真正的尖端超級計算機。馬斯克稱(chēng),特斯拉未來(lái)的Dojo超級計算機算力將要達到每秒鐘exaFLOP(百億億次,是千萬(wàn)億次PFLOPS的1000倍)的級別,并且運算速度要超過(guò)富岳(Fugaku),成為世界第一。
2020超級計算大會(huì )(SC20)的測算數據顯示,日本的富岳是世界上速度最快的超級計算機,浮點(diǎn)計算的峰值速度達到442PFLOPS(PFLOPS指的是每秒1千萬(wàn)億次浮點(diǎn)運算),最高性能超過(guò)1000 PFLOPS。
2020超級計算大會(huì )(SC20):日本超級計算機“富岳”世界第一,美國的 Summit 位列第二,第三是美國的Sierra,第四為中國的“神威·太湖之光” ,第五位是美國的Selene。
小米應用商店發(fā)布消息稱(chēng) 持續開(kāi)展“APP 侵害用戶(hù)權益治理”系列行動(dòng) 11:37:04
騰訊云與CSIG成立政企業(yè)務(wù)線(xiàn) 加速數字技術(shù)在實(shí)體經(jīng)濟中的落地和應用 11:34:49
樂(lè )視回應還有400多人 期待新的朋友加入 11:29:25
亞馬遜表示 公司正在將其智能購物車(chē)擴展到馬薩諸塞州的一家全食店 10:18:04
三星在元宇宙平臺推出游戲 玩家可收集原材料制作三星產(chǎn)品 09:57:29
特斯拉加州San Mateo裁減229名員工 永久關(guān)閉該地區分公司 09:53:13