gpu服務器有哪些分類呢?GPU擅長處理大規(guī)模深度合作學習能力訓練方法以及其他部分典型HPC任務。經(jīng)常有朋友在咨詢公司如何有效配置可以用于深度學習或計算加速的GPU服務器,今天我們就來看看吧!
GPU服務器分類:
首先介紹下常見的GPU和GPU服務器。以NVIDIA Tesla系列GPU為例,按總線數(shù)據(jù)接口不同類型企業(yè)可以發(fā)展分為NV-Link接口技術以及國內(nèi)傳統(tǒng)PCI-e總線進行兩種。
1、Nv-link接口類型的gpu:典型的代表是NVIDIA V100,使用SXM2接口,DGX-2的接口SXM3。
2、NV-Link總線技術標準的GPU服務器
DGX是由NVIDIA設計的超級計算機的典型代表。DGX超級計算機不僅提供硬件,以及相關的軟件和服務。
3、傳統(tǒng)PCI-e總線數(shù)據(jù)接口的GPU
NVIDIA特斯拉GPU加速對主流專業(yè)計算主要是:P4/P40(P指的是前一代PASCAL架構(gòu)的開頭),P100,V100和圖靈架構(gòu)特斯拉T4那些段落。且其中只有薄薄槽P4和T4,常用推理,現(xiàn)在有成熟的識別模型和推理。
4、傳統(tǒng)的pci-e總線gpu服務器分為兩類:
(1)OEM服務器:通過NVIDIA官方的測試和制造商的認證。比如,廣泛的技術不僅NVIDIA的合作伙伴,已成為公司加快NVIDIA潛在的AI計劃成員;
(2)非OEM服務器,也包括企業(yè)很多不同種類
選擇的基本原則:選擇GPU服務器時首先要進行考慮企業(yè)業(yè)務發(fā)展需求來選擇一個適合的GPU型號。在HPC高性能數(shù)據(jù)計算中還需我們要根據(jù)不同精度來選擇,比如他們有的高性能計算方法需要雙精度,這時如果可以使用P40或者P4就不合適,只能通過使用V100或者P100,同時也會對顯存容量有要求,比如石油或石化勘探類的計算技術應用對顯存要求比較高,還有些對總線控制標準有要求,因此本文選擇GPU型號要先看業(yè)務市場需求。
GPU服務器人工智能領域應用也較多。GPU虛擬化在場景中要求更高。根據(jù)數(shù)量,需要將GPU服務器虛擬出30或60個虛擬GPU,因此批量培訓需要GPU,通常使用V100進行GPU培訓。模型訓練需要推理,所以推理一般采用P4或T4,少數(shù)情況為V100。
本文名稱:gpu服務器有哪些分類呢?
分享網(wǎng)址:http://www.rwnh.cn/article6/cispig.html
成都網(wǎng)站建設公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站設計、定制開發(fā)、網(wǎng)站營銷、靜態(tài)網(wǎng)站、小程序開發(fā)、ChatGPT
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)