GPU縮寫為Graphics Processing Unit的，一般稱為視覺(jué)處理單元。GPU被廣泛用于嵌入式系統(tǒng)、移動(dòng)電話、個(gè)人電腦、工作站和電子游戲解決方案當(dāng)中。杭州浪潮服務(wù)器代理商表示，現(xiàn)代的GPU對(duì)圖像和圖形處理效率是很高的，這是因?yàn)镚PU被設(shè)計(jì)為很高的并行架構(gòu)這樣使得比通用處理器CPU在大的數(shù)據(jù)塊并行處理算法上更具有優(yōu)勢(shì)。

今天，杭州浪潮服務(wù)器代理商就來(lái)帶大家了解怎樣挑選GPU服務(wù)器。

1.選擇GPU服務(wù)器時(shí)首先要根據(jù)業(yè)務(wù)需求來(lái)選擇適合的GPU型號(hào)。

在HPC高性能計(jì)算中還需要根據(jù)精度來(lái)選擇，比如有的高性能計(jì)算需要雙精度，這時(shí)如果使用P40或者P4就不合適，只能使用V100或者P100；同時(shí)也會(huì)對(duì)顯存容量有要求，比如石油或石化勘探類的計(jì)算應(yīng)用對(duì)顯存要求比較高；還有些對(duì)總線標(biāo)準(zhǔn)有要求，因此選擇GPU型號(hào)要先看業(yè)務(wù)需求。

2.杭州浪潮服務(wù)器代理商表示，GPU服務(wù)器人工智能領(lǐng)域的應(yīng)用也比較多。

在教學(xué)場(chǎng)景中，對(duì)GPU虛擬化的要求比較高。根據(jù)課堂人數(shù)，一個(gè)老師可能需要將GPU服務(wù)器虛擬出30甚至60個(gè)虛擬GPU，因此批量Training對(duì)GPU要求比較高，通常用V100做GPU的訓(xùn)練。模型訓(xùn)練完之后需要進(jìn)行推理，因此推理一般會(huì)使用P4或者T4，少部分情況也會(huì)用V100。

3.當(dāng)GPU型號(hào)選定后，再考慮用什么樣GPU的服務(wù)器。

這時(shí)我們需要考慮以下幾種情況：

（1） 在邊緣服務(wù)器上需要根據(jù)量來(lái)選擇T4或者P4等相應(yīng)的服務(wù)器，同時(shí)也要考慮服務(wù)器的使用場(chǎng)景，比如火車站卡口、機(jī)場(chǎng)卡口或者公安卡口等；在中心端做Inference時(shí)可能需要V100的服務(wù)器，需要考慮吞吐量以及使用場(chǎng)景、數(shù)量等。

（2）需要考慮客戶本身使用人群和IT運(yùn)維能力，對(duì)于BAT這類大公司來(lái)說(shuō)，他們自己的運(yùn)營(yíng)能力比較強(qiáng)，這時(shí)會(huì)選擇通用的PCI-e服務(wù)器；而對(duì)于一些IT運(yùn)維能力不那么強(qiáng)的客戶，他們更關(guān)注數(shù)字以及數(shù)據(jù)標(biāo)注等，我們稱這類人為數(shù)據(jù)科學(xué)家，選擇GPU服務(wù)器的標(biāo)準(zhǔn)也會(huì)有所不同。

（3）需要考慮配套軟件和服務(wù)的價(jià)值。

（4）要考慮整體GPU集群系統(tǒng)的成熟程度以及工程效率，選擇有非常成熟的從底端的操作系統(tǒng)驅(qū)動(dòng)Docker到其他部分都是優(yōu)化過(guò)的服務(wù)器，這時(shí)效率就比較高。

以上就是選擇GPU服務(wù)器是需要考慮的因素。浙江杭州浪潮服務(wù)器代理商專注于浪潮服務(wù)器、GPU、工作站、存儲(chǔ)等產(chǎn)品，如果您有相關(guān)需要，歡迎咨詢我們。