NVIDIA DGX vs "gör det själv"

ungefär 1 månad sedan

Anledningarna till varför du som satsar på AI och Deep Learning skall investera i en fullt supportad och testad lösning från NVIDIA och CGit.

Företag som bestämt sig för att satsa på utveckling av lösningar som är beroende av AI/Deep Learning ställs för, eller senare, inför frågan "vad skall vi utveckla på?". Kunskapen om att det är GPU-baserad beräkning man måste satsa på finns oftast (men inte alltid!). En bra förklaring kring GPU vs CPU inom Deep Learning kan ni hitta här: https://www.analyticsvidhya.com/blog/2017/05/gpus-...

Därefter är frågan om man skall träna på egen hårdvara eller kanske använda sig av en molntjänst. Vilket valet blir här beror oftast på ett par olika faktorer:

- Hur mycket träning behöver vi göra (hur länge behöver vi hyra kapacitet i molnet)?

- Hur mycket träningsdata behöver vi överföra till ett annat datacenter? Är det genomförbart inom rimlig tid?

- Hur ser lagar och regler ut i det land som molntjänsten är baserad i? Detta har blivit extra aktualiserat iochmed GDPR samt Cloud Act (USA).

- Hur viktig är säkerheten (t.ex med tanke på industrispionage)?

Detta är bara några av de punkter som kan avgöra om man väljer att investera i egen hårdvara eller lägga träningen i en molntjänst.
För mindre företag, exempelvis start-ups, blir självklart investeringskostnaden

Värt att nämna i detta sammanhanget är att vi på CGit lanserar "AI-infrastruktur som tjänst" som baseras på, bland annat, NVIDIAs DGX-1 och som placerats i ett av våra datacenter här i Göteborg.

Kommer man fram till att det är egen utrustning som är det alternativ som passar bäst har man återigen ett par val att göra. Skall man köpa och bygga ihop sin egen plattform eller skall man köpa en färdig, testad och fullt supportad utrustning? Det senare kan, vid en första anblick på priset i offerten, te sig dyrare än det första alternativet. Men vi vill påstå att man då lurar sig rejält. Väljer man att köpa en färdig, testad och supportad lösning kan vi ha den uppe i produktion på så lite som ett par timmar (!). Om man å andra sidan köper en egen plattform, utan support, som skall byggas ihop och sedan testas och "tunas" med mjukvaror så har vi sett exempel där man lagt ner månader innan man överhuvudtaget fått upp systemen. Dessutom är prestandan i dessa system aldrig så bra som ett skräddarsytt system likt DGX-systemen från NVIDIA.

Infograf och video från Nvidia

infographic-nvidia-dgx-systems-vs-doing-it-yourself-1-638.jpg

 

 

Vi på CGit har inte bara leverat, installerat och supportat de största systemen i Sverige för Deep Learning, vi använder själva DGX-1 i vårt egna Datacenter. CGit kan erbjuda såväl beräkningskapacitet i vårt datacenter som kunnig och erfaren personal som kan hjälpa er att komma igång med ert AI-projekt.

Mer om vår AI satsning finner ni här: https://cgit.se/tjanster/airi-ai-infrastruktur-som...

 

 

Det allra senaste från oss

Här finns mer att läsa om