Intel 2U PCIe GPU serverio sistema su NVIDIA H200 Modelis: CSYS-GPU-6700

1. Produkto apžvalga

CSYS-GPU-6700 yra didelio tankio 2U stelaže montuojama PCIe GPU skaičiavimo sistema, nepriklausomai sukurta ir tiekiama Vincanwo Group, sukurta remiantis „Intel“ įmonės lygio serverio aparatinės įrangos architektūra ir visiškai optimizuota nešti NVIDIA H200 Tensor Core GPU. Šis integruotas GPU serveris, pritaikytas didelio našumo lygiagrečiam skaičiavimui, subalansuoja stovo vietos panaudojimą, šilumos išsklaidymą, išplečiamumą ir stabilų nuolatinį našumą, taikydamas įmonės lygio AI mokymą, didelės kalbos modelio (LLM) išvadas, mokslinį modeliavimą, didelio tikslumo skaičiavimo skysčių dinamiką (CFD), didelių skaitmeninių duomenų ir natūralų duomenų skaičiavimą.

Pritaikius standartinę 2U stovo važiuoklės formą, suderinamą su universaliųjų duomenų centro korpuso specifikacijomis, sistema naudoja „Intel“ patvirtintą serverio pagrindinę plokštę, energijos tiekimo posistemį ir platformos programinės aparatinės įrangos ekosistemą, pašalindama x86 pagrindinio kompiuterio aparatinės įrangos ir NVIDIA H200 greitintuvų suderinamumo riziką, tuo pačiu užtikrindama ilgalaikį s24 / 7 operatyvinio duomenų centro patikimumą.

2. Pagrindinės platformos pagrindas: „Intel“ serverio architektūra

2.1 Procesorius ir pagrindinė plokštė

Visa skaičiavimo platforma naudoja „Intel“ įmonės x86 serverio pagrindinę plokštę su dviejų lizdų „Intel Xeon“ keičiamais procesoriais kaip centrinį skaičiavimo branduolį. Pagrindinėje plokštėje yra visos PCIe 5.0 didelės spartos išplėtimo juostos, kurias iš esmės palaiko Intel Xeon procesoriai, kurios atitinka visą NVIDIA H200 PCIe varianto GPU pralaidumo poreikį, kad būtų išvengta įvesties / išvesties kliūčių tarp pagrindinio procesoriaus atminties ir GPU didelio pralaidumo atminties (HBM3e).

Integruotas „Intel“ platformos valdiklio šakotuvas (PCH) užtikrina stabilų signalo perdavimą, įmonės lygio nuotolinio valdymo funkcijas („Intel AMT/IPMI 2.0“ standartas), aparatinės įrangos gedimų stebėjimą ir nuotolinę priežiūrą, leidžiančią duomenų centro operatoriams atlikti galios valdymą, aparatinės įrangos diagnostiką ir sistemos iš naujo įdiegimą be prieigos vietoje.

2.2 Sistemos atminties ir saugyklos išplėtimas

Palaikoma Intel atminties valdiklio technologijos, serverio pagrindinėje plokštėje yra didelės talpos DDR5 ECC registruoti serverio atminties moduliai su klaidų taisymo ir atminties atspindėjimo funkcijomis, kad būtų išvengta skaičiavimo pertrūkių dėl vieno bito atminties klaidų atliekant ilgalaikes AI mokymo užduotis.

Priekiniame skydelyje sukonfigūruotos kelios sparčiai keičiamos NVMe U.2/SFF diskų nišos, sujungtos per „Intel“ vietinius PCIe 4.0 saugojimo kanalus, palaikančios itin didelės spartos vietinių duomenų rinkinių saugojimą ir mažos delsos modelio įkėlimą. Galimi pasirenkami Intel RAID valdikliai, skirti sukurti perteklines saugyklos masyvus svarbiems modeliams ir mokymo duomenų atsarginėms kopijoms.

2.3 Galios ir šiluminės bazės dizainas (patvirtinta „Intel“)

Visi maitinimo moduliai ir šiluminių sprendimų sistemos turi „Intel“ platformos suderinamumo sertifikatą. Važiuoklėje integruoti didelio efektyvumo pertekliniai platinos lygio karšto keitimo maitinimo šaltiniai, kad būtų išvengta vieno taško elektros gedimo rizikos; Intelektuali energijos valdymo logika dinamiškai koreguoja galią pagal procesoriaus ir GPU apkrovą, kad sumažintų energijos suvartojimą tuščiąja eiga ir sumažintų duomenų centro OPEX.

2U oro aušinimo sistema yra struktūriškai sustiprinta, kad atitiktų kelių didelės galios NVIDIA H200 GPU šilumos išsklaidymo reikalavimus, o iš priekio į galą nukreipto oro kanalo konstrukcija optimizuota naudojant „Intel“ šiluminio modeliavimo įrankius, kad būtų palaikomas nuoseklus oro srautas visose greitintuvo plokštėse ir išvengta vietinio perkaitimo esant pilnai nuolatinei GPU apkrovai.

3. Greitintuvo konfigūracija: NVIDIA H200 PCIe Tensor Core GPU

CSYS-GPU-6700 sistema sukurta kaip specialus PCIe GPU mazgas, skirtas NVIDIA H200 greitintuvams (PCIe formos faktorius, o ne SXM variantas), su konfigūruojamais kelių GPU lizdų išdėstymais, pritaikytais didelio masto lygiagrečiam skaičiavimui:

• Kiekvienas NVIDIA H200 PCIe GPU yra aprūpintas iki 141 GB HBM3e didelio pralaidumo atmintimi, užtikrinančia itin didelį atminties pralaidumą, kad būtų galima valdyti itin didelius pagrindinius modelius be dažno perkrovimo į sistemos RAM ar lėtą išorinę saugyklą;

• Naudojama NVIDIA Blackwell GPU architektūra su pažangiomis tensorinėmis šerdimis, palaikančiomis FP4, FP8, FP16, BF16 ir FP32 mišraus tikslumo skaičiavimus, drastiškai pagreitinančius LLM mokymus, generatyvų AI išvadas, daugiarūšio modelio apdorojimą ir mokslinį skaitmeninį modeliavimą;

• Visiškas suderinamumas su NVIDIA CUDA, cuDNN, TensorRT, NeMo ir NVIDIA AI Enterprise programinės įrangos paketu; „Intel“ pagrindinio kompiuterio platforma užtikrina sklandų „Kubernetes“, „Slurm“ ir kitų klasterių planavimo sistemų tvarkyklių, konteinerių ir orkestravimo įrankių integravimą.

  PCIe 5.0 x16 viso pločio lizdai užtikrina neribotą dvikryptį duomenų pralaidumą tarp kiekvieno H200 GPU ir Intel Xeon pagrindinio procesoriaus, pašalindami duomenų perdavimo kliūtis, būdingas senesniuose PCIe 4.0 GPU serveriuose.

4. Važiuoklė ir fizinės specifikacijos (2U stovo standartas)

• Formos koeficientas: 2U stovas, standartinis 19 colių duomenų centro spintelės tvirtinimo laikiklis, suderinamas;

• Matmenys: Pramonės standartinis 2U aukščio dizainas, siekiant maksimaliai padidinti stovo tankį – vienoje stovoje galima įdiegti daugiau skaičiavimo mazgų, palyginti su 4U/5U dideliais GPU serveriais, todėl sumažėja bendras duomenų centro plotas ir korpuso įsigijimo išlaidos;

• Išplėtimo išdėstymas: optimizuotas Vincanwo Group vidinės erdvės išdėstymas su sustiprintais PCIe kortelių laikikliais, stabilizuojančiais sunkius NVIDIA H200 greitintuvus korpuso vibracijos ar transportavimo metu;

• Priekinio skydelio sąsaja: karštai keičiamos saugojimo vietos, procesoriaus, atminties, GPU, maitinimo šaltinio ir ventiliatoriaus gedimų būsenos LED indikatoriai, fizinis maitinimo jungiklis ir USB diagnostikos prievadai;

• Galinio skydelio sąsaja: IPMI nuotolinio valdymo Ethernet prievadas, keli 10G/25G didelės spartos tinklo optiniai elektros prievadai (palaikomi per Intel PCIe tinklo adapterius), pertekliniai maitinimo moduliai, išplėtimo lizdo galinės pertvaros šilumos išmetimui.

5. Tiksliniai taikymo scenarijai

1. Didelės kalbos modelio (LLM) mokymas ir išvados

   Dvigubo „Intel Xeon“ pagrindinio kompiuterio ir kelių NVIDIA H200 HBM3e atminties derinys pašalina atminties talpos apribojimus trilijonų parametrų pagrindiniams modeliams, palaikydamas tiek neprisijungus visą mokymą, tiek internetinį mažos delsos samprotavimo diegimą.

2. Daugiamodalinis generacinis AI kompiuterija

   Tinka teksto vaizdo, teksto ir vaizdo įrašų, garso generavimo modelių mokymui ir paketinių išvadų darbo krūviams, naudojant Blackwell Tensor Core mišraus tikslumo pagreitį, kad sutrumpėtų užduočių ciklo laikas.

3. Didelio našumo mokslinė kompiuterija

   Aerodinaminis modeliavimas, molekulinė dinamika, medicininių vaizdų rekonstrukcija, orų prognozavimas ir geofizinis modeliavimas – keičiamas lygiagretusis skaičiavimas naudojant „Intel“ kelių branduolių CPU ir sugrupuotus H200 GPU.

4. Įmonės dideli duomenys ir skaitmeninis dvynys

   Realaus laiko pramoninis skaitmeninis dvynių atvaizdavimas, finansinės rizikos kiekybinis modeliavimas, didelio masto vartotojų elgsenos duomenų gavyba su GPU pagreitinta duomenų baze ir duomenų ežero kompiuterija.

5. AI debesies paslaugų mazgas

   Gali būti diegiami kaip standartizuoti pliko metalo GPU skaičiavimo mazgai, skirti viešiesiems/privačiams AI debesims, su Intel IPMI nuotoliniu valdymu, supaprastinančiu debesies išteklių planavimą ir nuomininko aparatinės įrangos izoliavimą.

6. Vincanwo Group CSYS-GPU-6700 gaminio privalumai

1. Patikrintas dviejų ekosistemų suderinamumas

   Visiškai patvirtinta bendra „Intel“ įmonės serverio aparatinės įrangos ir NVIDIA H200 PCIe GPU platforma, pašalinanti trečiųjų šalių aparatinės įrangos nesuderinamumo problemas, įprastas pagal užsakymą surinktose GPU darbo vietose.

2. Didelio tankio 2U erdvę taupantis dizainas

   Skirtingai nuo didelių gabaritų 4U GPU serverių, kompaktiškas 2U stovo dizainas pagerina stovo išdėstymo tankį ir sumažina duomenų centro erdvę, aušinimo ir maitinimo išlaidas.

3. Pramoninio lygio stabilumas 24 valandas per parą, 7 dienas per savaitę

   Pertekliniai maitinimo šaltiniai, ECC klaidų taisymo atmintis, pažangus šilumos ventiliatoriaus reguliavimas ir aparatinės įrangos gedimų signalizacijos sistemos atitinka nuolatinio veikimo reikalavimus duomenų centrų gamybos aplinkoje.

4. Pritaikomas konfigūracijos lankstumas

   Vincanwo Group palaiko kliento individualizuotus konfigūracijos koregavimus: tinkinamos Xeon procesorių kartos, DDR5 atminties talpa, NVMe saugyklos kiekis, įdiegtų NVIDIA H200 GPU skaičius ir pasirenkami didelės spartos tinklo adapteriai.

5. Vieno langelio tiekimas ir aptarnavimas po pardavimo

   Būdama produkto kūrėja ir tiekėja, Vincanwo Group teikia integruotą pilnų „Intel“ serverių sistemų, iš anksto įdiegtų su NVIDIA H200 GPU, pristatymą kartu su vieninga aparatinės įrangos garantija, techniniu derinimu, klasterių diegimo gairėmis ir technine pagalba po pardavimo.

7. Santrauka

„Vincanwo Group“ sukurta CSYS-GPU-6700 2U PCIe GPU sistema yra specialiai sukurtas didelio našumo skaičiavimo mazgas, sukurtas ant brandžios „Intel“ įmonės serverio platformos, specialiai optimizuotas veikti NVIDIA H200 PCIe Tensor Core GPU. Jame integruotas tvirtas x86 pagrindinio kompiuterio kompiuteris, itin didelė GPU HBM atminties talpa, didelės spartos PCIe 5.0 sujungimas ir kompaktiškas stovo tankis, užtikrinantis patikimą, keičiamo dydžio ir ekonomišką aparatinės įrangos sprendimą, skirtą įmonės lygio dirbtiniam intelektui, didelio našumo moksliniam skaičiavimui ir debesies GPU paslaugų apkrovai.