Серверная сістэма Intel 2U PCIe GPU, абсталяваная NVIDIA H200 Мадэль: CSYS-GPU-6700

1. Агляд прадукту

CSYS-GPU-6700 - гэта вылічальная сістэма PCIe GPU высокай шчыльнасці 2U для ўстаноўкі ў стойку, незалежна распрацаваная і пастаўленая Vincanwo Group, пабудаваная на архітэктуры сервернага абсталявання карпаратыўнага ўзроўню Intel і цалкам аптымізаваная для працы з графічнымі працэсарамі NVIDIA H200 Tensor Core. Размешчаны для высокапрадукцыйных паралельных вылічальных нагрузак, гэты інтэграваны сервер графічнага працэсара збалансуе выкарыстанне прасторы ў стойцы, рассейванне цяпла, магчымасць пашырэння і стабільную ўстойлівую прадукцыйнасць, арыентаваны на навучанне AI на карпаратыўным узроўні, выснову вялікай моўнай мадэлі (LLM), навуковае мадэляванне, высокадакладную вылічальную гідрадынаміку (CFD), аналітыку вялікіх даных і сцэнарыі лічбавых двайных вылічэнняў.

Прыняўшы стандартны формаў-фактар ​​стойкі 2U, які адпавядае спецыфікацыям корпуса універсальнага цэнтра апрацоўкі дадзеных, сістэма выкарыстоўвае правераную мацярынскую плату сервера Intel, падсістэму падачы энергіі і экасістэму ўбудаванага праграмнага забеспячэння платформы, ухіляючы рызыкі сумяшчальнасці паміж апаратным забеспячэннем хаста x86 і паскаральнікамі NVIDIA H200, забяспечваючы пры гэтым доўгатэрміновую эксплуатацыйную надзейнасць для кругласутачнай бесперапыннай працы цэнтра апрацоўкі дадзеных.

2. Аснова асноўнай платформы: серверная архітэктура Intel

Працэсар і плата 2.1

На ўсёй вылічальнай платформе ў якасці цэнтральнага вылічальнага ядра выкарыстоўваецца карпаратыўная серверная мацярынская плата Intel x86 з двухразеткавымі маштабуемымі працэсарамі Intel Xeon. Матчына плата мае поўныя высакахуткасныя паласы пашырэння PCIe 5.0, якія першапачаткова падтрымліваюцца працэсарамі Intel Xeon, што адпавядае патрабаванням поўнай прапускной здольнасці графічных працэсараў варыянту NVIDIA H200 PCIe, каб пазбегнуць вузкіх месцаў уводу-вываду паміж памяццю цэнтральнага працэсара і памяццю графічнага працэсара з высокай прапускной здольнасцю (HBM3e).

Інтэграваны канцэнтратар платформы Intel Controller (PCH) забяспечвае стабільную перадачу сігналу, функцыі дыстанцыйнага кіравання карпаратыўнага ўзроўню (стандарт Intel AMT/IPMI 2.0), маніторынг апаратных збояў і пазадыяпазоннае дыстанцыйнае абслугоўванне, што дазваляе аператарам цэнтраў апрацоўкі дадзеных выконваць кантроль харчавання, дыягностыку абсталявання і пераўсталёўку сістэмы без доступу на месцы.

2.2 Пашырэнне сістэмнай памяці і сховішча

Падтрымліваючы тэхналогію кантролера памяці Intel, серверная мацярынская плата змяшчае серверныя модулі памяці высокай ёмістасці DDR5 ECC з функцыямі выпраўлення памылак і люстранога адлюстравання памяці для прадухілення перапынкаў у вылічэнні, выкліканых аднаразраднымі памылкамі памяці падчас доўгатэрміновых навучальных задач штучнага інтэлекту.

Некалькі адсекаў для дыскаў NVMe U.2/SFF з магчымасцю гарачай замены сканфігураваны на пярэдняй панэлі, падлучаныя праз уласныя каналы захоўвання дадзеных Intel PCIe 4.0, падтрымліваючы звышхуткаснае захоўванне лакальных набораў даных і загрузку мадэлі з нізкай затрымкай. Дадатковыя RAID-кантролеры Intel даступныя для стварэння рэзервовых масіваў захоўвання для крытычнай мадэлі і рэзервовага капіравання дадзеных навучання.

2.3 Дызайн сілкавання і цеплавой базы (праверана Intel)

Усе модулі харчавання і каркасы цеплавых рашэнняў праходзяць сертыфікацыю сумяшчальнасці з платформай Intel. Шасі аб'ядноўвае высокаэфектыўныя рэзервовыя крыніцы харчавання плацінавага ўзроўню з магчымасцю гарачай замены, каб выключыць рызыку аднакропкавага збою харчавання; інтэлектуальная логіка кіравання энергазабеспячэннем ад Intel дынамічна рэгулюе выходную магутнасць у залежнасці ад нагрузкі на працэсар і графічны працэсар, каб знізіць энергаспажыванне ў рэжыме чакання і знізіць эксплуатацыйныя выдаткі цэнтра апрацоўкі дадзеных.

Каркас паветранага астуджэння вышынёй 2U структурна ўзмоцнены, каб адпавядаць патрабаванням цеплавога рассейвання некалькіх магутных графічных працэсараў NVIDIA H200, з канструкцыяй паветравода з прымусовым паветраводам, аптымізаванай інструментамі цеплавога мадэлявання Intel для падтрымання пастаяннага паветранага патоку на ўсіх картах паскаральніка і пазбягання лакальнага перагрэву пры поўнай пастаяннай нагрузцы на графічны працэсар.

3. Канфігурацыя паскаральніка: NVIDIA H200 PCIe Tensor Core GPU

Сістэма CSYS-GPU-6700 распрацавана як спецыяльны графічны вузел PCIe для паскаральнікаў NVIDIA H200 (формаў-фактар ​​PCIe, а не варыянт SXM), з наладжвальнымі схемамі слотаў для некалькіх графічных працэсараў, адаптаваных да буйнамаштабных паралельных вылічэнняў:

• Кожны графічны працэсар NVIDIA H200 PCIe абсталяваны да 141 ГБ памяці HBM3e з высокай прапускной здольнасцю, забяспечваючы экстрэмальную прапускную здольнасць памяці для працы з звышвялікімі базавымі мадэлямі без частай разгрузкі ў сістэмную аператыўную памяць або павольны знешні назапашвальнік;

• Працуе на базе графічнага працэсара NVIDIA Blackwell з перадавымі тэнзорнымі ядрамі, якія падтрымліваюць вылічэнні змешанай дакладнасці FP4, FP8, FP16, BF16 і FP32, рэзкае паскаранне навучання LLM, генератыўныя высновы AI, мультымадальную апрацоўку мадэляў і навуковае лікавае мадэляванне;

• Поўная сумяшчальнасць з праграмным стэкам NVIDIA CUDA, cuDNN, TensorRT, NeMo і NVIDIA AI Enterprise; хост-платформа Intel забяспечвае бясшвоўную інтэграцыю драйвераў, кантэйнераў і інструментаў аркестроўкі для Kubernetes, Slurm і іншых структур планавання кластараў.

  Слоты PCIe 5.0 x16 поўнай шырыні забяспечваюць нерэгуляваную двухнакіраваную прапускную здольнасць даных паміж кожным графічным працэсарам H200 і хаставымі працэсарамі Intel Xeon, ухіляючы вузкія месцы перадачы даных, распаўсюджаныя ў старых серверах GPU PCIe 4.0.

4. Шасі і фізічныя характарыстыкі (стандартная стойка 2U)

• Формаў-фактар: 2U для ўстаноўкі ў стойку, сумяшчальны з мантажным кранштэйнам для стандартнага 19-цалевага шафы цэнтра апрацоўкі дадзеных;

• Памеры: стандартная для прамысловасці канструкцыя вышынёй 2U для максімальнай шчыльнасці стойкі — у стойцы можна разгарнуць больш вылічальных вузлоў у параўнанні з вялікімі GPU-серверамі 4U/5U, што зніжае агульную плошчу цэнтра апрацоўкі дадзеных і выдаткі на закупку шафы;

• Схема пашырэння: аптымізаваная планіроўка ўнутранай прасторы Vincanwo Group з узмоцненымі кранштэйнамі для ўтрымання карты PCIe для стабілізацыі цяжкіх паскаральнікаў NVIDIA H200 падчас вібрацыі корпуса або транспарціроўкі;

• Інтэрфейс пярэдняй панэлі: адсекі для захоўвання з магчымасцю гарачай замены, святлодыёдныя індыкатары стану працэсара, памяці, графічнага працэсара, няспраўнасці блока харчавання і вентылятара, фізічны выключальнік сілкавання і дыягнастычныя парты USB;

• Інтэрфейс задняй панэлі: порт Ethernet дыстанцыйнага кіравання IPMI, некалькі высакахуткасных сеткавых аптычных электрычных партоў 10G/25G (падтрымліваюцца праз сеткавыя адаптары Intel PCIe), рэзервовыя модулі крыніцы харчавання, заднія перагародкі слота пашырэння для адводу цяпла.

5. Сцэнары мэтавага прымянення

1. Вялікая моўная мадэль (LLM) Навучанне і вывад

   Спалучэнне падвойных хост-вылічэнняў Intel Xeon і памяці з некалькімі NVIDIA H200 HBM3e ліквідуе абмежаванні аб'ёму памяці для базавых мадэляў з трыльёнамі параметраў, падтрымліваючы як аўтаномнае поўнае навучанне, так і онлайн-разгортванне з нізкай затрымкай.

2. Мультымадальны генератыўны штучны інтэлект

   Падыходзіць для навучання мадэлям тэксту-малюнка, тэксту-відэа, генерацыі аўдыя і працоўных нагрузак пакетнага вываду, выкарыстоўваючы паскарэнне змешанай дакладнасці Blackwell Tensor Core для скарачэння часу цыкла задачы.

3. Высокапрадукцыйныя навуковыя вылічэнні

   Аэрадынамічнае мадэляванне, малекулярная дынаміка, рэканструкцыя медыцынскіх малюнкаў, прагназаванне надвор'я і геафізічнае мадэляванне — маштабуемыя паралельныя вылічэнні з дапамогай шмат'ядравых працэсараў Intel і кластарных графічных працэсараў H200.

4. Прадпрыемства Big Data & Digital Twin

   Прамысловы лічбавы двайнік у рэжыме рэальнага часу, колькаснае мадэляванне фінансавых рызык, буйнамаштабны інтэлектуальны аналіз паводзін карыстальнікаў з базай дадзеных з паскораным GPU і вылічэннем на возеры даных.

5. Воблачны сэрвісны вузел AI

   Могуць быць разгорнуты ў якасці стандартызаваных вылічальных вузлоў GPU на голым метале для агульнадаступных/прыватных воблакаў штучнага інтэлекту з аддаленым кіраваннем Intel IPMI, што спрашчае планаванне воблачных рэсурсаў і апаратную ізаляцыю арандатараў.

6. Перавагі прадукту Vincanwo Group CSYS-GPU-6700

1. Правераная сумяшчальнасць з падвойнай экасістэмай

   Цалкам пацверджаная сумесная платформа карпаратыўнага сервернага абсталявання Intel і графічнага працэсара NVIDIA H200 PCIe, ухіляючы праблемы несумяшчальнасці апаратнага забеспячэння іншых вытворцаў, якія часта сустракаюцца ў працоўных станцыях з графічнымі працэсарамі, сабранымі на заказ.

2. Дызайн высокай шчыльнасці 2U, які эканоміць месца

   У адрозненне ад грувасткіх сервераў з графічным працэсарам 4U, кампактная канструкцыя стойкі 2U паляпшае шчыльнасць разгортвання стойкі і памяншае прастору цэнтра апрацоўкі дадзеных, накладныя выдаткі на астуджэнне і электраэнергію.

3. Стабільнасць прамысловага ўзроўню 24/7

   Рэзерваваныя крыніцы харчавання, памяць карэкцыі памылак ECC, інтэлектуальнае рэгуляванне цеплавых вентылятараў і сістэмы сігналізацыі аб няспраўнасцях абсталявання адпавядаюць патрабаванням бесперапыннай працы для вытворчых асяроддзяў цэнтра апрацоўкі дадзеных.

4. Гнуткасць наладжвальнай канфігурацыі

   Vincanwo Group падтрымлівае персаналізаваныя налады канфігурацыі кліентаў: наладжвальныя пакаленні працэсараў Xeon, аб'ём памяці DDR5, аб'ём сховішча NVMe, колькасць разгорнутых графічных працэсараў NVIDIA H200 і дадатковыя высакахуткасныя сеткавыя адаптары.

5. Універсальнае пастаўка і пасляпродажнае абслугоўванне

   У якасці распрацоўшчыка і пастаўшчыка прадукту Vincanwo Group забяспечвае інтэграваную пастаўку поўных серверных сістэм Intel з папярэдне ўсталяванымі графічнымі працэсарамі NVIDIA H200 разам з адзінай гарантыяй на апаратнае забеспячэнне, тэхнічнай адладкай, кіраўніцтвам па разгортванні кластара і пасляпродажнай тэхнічнай падтрымкай.

7. Рэзюмэ

Сістэма CSYS-GPU-6700 2U PCIe GPU ад Vincanwo Group - гэта спецыяльна створаны высокапрадукцыйны вылічальны вузел, створаны на аснове спелай карпаратыўнай сервернай платформы Intel, спецыяльна аптымізаванай для працы з графічнымі працэсарамі NVIDIA H200 PCIe Tensor Core. Ён аб'ядноўвае надзейныя хост-вылічэнні x86, звышвялікі аб'ём памяці GPU HBM, высакахуткаснае ўзаемасувязь PCIe 5.0 і кампактную шчыльнасць стойкі, забяспечваючы надзейнае, маштабаванае і эканамічна эфектыўнае апаратнае рашэнне для штучнага інтэлекту карпаратыўнага ўзроўню, высокапрадукцыйных навуковых вылічэнняў і працоўных нагрузак хмарнага GPU.