NVIDIA H200-ээр тоноглогдсон Intel 2U PCIe GPU серверийн систем Загвар: CSYS-GPU-6700

1. Бүтээгдэхүүний тойм

CSYS-GPU-6700 нь Vincanwo группээс бие даан хөгжүүлж нийлүүлсэн өндөр нягтралтай 2U өлгүүрт суурилуулсан PCIe GPU тооцоолох систем бөгөөд Intel-ийн аж ахуйн нэгжийн түвшний серверийн техник хангамжийн архитектур дээр бүтээгдсэн бөгөөд NVIDIA H200 Tensor Core GPU-г авч явахад бүрэн оновчтой болсон. Өндөр хүчин чадалтай зэрэгцээ тооцоолох ажлын ачаалалд зориулагдсан энэхүү нэгдсэн GPU сервер нь аж ахуйн нэгжийн түвшний хиймэл оюун ухааны сургалт, том хэлний загвар (LLM) дүгнэлт, шинжлэх ухааны симуляци, өндөр нарийвчлалтай тооцоолох шингэний динамик (CFD) болон дижитал аналитик тооцоолол зэрэгт чиглүүлэн тавиурын зайны ашиглалт, дулааны зарцуулалт, өргөтгөх чадвар, тогтвортой гүйцэтгэлийг тэнцвэржүүлдэг.

Бүх нийтийн дата төвийн кабинетийн техникийн үзүүлэлтүүдтэй нийцсэн стандарт 2U өлгүүр явах эд анги хэлбэр хүчин зүйлийг нэвтрүүлснээр систем нь Intel-ийн баталгаажсан серверийн эх хавтан, цахилгаан дамжуулах дэд систем болон платформын програм хангамжийн экосистемийг ашиглаж, x86 хост техник хангамж болон NVIDIA H200 хурдасгууруудын хоорондын нийцтэй байдлын эрсдлийг арилгаж, урт хугацаанд ажиллахгүй өгөгдлийн төвийг27/4 дахин ашиглах боломжтой болгодог.

2. Үндсэн платформын суурь: Intel Server Architecture

2.1 Процессор ба эх хавтан

Тооцооллын платформ бүхэлдээ Intel корпорацийн x86 серверийн эх хавтанг хос сокет Intel Xeon өргөтгөх боломжтой процессоруудыг төв тооцооллын цөм болгон ашигладаг. Эх хавтан нь үндсэн CPU-ийн санах ой болон GPU өндөр зурвасын өргөн санах ой (HBM3e) хооронд оролт/гаралтын бөглөрөл үүсэхээс зайлсхийхийн тулд NVIDIA H200 PCIe хувилбарын GPU-ийн өргөн зурвасын өргөн хэрэгцээнд нийцсэн, Intel Xeon CPU-уудаар дэмжигдсэн бүрэн PCIe 5.0 өндөр хурдны өргөтгөлийн эгнээтэй.

Intel-ийн нэгдсэн платформ хянагч төв (PCH) нь тогтвортой дохио дамжуулалт, байгууллагын түвшний алсын удирдлагын функцууд (Intel AMT/IPMI 2.0 стандарт), техник хангамжийн алдааг хянах, зурвасаас гадуур алсаас засвар үйлчилгээ хийх боломжийг олгодог бөгөөд дата төвийн операторуудад газар дээр нь нэвтрэхгүйгээр эрчим хүчний хяналт, техник хангамжийн оношлогоо, системийг дахин суулгах боломжийг олгодог.

2.2 Системийн санах ой ба хадгалах сангийн өргөтгөл

Intel-ийн санах ойн хянагч технологиор дэмжигдсэн серверийн эх хавтан нь урт хугацааны хиймэл оюун ухааны сургалтын даалгаврын үед нэг битийн санах ойн алдаанаас үүдэлтэй тооцоололын тасалдлаас урьдчилан сэргийлэхийн тулд алдаа засах, санах ойн толин тусгал хийх функц бүхий өндөр хүчин чадалтай DDR5 ECC бүртгэлтэй серверийн санах ойн модулиудыг багтаасан болно.

Олон тооны халуун сольж болох NVMe U.2/SFF хөтчийн үүрийг урд самбар дээр тохируулсан бөгөөд Intel-н төрөлх PCIe 4.0 хадгалах сувгаар холбогдож, хэт өндөр хурдны локал өгөгдлийн багц хадгалах, хоцролт багатай загвар ачааллыг дэмждэг. Нэмэлт Intel RAID хянагчууд нь чухал загвар болон сургалтын өгөгдлийн нөөцлөлтөд зориулж нэмэлт хадгалах массив үүсгэх боломжтой.

2.3 Эрчим хүч ба дулааны суурийн загвар (Intel баталгаажуулсан)

Бүх цахилгаан хангамжийн модулиуд болон дулааны шийдлийн хүрээ нь Intel платформын нийцтэй байдлын гэрчилгээг дамжуулдаг. Явах эд анги нь нэг цэгийн цахилгаан тасрах эрсдлийг арилгахын тулд өндөр үр ашигтай нэмэлт платинум түвшний халуун сольж болох тэжээлийн хангамжийг нэгтгэдэг; Intel-ийн ухаалаг тэжээлийн удирдлагын логик нь сул зогсолтын эрчим хүчний зарцуулалтыг бууруулж, өгөгдлийн төвийн OPEX-ийг багасгахын тулд CPU болон GPU ачааллын дагуу эрчим хүчний гаралтыг динамикаар тохируулдаг.

2U агаарын хөргөлтийн систем нь өндөр хүчин чадалтай олон тооны NVIDIA H200 GPU-ийн дулаан алдалтын шаардлагад нийцүүлэн бүтцийн хувьд бэхжсэн бөгөөд бүх хурдасгуурын картуудад агаарын урсгалыг тогтмол байлгаж, GPU бүрэн ачаалалтай үед орон нутгийн хэт халалтаас зайлсхийхийн тулд Intel-ийн дулааны симуляцийн хэрэгслээр оновчлогдсон урдаас хойшоо албадан агаарын сувгийн дизайнтай.

3. Хурдасгуурын тохиргоо: NVIDIA H200 PCIe Tensor Core GPU

CSYS-GPU-6700 систем нь NVIDIA H200 хурдасгуурт (SXM хувилбар биш PCIe форм хүчин зүйл) зориулагдсан тусгай PCIe GPU зангилаа хэлбэрээр бүтээгдсэн бөгөөд том хэмжээний зэрэгцээ тооцоололд тохируулан тохируулж болох олон GPU үүрний зохион байгуулалттай:

• NVIDIA H200 PCIe GPU бүр нь 141 ГБ хүртэлх HBM3e өндөр зурвасын санах ойгоор тоноглогдсон бөгөөд системийн RAM-д ойр ойрхон ачаалагдахгүй, гадаад санах ойг удаашруулахгүйгээр хэт том суурь загваруудыг зохицуулахад маш их санах ойн дамжуулалтыг өгдөг;

• FP4, FP8, FP16, BF16 болон FP32 холимог нарийвчлалтай тооцоололыг дэмждэг дэвшилтэт Тензор цөм бүхий NVIDIA Blackwell GPU архитектураар ажилладаг, LLM сургалтыг эрс хурдасгаж, хиймэл хиймэл оюун ухааны дүгнэлт, олон төрлийн загвар боловсруулалт, шинжлэх ухааны тоон симуляци;

• NVIDIA CUDA, cuDNN, TensorRT, NeMo болон NVIDIA AI Enterprise програм хангамжийн стектэй бүрэн нийцтэй байх; Intel хост платформ нь Kubernetes, Slurm болон бусад кластер хуваарийн хүрээнүүдэд зориулсан драйвер, контейнер, зохион байгуулалтын хэрэгслийг тасралтгүй нэгтгэх боломжийг олгодог.

  PCIe 5.0 x16 бүрэн өргөнтэй слотууд нь H200 GPU болон Intel Xeon хост CPU бүрийн хооронд хоёр чиглэлтэй өгөгдлийн дамжуулалтыг хангаж, хуучин PCIe 4.0 GPU серверүүдэд тохиолддог өгөгдөл дамжуулах саатлыг арилгадаг.

4. Явах эд анги ба физик үзүүлэлтүүд (2U тавиурын стандарт)

• Form Factor: 2U өлгүүр, стандарт 19 инчийн дата төвийн шүүгээний бэхэлгээний бэхэлгээтэй;

• Хэмжээ: Өлгүүрийн нягтралыг нэмэгдүүлэхийн тулд үйлдвэрлэлийн стандартын 2U өндөртэй загвар—4U/5U том GPU серверүүдтэй харьцуулахад илүү их тооцооллын зангилаануудыг тавиур бүрт байрлуулж, мэдээллийн төвийн нийт талбай болон кабинетийн худалдан авалтын зардлыг бууруулна;

• Өргөтгөх зохион байгуулалт: Vincanwo группын дотоод зайны оновчтой зохион байгуулалт, кабинетийн чичиргээ эсвэл тээвэрлэлтийн үед хүнд NVIDIA H200 хурдасгуурыг тогтворжуулахын тулд бэхжүүлсэн PCIe карт хадгалах хаалт;

• Урд самбарын интерфэйс: Халуун сольж болох санах ой, CPU, санах ой, GPU, тэжээлийн хангамж, сэнсний гэмтэл, физик тэжээлийн унтраалга, USB оношлогооны портуудын төлөвийн LED үзүүлэлт;

• Арын самбарын интерфэйс: IPMI алсын удирдлагатай Ethernet порт, олон тооны 10G/25G өндөр хурдны сүлжээний оптик цахилгаан портууд (Intel PCIe сүлжээний адаптераар дэмжигддэг), нэмэлт тэжээлийн модулиуд, дулааны яндангийн өргөтгөлийн үүрний хойд хаалт.

5. Зорилтот хэрэглээний хувилбарууд

1. Том хэлний загвар (LLM) сургалт ба дүгнэлт

   Intel хос Xeon хост тооцоолол болон олон NVIDIA H200 HBM3e санах ойн хослол нь их наяд параметрийн суурь загваруудын санах ойн багтаамжийн хязгаарлалтыг арилгаж, офлайн бүрэн сургалт болон онлайн хоцрогдол багатай үндэслэлийг ашиглах боломжийг хоёуланг нь дэмждэг.

2. Олон төрлийн үүсгүүртэй AI тооцоолол

   Даалгаврын мөчлөгийн хугацааг богиносгохын тулд Blackwell Tensor Core холимог нарийвчлалтай хурдатгалыг ашиглан текст зураг, текст видео, аудио үүсгэх загварт сургалт, багц дүгнэлт гаргахад тохиромжтой.

3. Өндөр хүчин чадалтай шинжлэх ухааны тооцоолол

   Аэродинамик симуляци, молекул динамик, эмнэлгийн дүрслэлийн сэргээн босголт, цаг агаарын таамаглал, геофизикийн загварчлал - Intel олон цөмт CPU болон кластер H200 GPU-ээр дамжуулан өргөтгөх боломжтой зэрэгцээ тооцоолох.

4. Enterprise Big Data & Digital Twin

   Бодит цагийн үйлдвэрлэлийн дижитал ихэр дүрслэл, санхүүгийн эрсдэлийн тоон загварчлал, GPU хурдасгасан мэдээллийн сан болон дата нуурын тооцоолол бүхий хэрэглэгчийн зан төлөвийн томоохон хэмжээний өгөгдөл олборлолт.

5. AI үүлэн үйлчилгээний зангилаа

   Intel IPMI алсын удирдлага нь үүлний нөөцийн хуваарь болон түрээслэгчийн техник хангамжийн тусгаарлалтыг хялбаршуулж, нийтийн/хувийн AI үүлэнд зориулсан стандартчилагдсан нүцгэн металл GPU тооцооллын зангилаа болгон ашиглах боломжтой.

6. Vincanwo Group CSYS-GPU-6700-ийн бүтээгдэхүүний давуу тал

1. Хос экосистемийн нийцтэй байдлыг баталгаажуулсан

   Intel корпорацийн серверийн техник хангамж болон NVIDIA H200 PCIe GPU-ийн бүрэн баталгаажсан хамтарсан платформ нь захиалгаар угсарсан GPU ажлын станцуудад тохиолддог гуравдагч талын техник хангамжийн үл нийцэх асуудлыг арилгадаг.

2. Өндөр нягтралтай 2U зай хэмнэх дизайн

   Том хэмжээтэй 4U GPU серверүүдээс ялгаатай нь авсаархан 2U тавиурын загвар нь өлгүүр байрлуулах нягтралыг сайжруулж, дата төвийн зай, хөргөлт, цахилгаан эрчим хүчний зардлыг бууруулдаг.

3. Аж үйлдвэрийн зэрэглэлийн 24/7 тогтвортой байдал

   Илүүдэл тэжээлийн хангамж, ECC алдаа засах санах ой, ухаалаг дулааны сэнсний зохицуулалт, техник хангамжийн алдааны дохиоллын системүүд нь дата төвийн үйлдвэрлэлийн орчинд тасралтгүй ажиллах шаардлагыг хангадаг.

4. Тохируулж болох тохиргооны уян хатан байдал

   Vincanwo групп нь хэрэглэгчийн хувийн тохиргооны тохируулгыг дэмждэг: өөрчлөх боломжтой Xeon CPU-ийн үе, DDR5 санах ойн багтаамж, NVMe хадгалах хэмжээ, байрлуулсан NVIDIA H200 GPU-ийн тоо, нэмэлт өндөр хурдны сүлжээний адаптер.

5. Нэг цэгийн хангамж, борлуулалтын дараах үйлчилгээ

   Винканво групп нь бүтээгдэхүүн үйлдвэрлэгч, ханган нийлүүлэгчийн хувьд NVIDIA H200 GPU-тай урьдчилан суулгасан иж бүрэн Intel серверийн системийг нэгдсэн тоног төхөөрөмжийн баталгаа, техникийн дибаг хийх, кластер байршуулах зааварчилгаа, борлуулалтын дараах техникийн дэмжлэгтэйгээр нийлүүлдэг.

7. Дүгнэлт

Vincanwo группын CSYS-GPU-6700 2U PCIe GPU систем нь NVIDIA H200 PCIe Tensor Core GPU-г ажиллуулахаар тусгайлан оновчтой болгосон, Intel-ийн боловсорсон аж ахуйн нэгжийн серверийн платформ дээр бүтээгдсэн, зориулалтын өндөр хүчин чадалтай тооцоолох зангилаа юм. Энэ нь хүчирхэг x86 хост тооцоолол, хэт том GPU HBM санах ойн багтаамж, өндөр хурдны PCIe 5.0 харилцан холболт, авсаархан тавиурын нягтрал зэргийг нэгтгэж, байгууллагын түвшний хиймэл оюун ухаан, өндөр гүйцэтгэлтэй шинжлэх ухааны тооцоолол, үүл GPU үйлчилгээнд найдвартай, өргөтгөх боломжтой, зардал багатай техник хангамжийн шийдлийг өгдөг.