מערכת שרת Intel 2U PCIe GPU מצוידת ב-NVIDIA H200 דגם: CSYS-GPU-6700

1. סקירת מוצר

ה-CSYS-GPU-6700 היא מערכת מחשוב PCIe GPU מותקנת בצפיפות גבוהה ב-2U שפותחה וסופקה באופן עצמאי על ידי Vincanwo Group, הבנויה על ארכיטקטורת חומרת השרתים של אינטל בדרגה ארגונית ומותאמת באופן מלא לשאת גרפי NVIDIA H200 Tensor Core. שרת GPU משולב זה, הממוקם לעומסי עבודה מקבילים בעלי ביצועים גבוהים, מאזן את ניצול שטח המדף, פיזור תרמי, יכולת הרחבה וביצועים מתמשכים יציבים, מכוון לאימון בינה מלאכותית ברמה ארגונית, הסקת מודל שפה גדול (LLM), הדמיה מדעית, דינמיקת נוזל חישובית (CFD) דיוק גבוהה, ניתוחי מחשוב תאומים דיגיטליים.

מאמצת שלדת מתלה 2U סטנדרטית התואמת את מפרטי ארון מרכז הנתונים האוניברסליים, המערכת ממנפת את לוח האם השרת המאומת של אינטל, תת-מערכת אספקת החשמל ומערכת האקולוגית של קושחת הפלטפורמה, ומבטלת סיכוני תאימות בין חומרת המארח x86 ומאיצי NVIDIA H200 תוך מתן מהימנות תפעולית ארוכת טווח של מרכז נתונים 24/7.

2. בסיס פלטפורמת ליבה: ארכיטקטורת שרתים של אינטל

2.1 מעבד ולוח ראשי

פלטפורמת המחשוב כולה מאמצת את לוח האם הארגוני x86 של שרת אינטל עם מעבדי Intel Xeon הניתנים להרחבה כפולות שקעים כליבת המחשוב המרכזית. לוח האם כולל נתיבי הרחבה מלאים במהירות גבוהה PCIe 5.0 הנתמכים באופן מקורי על ידי מעבדי Intel Xeon, התואם את הדרישה לרוחב הפס המלא של גרסאות GPU של גרסה NVIDIA H200 PCIe כדי למנוע צווארי בקבוק של I/O בין זיכרון המעבד המארח לזיכרון GPU ברוחב פס גבוה (HBM3e).

רכזת בקר פלטפורמה משולבת של Intel (PCH) מספקת העברת אותות יציבה, פונקציות ניהול מרחוק ברמה ארגונית (תקן Intel AMT/IPMI 2.0), ניטור תקלות חומרה ותחזוקה מרחוק מחוץ לפס, המאפשרת למפעילי מרכזי נתונים לבצע בקרת חשמל, אבחון חומרה והתקנה מחדש של המערכת ללא גישה באתר.

2.2 זיכרון מערכת והרחבת אחסון

נתמך על ידי טכנולוגיית בקר הזיכרון של אינטל, לוח האם של השרת מכיל מודולי זיכרון שרתים רשומים ב-DDR5 ECC עם קיבולת גבוהה עם פונקציות תיקון שגיאות ושיקוף זיכרון למניעת הפרעות מחשוב הנגרמות על ידי שגיאות זיכרון של סיביות בודדות במהלך משימות אימון AI ארוכות.

מספר תאי כונן NVMe U.2/SFF הניתנים להחלפה חמה מוגדרים בפאנל הקדמי, המחוברים באמצעות ערוצי אחסון PCIe 4.0 מקוריים של Intel, התומכים באחסון נתונים מקומי במהירות גבוהה במיוחד וטעינת מודלים עם אחזור נמוך. בקרי RAID אופציונליים של Intel זמינים לבניית מערכי אחסון מיותרים לגיבוי נתוני מודל קריטי ואימונים.

2.3 עיצוב בסיס כוח ותרמי (מאומת אינטל)

כל מודולי אספקת החשמל ומסגרות הפתרונות התרמיים עוברים אישור תאימות לפלטפורמת Intel. השלדה משלבת ספקי כוח מיותרים ברמת פלטינה ניתנים להחלפה חמה ביעילות גבוהה כדי למנוע סיכוני הפסקת חשמל חד-נקודתי; לוגיקה חכמה של ניהול צריכת חשמל מבית אינטל מתאימה באופן דינמי את תפוקת הכוח בהתאם לעומס המעבד וה-GPU כדי להפחית את צריכת החשמל בטלה ולחתוך את OPEX במרכז הנתונים.

מסגרת קירור האוויר 2U מחוזקת מבחינה מבנית כדי להתאים לדרישות הפיזור התרמי של מספר רב של מעבדי NVIDIA H200 בהספק גבוה, עם עיצוב תעלות אוויר מאולצות מלפנים לאחור מותאם על ידי כלי הסימולציה התרמית של אינטל כדי לשמור על זרימת אוויר עקבית בכל כרטיסי המאיץ ולהימנע מהתחממות יתר מקומית בעומס מלא מתמשך של GPU.

3. תצורת מאיץ: NVIDIA H200 PCIe Tensor Core GPU

מערכת CSYS-GPU-6700 מתוכננת כצומת PCIe GPU ייעודי עבור מאיצים של NVIDIA H200 (פורמט PCIe, לא גרסה SXM), עם פריסות חריצים מרובות GPU המותאמות למחשוב מקבילי בקנה מידה גדול:

• כל NVIDIA H200 PCIe GPU מצויד בזיכרון של עד 141GB HBM3e ברוחב פס גבוה, המספק תפוקת זיכרון קיצונית לטיפול בדגמי יסוד גדולים במיוחד ללא פריקה תכופה ל-RAM של המערכת או אחסון חיצוני איטי;

• מופעל על ידי ארכיטקטורת NVIDIA Blackwell GPU עם ליבות Tensor מתקדמות התומכות ב-FP4, FP8, FP16, BF16 ו-FP32 מחשוב ברמת דיוק מעורבת, האצה דרסטית של אימון LLM, הסקת AI יצירתית, עיבוד מודלים רב-מודאליים וסימולציה מספרית מדעית;

• תאימות מלאה עם ערימת תוכנות NVIDIA CUDA, cuDNN, TensorRT, NeMo ו-NVIDIA AI Enterprise; הפלטפורמה המארחת של Intel מבטיחה שילוב חלק של דרייברים, מיכל וכלי תזמור עבור Kubernetes, Slurm ומסגרות תזמון אשכולות אחרות.

  חריצי PCIe 5.0 x16 ברוחב מלא מספקים תפוקת נתונים דו-כיוונית ללא מבול בין כל מעבדי H200 GPU ומעבדי אינטל Xeon מארח, ומסירים צווארי בקבוק בהעברת נתונים הנפוצים בשרתי PCIe 4.0 GPU ישנים יותר.

4. שלדה ומפרטים פיזיים (תקן 2U Rack)

• גורם צורה: 2U rackmount, תואם תואם סטנדרטי של 19 אינץ' לארון מרכז נתונים;

• מידות: עיצוב 2U בגובה סטנדרטי בתעשייה כדי למקסם את צפיפות המתלים - ניתן לפרוס יותר צמתי מחשוב לכל מתלה בהשוואה לשרתי GPU גדולים של 4U/5U, מה שמפחית את טביעת הרגל הכוללת של מרכז הנתונים ועלויות רכש הארונות;

• פריסת הרחבה: פריסת חלל פנימי אופטימלית על ידי Vincanwo Group, עם תושבות חיזוק לכרטיסי PCIe לייצוב מאיצי NVIDIA H200 כבדים במהלך רטט או הובלה של הארון;

• ממשק לוח קדמי: מפרצי אחסון הניתנים להחלפה חמה, מחווני LED למצב עבור מעבד, זיכרון, GPU, תקלות באספקת חשמל ומאווררים, מתג הפעלה פיזי ויציאות אבחון USB;

• ממשק פאנל אחורי: יציאת Ethernet לניהול מרחוק IPMI, יציאות חשמל אופטיות מרובות של 10G/25G במהירות גבוהה (נתמכת באמצעות מתאמי רשת Intel PCIe), מודולי אספקת חשמל מיותרים, מבצרים אחוריים של חריצי הרחבה לפליטת חום.

5. תרחישי יעד של יישום

1. הדרכה והסקת מודל שפה גדולה (LLM).

   השילוב של מחשוב מארח Xeon כפול של Intel וזיכרון רב-NVIDIA H200 HBM3e מבטל את מגבלות קיבולת הזיכרון עבור מודלים של בסיס טריליון פרמטרים, ותומך הן באימון מלא במצב לא מקוון והן בפריסת חשיבה מקוונת עם אחזור נמוך.

2. Multi-Modal Generative AI Computing

   מתאים לאימון מודלים של טקסט-תמונה, טקסט-ווידאו, יצירת שמע ועומסי עבודה של הסקת מסקנות אצווה, תוך מינוף האצה ברמת דיוק מעורבת של Blackwell Tensor Core כדי לקצר את זמן מחזור המשימה.

3. מחשוב מדעי בעל ביצועים גבוהים

   סימולציה אווירודינמית, דינמיקה מולקולרית, שחזור הדמיה רפואית, חיזוי מזג אוויר ומידול גיאופיזי - מחשוב מקביל ניתן להרחבה באמצעות מעבדי אינטל מרובי ליבות ומעבדי H200 מקובצים.

4. ביג דאטה ארגוני ודיגיטל טווין

   רינדור תאומים דיגיטליים תעשייתיים בזמן אמת, מודלים כמותיים של סיכונים פיננסיים, כריית נתונים בקנה מידה גדול של התנהגות משתמשים עם מסדי נתונים מואצים ב-GPU ומחשוב אגם נתונים.

5. AI Cloud Service Node

   ניתן לפרוס כצמתי מחשוב סטנדרטיים ממתכת חשופה עבור ענני AI ציבוריים/פרטיים, עם ניהול מרחוק של Intel IPMI המפשט את תזמון משאבי הענן ובידוד החומרה של הדיירים.

6. יתרונות המוצר של Vincanwo Group CSYS-GPU-6700

1. תאימות מערכת אקולוגית כפולה מאומתת

   פלטפורמה משותפת מאומתת לחלוטין של חומרת שרתים ארגוניים של אינטל ו-NVIDIA H200 PCIe GPU, ומבטלת בעיות אי-תאימות חומרה של צד שלישי הנפוצות בתחנות עבודה של GPU בהרכבה אישית.

2. עיצוב חוסך מקום בצפיפות גבוהה 2U

   בניגוד לשרתי 4U GPU מגושמים, עיצוב מתלה 2U הקומפקטי משפר את צפיפות הפריסה של המדף ומצמצם את שטח מרכז הנתונים, הוצאות הקירור והחשמל.

3. יציבות תעשייתית 24/7

   ספקי כוח מיותרים, זיכרון תיקון שגיאות ECC, ויסות מאוורר תרמי חכם ומערכות אזעקת תקלות חומרה עומדים בדרישות תפעול רציף עבור סביבות ייצור של מרכזי נתונים.

4. גמישות תצורה הניתנת להתאמה אישית

   Vincanwo Group תומכת בהתאמות תצורה מותאמות אישית ללקוח: דורות Xeon CPU הניתנים להתאמה אישית, קיבולת זיכרון DDR5, כמות אחסון NVMe, מספר NVIDIA H200 GPUs פרוסים ומתאמי רשת מהירים אופציונליים.

5. אספקה ​​אחת ושירות לאחר מכירה

   כמפתחת וספקית המוצר, Vincanwo Group מספקת אספקה ​​משולבת של מערכות שרת אינטל שלמות המותקנות מראש עם NVIDIA H200 GPUs, יחד עם אחריות חומרה מאוחדת, איתור באגים טכני, הנחיית פריסת אשכולות ותמיכה טכנית לאחר המכירה.

7. סיכום

מערכת CSYS-GPU-6700 2U PCIe GPU של Vincanwo Group היא צומת מחשוב בעל ביצועים גבוהים שנבנה על פלטפורמת השרתים הארגוניים הבוגרים של אינטל, שעברה אופטימיזציה מיוחדת לתפעול מעבדי גרפי NVIDIA H200 PCIe Tensor Core. הוא משלב מחשוב מארח חזק של x86, קיבולת זיכרון GPU HBM גדולה במיוחד, חיבור PCIe 5.0 מהיר וצפיפות מתלים קומפקטית, ומספק פתרון חומרה אמין, מדרגי וחסכוני עבור בינה מלאכותית ברמה ארגונית, מחשוב מדעי בעל ביצועים גבוהים ועומסי עבודה של שירותי GPU בענן.