NVIDIA הכריזה על מחלקה חדשה של מחשבי על עם כמות זיכרון גדולה - מחשב העל NVIDIA DGX מבוסס על שבבי על NVIDIA GH200 Grace Hopper ומערכות מתגים NVIDIA NVLink. הוא נועד לפתח מודלים מהדור הבא עבור יישומים גנרטיביים AI, מערכות ממליצים ועומסי עבודה של ניתוח נתונים.
שטח זיכרון עצום NVIDIA DGX GH200 משתמש בטכנולוגיית חיבור NVLink עם מערכת מתג NVLink כדי לשלב 256 שבבי-על GH200, שכתוצאה מכך עובדים כ-GPU יחיד. זה מספק עלייה אחת של ביצועים ו-1 TB של זיכרון משותף, כמעט פי 144 יותר מהדור הקודם NVIDIA DGX A100, שהוצג בשנת 2020.
"מוֹלִיד AI, דגמי שפות גדולים ומערכות ממליצים הם המנועים הדיגיטליים של הכלכלה המודרנית, אמר המייסד והמנכ"ל NVIDIA ג'נסן הואנג. - מחשבי-על DGX GH200 AI משלבים טכנולוגיות מחשוב מואצות ורשתות מתקדמות ביותר NVIDIAלהרחיב את גבולות הבינה המלאכותית".
כפי שדווח בהודעה לעיתונות באתר החברה, שבבי העל GH200 מבטלים את הצורך בחיבור CPU-GPU PCIe מסורתי. הם משלבים את המעבד NVIDIA Grace ו-GPU מבוססי זרוע NVIDIA H100 Tensor Core במארז אחד. זה מגדיל את רוחב הפס בין GPU למעבד פי 7, מפחית באופן משמעותי את צריכת החשמל ומספק 600 GB של ארכיטקטורת GPU Hopper עבור מחשבי-על חדשים. ארכיטקטורת DGX GH200 מספקת פי 48 יותר רוחב פס NVLink מהדור הקודם.
Google Cloud צפוי לעשות זאת meta זה Microsoft יהיה בין הראשונים לקבל גישה ל-DGX GH200 ולחקור את יכולותיו ביצירת עומסי עבודה של AI. היצרן גם מתכוון לספק את עיצוב DGX GH200 כדוגמה לספקי שירותי ענן כדי שיוכלו להתאים אותו לתשתית שלהם.
"יצירת מודלים גנרטיביים מתקדמים דורשת גישות חדשניות לתשתית בינה מלאכותית", אמר סגן נשיא המחשוב ב- Google Cloud מארק לוהמאייר. "קנה המידה החדש של NVLink וזיכרון שבב העל של Grace Hopper מטפלים בצווארי בקבוק מרכזיים בבינה מלאכותית בקנה מידה גדול, ואנו מצפים לבחון את הפוטנציאל שלו עבור Google Cloud ויוזמות הבינה המלאכותית שלנו".
סגן נשיא תאגידי לתשתית Azure ב Microsoft גיריש בבלני ציין את הפוטנציאל של ה-DGX GH200 לעבודה עם מערכי נתונים של טרה-בייט, מה שיאפשר למפתחים לבצע מחקר בקנה מידה גדול יותר ובמהירות מואצת.
החברה גם יוצרת מחשב-על NVIDIA Helios מבוסס DGX GH200 עבור החוקרים וצוותי הפיתוח שלה. הוא יהיה מצויד בארבע מערכות DGX GH200, וכל אחת מהן תהיה מקושרת על ידי רשת Quantum-2 InfiniBand כדי להגדיל את תפוקת הנתונים לאימון דגמי AI גדולים. הליוס תכלול 1024 שבבי-על של גרייס הופר והיא צפויה להיות פעילה עד סוף השנה.
תוֹכנָה NVIDIA Base Command מספקת ניהול זרימת עבודה של בינה מלאכותית, ניהול אשכולות ברמה ארגונית, ספריות שמאיצות תשתיות מחשוב, אחסון ותשתיות רשת ותוכנת מערכת מותאמת לעומסי עבודה בינה מלאכותית. כלולה גם תוכנת AI Enterprise, המספקת למעלה מ-100 מסגרות, מודלים מאומנים מראש וכלי פיתוח כדי לפשט את הפיתוח והפריסה של AI ייצור, כולל AI יצירתי AI, ראייה ממוחשבת, AI דיבור ועוד הרבה יותר.
מחשבי על NVIDIA ה-DGX GH200 יהיה זמין עד סוף השנה.
קרא גם: