कंपनी की प्रेस विज्ञप्ति के अनुसार, एनवीडिया एच200, एचबीएम3ई की पेशकश करने वाला पहला जीपीयू है – एचपीसी वर्कलोड के लिए वैज्ञानिक कंप्यूटिंग को आगे बढ़ाते हुए जेनेरिक एआई और बड़े भाषा मॉडल के त्वरण को बढ़ावा देने के लिए तेज, बड़ी मेमोरी। एचबीएम3ई के साथ, एनवीडिया एच200 प्रदान करता है कंपनी ने बताया कि 4.8 टेराबाइट्स प्रति सेकंड पर 141 जीबी मेमोरी, अपने पूर्ववर्ती एनवीडिया ए100 की तुलना में लगभग दोगुनी क्षमता और 2.4 गुना अधिक बैंडविड्थ है।
चिप कब उपलब्ध करायी जायेगी?
एनवीडिया एच200 वैश्विक सिस्टम निर्माताओं और क्लाउड सेवा प्रदाताओं के लिए 2024 की दूसरी तिमाही से उपलब्ध होगा। अमेज़ॅन वेब सर्विसेज, गूगल क्लाउड, माइक्रोसॉफ्ट एज़्योर और ओरेकल क्लाउड इंफ्रास्ट्रक्चर एच200-आधारित इंस्टेंसेस को तैनात करने वाले पहले क्लाउड सेवा प्रदाताओं में से होंगे। अगले वर्ष।
एनवीडिया एनवीलिंक और एनवीस्विच हाई-स्पीड इंटरकनेक्ट द्वारा संचालित, एचजीएक्स एच200 विभिन्न एप्लिकेशन वर्कलोड पर उच्चतम प्रदर्शन प्रदान करता है, जिसमें एलएलएम प्रशिक्षण और 175 बिलियन पैरामीटर से परे सबसे बड़े मॉडल के लिए अनुमान शामिल है। एनवीडिया ने कहा कि आठ-तरफा एचजीएक्स एच200 जेनेरिक एआई और एचपीसी अनुप्रयोगों में उच्चतम प्रदर्शन के लिए एफपी8 डीप लर्निंग कंप्यूट के 32 से अधिक पेटाफ्लॉप और 1.1टीबी की कुल उच्च-बैंडविड्थ मेमोरी प्रदान करता है।
एनवीडिया की ग्राफिक्स प्रोसेसिंग इकाइयां (जीपीयू) जेनरेटिव एआई मॉडल के विकास और तैनाती में तेजी से महत्वपूर्ण भूमिका निभा रही हैं। जीपीयू को इन मॉडलों को प्रशिक्षित करने और चलाने के लिए आवश्यक बड़े पैमाने पर समानांतर गणनाओं को संभालने के लिए डिज़ाइन किया गया है, जो उन्हें छवि निर्माण, प्राकृतिक भाषा प्रसंस्करण जैसे कार्यों के लिए उपयुक्त बनाता है। कंपनी के जीपीयू कई परिमाणों तक जेनेरिक एआई मॉडल के प्रशिक्षण और संचालन में तेजी लाने में सक्षम हैं। यह उनके समानांतर प्रसंस्करण आर्किटेक्चर के कारण है, जो उन्हें एक साथ कई गणनाएं करने की अनुमति देता है।
