أعلنت شركة NVIDIA Mellanox 920-9B210-00FN-0D0: إعادة تعريف قاعدة شبكة الذكاء الاصطناعي فائقة النطاق مع 400 جيجابايت / ثانية NDR

تم الإعلان عن NVIDIA Mellanox 920-9B210-00FN-0D0: إعادة تعريف أساس شبكة الذكاء الاصطناعي فائقة النطاق بسرعة 400 جيجابت/ثانية NDR

مع توسع نماذج اللغات الكبيرة من مئات المليارات إلى تريليونات المعلمات، تظهر شبكات HDR التقليدية بسرعة 200 جيجابت/ثانية قيودها في سيناريوهات الاتصال الجماعي الكثيف مثل all-to-all، حيث ينخفض استخدام وحدة معالجة الرسومات غالبًا بسبب ازدحام الشبكة. كشفت NVIDIA رسميًا عن NVIDIA Mellanox 920-9B210-00FN-0D0، وهو مفتاح InfiniBand بسرعة 400 جيجابت/ثانية NDR مصمم لتوفير النطاق الترددي والكثافة والذكاء المضمن في الشبكة المطلوب لأكثر أعباء عمل الذكاء الاصطناعي والحوسبة عالية الأداء تطلبًا.

التحدي: عندما تصبح HDR عنق الزجاجة

بالنسبة للمؤسسات التي توسع مجموعات وحدات معالجة الرسومات الخاصة بها إلى ما بعد 2000 عقدة، تصبح قيود شبكات HDR بسرعة 200 جيجابت/ثانية واضحة بشكل متزايد. أثناء عمليات all-reduce و all-to-all - وهي أساسية للتدريب الموزع - يمكن أن يؤدي ازدحام الشبكة إلى تقليل استخدام وحدة معالجة الرسومات من 85٪ إلى أقل من 50٪، مما يهدر فعليًا ملايين الدولارات في استثمارات الحوسبة. يواجه مهندسو الشبكات تحديًا مزدوجًا يتمثل في توفير زمن انتقال حتمي أقل من ميكرو ثانية مع الحفاظ على أداء خالٍ من الفقد عبر آلاف نقاط النهاية.

يمثل 920-9B210-00FN-0D0 InfiniBand switch OPN (رقم جزء الطلب) هذه التحديات بشكل مباشر من خلال توفير أداء NDR بسرعة 400 جيجابت/ثانية لمنصة OSFP ذات 64 منفذًا، مما يوفر المساحة والذكاء اللازمين للقضاء على التوقفات التي تسببها الشبكة حتى في بيئات تدريب الذكاء الاصطناعي الأكثر تطلبًا.

الميزات التقنية الرئيسية

بنيت على نفس السيليكون مثل MQM9790-NS2F المعتمد على نطاق واسع، توفر منصة 920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDR مجموعة شاملة من الميزات المصممة لنشرات على نطاق exascale. وفقًا لـ 920-9B210-00FN-0D0 datasheet، يقدم المفتاح:

• 64 منفذًا بسرعة 400 جيجابت/ثانية NDR: يدعم كل منفذ OSFP اتجاهين بسرعة 400 جيجابت/ثانية مع تصحيح الأخطاء الأمامي (FEC)، مما يوفر سعة تبديل إجمالية تبلغ 51.2 تيرابايت/ثانية.
• زمن انتقال فائق الانخفاض: زمن انتقال قطع أقل من 100 نانو ثانية، كما هو موثق في 920-9B210-00FN-0D0 specifications، يضمن الحد الأدنى من الحمل الزائد لعمليات RDMA و MPI.
• SHARPv3 مدمج: يقوم بتفريغ العمليات الجماعية (all-reduce، all-to-all، broadcast) مباشرة على نسيج المفتاح، مما يقلل من زمن انتقال الاتصال بنسبة تصل إلى 40٪ للمهام واسعة النطاق.
• التوجيه التكيفي والتحكم في الازدحام: يعيد توجيه حركة المرور ديناميكيًا لتجنب النقاط الساخنة، مما يحافظ على أداء يمكن التنبؤ به حتى في ظل أنماط حركة المرور العدائية.
• قياسات متقدمة: توفر العدادات لكل تدفق ولكل منفذ، جنبًا إلى جنب مع مراقبة شغل المخزن المؤقت، رؤية عميقة للإدارة الاستباقية.

يمثل 920-9B210-00FN-0D0 compatible مجموعة واسعة من الكابلات OSFP المعتمدة من NVIDIA، والمحولات البصرية، وأدوات البرامج، مما يضمن التكامل السلس في بيئات HDR الحالية أو بيئات NDR الجديدة. بالنسبة للمؤسسات التي تخطط للبنية التحتية من الجيل التالي، يدعم المفتاح شبكات مختلطة HDR/NDR، مما يتيح ترقيات مرحلية دون تعطيل أعباء العمل الإنتاجية.

معالجة احتياجات النشر في العالم الحقيقي

بالنسبة لمهندسي الشبكات الذين يصممون مجموعات تدريب الذكاء الاصطناعي الجديدة أو يقومون بترقية شبكات HDR الحالية، يقدم حل 920-9B210-00FN-0D0 InfiniBand switch OPN solution العديد من المزايا الجذابة. تتيح كثافة 64 منفذًا للنشر في أعلى الرف بما يصل إلى 64 خادمًا مزدوج المنفذ لكل مفتاح، مما يقلل من عدد المفاتيح والكابلات المطلوبة مقارنة بالبدائل ذات 40 منفذًا. في طوبولوجيا leaf-spine، يترجم هذا إلى طبقات spine أقل، وزمن انتقال أقل، وتكلفة ملكية إجمالية أقل.

يرث المفتاح أيضًا إمكانيات الإدارة القوية لمجموعة InfiniBand من NVIDIA. مع مدير النسيج الموحد (UFM) من NVIDIA، يمكن للمسؤولين الحصول على رؤية عميقة لصحة النسيج، وأتمتة التزويد، واكتشاف الشذوذ بشكل استباقي قبل أن يؤثر على أعباء العمل الإنتاجية. تضمن وحدات إمداد الطاقة المزدوجة المتكررة ووحدات المروحة القابلة للتبديل السريع للمفتاح توفرًا بنسبة 99.999٪ للتطبيقات الحيوية.

عند تقييم 920-9B210-00FN-0D0 price وتكلفة الملكية الإجمالية، يقدم المفتاح اقتصاديات جذابة للنشر واسع النطاق. في حين أن التكلفة الأولية أعلى من بدائل HDR، فإن تكلفة المنفذ وتكلفة الشبكات لكل وحدة معالجة رسومات أقل بكثير عند استهلاكها عبر مجموعة كبيرة، مما يجعل NDR خيارًا فعالًا من حيث التكلفة بشكل متزايد لمشاريع exascale. يتوفر 920-9B210-00FN-0D0 for sale الآن من خلال شركاء قناة NVIDIA، مع بدء شحنات العملاء المبكرة بالفعل.

ملخص: أساس NDR للجيل التالي من الذكاء الاصطناعي

يمثل NVIDIA Mellanox 920-9B210-00FN-0D0 خطوة كبيرة إلى الأمام في الشبكات عالية الأداء، حيث يوفر النطاق الترددي والكثافة والذكاء المطلوبين للجيل القادم من مجموعات الذكاء الاصطناعي والحوسبة عالية الأداء. من خلال الجمع بين سرعة NDR بسرعة 400 جيجابت/ثانية وكثافة OSFP ذات 64 منفذًا والحوسبة المضمنة في الشبكة SHARPv3، يمكّن هذا المفتاح المهندسين من بناء شبكات قابلة للتطوير وحتمية يمكنها مواكبة أعباء العمل الأكثر تطلبًا ذات التريليون معلمة.

بالنسبة للمؤسسات التي تخطط للبنية التحتية من الجيل التالي، يوفر 920-9B210-00FN-0D0 مسارًا واضحًا وعالي الأداء إلى الأمام - سواء كان ذلك كنشر جديد أو كترقية استراتيجية من شبكات HDR الحالية. بفضل مجموعة ميزاته القوية، وإدارته على مستوى المؤسسات، وتوافقه السلس مع نظام NVIDIA البيئي الأوسع، من المتوقع أن يصبح هذا المفتاح حجر الزاوية في شبكات exascale.