NVIDIA Mellanox 920-9B110-00FH-0D0 المرجعية التقنية: اتصال متبادل ذو تأخير منخفض محسّن لـ RDMA / HPC / AI

الدليل المرجعي التقني لـ NVIDIA Mellanox 920-9B110-00FH-0D0: شبكة ربط محسّنة بزمن استجابة منخفض لتجمعات RDMA/HPC/AI بسرعة 200 جيجابت/ثانية HDR

1. خلفية المشروع وتحليل المتطلبات

مع استمرار تزايد حجم تجمعات الحوسبة عالية الأداء (HPC) والذكاء الاصطناعي (AI)، تتطلب أعباء العمل التدريبية الموزعة والمحاكاة العلمية نطاقات تردد وزمن استجابة وقابلية توسع للشبكة متزايدة الصرامة. ومع ذلك، لا تتطلب كل تجمعات البنية التحتية لـ 400 جيجابت/ثانية NDR - حيث تم توحيد عدد كبير من بيئات الإنتاج بالفعل على 200 جيجابت/ثانية HDR وتسعى لتحسين الأداء ضمن ميزانية محكومة. تشمل المتطلبات النموذجية ما يلي:

• زمن استجابة حتمي منخفض:يجب أن تحافظ اتصالات MPI الجماعية على تأخير من منفذ إلى منفذ أقل من ميكرو ثانية، مما يمنع تأخير الذيل من التأثير على تقارب التدريب.
• شبكة خالية من الفقد:صفر إسقاط للحزم تحت الازدحام لضمان كفاءة RDMA وتجنب انهيار الأداء.
• تفريغ الحوسبة داخل الشبكة:تفريغ العمليات الجماعية مثل All-Reduce إلى شبكة الربط لتحرير موارد وحدة المعالجة المركزية/وحدة معالجة الرسومات المضيفة.
• قابلية توسع سلسة:دعم التوسع غير المعيق من مئات إلى آلاف العقد، مع التوافق مع كابلات HDR وأجهزة الإرسال والاستقبال الضوئية الحالية.

لمعالجة هذه المتطلبات، يعتمد هذا الحل على NVIDIA Mellanox 920-9B110-00FH-0D0 كوحدة بناء أساسية - مفتاح InfiniBand بسرعة 200 جيجابت/ثانية HDR يوازن بين الأداء والكثافة وفعالية التكلفة للنشر متوسط إلى كبير النطاق.

2. تصميم بنية الشبكة الشاملة

يستخدم الحل المقترح بنية طبقتين من أوراق الشجر (leaf) والعمود الفقري (spine)، والتي توفر شبكة قابلة للتوسع وغير معيقة بزمن استجابة يمكن التنبؤ به وتوصيلات مبسطة. في طبقة الأوراق، يتم تجهيز كل رف حوسبة بـ 920-9B110-00FH-0D0 InfiniBand switch OPN (رقم جزء الطلب)، مما يوفر 40 منفذًا لاتصال 200 جيجابت/ثانية HDR بخوادم GPU عبر كابلات نحاسية مباشرة (DAC) أو كابلات بصرية نشطة (AOC) من OSFP إلى OSFP. في طبقة العمود الفقري، تقوم طبقة ثانية من مفاتيح MQM8790-HS2F - وهي منصة السيليكون التي تقوم عليها 920-9B110-00FH-0D0 MQM8790-HS2F 200Gb/s HDR- بربط جميع مفاتيح الأوراق، مما ينشئ شبكة شجرة دهنية ذات عرض نطاق ترددي كامل الانقسام.

بالنسبة للتجمعات الأكبر التي تتجاوز 1500 عقدة، يمكن تنفيذ بنية Clos مطوية بثلاث طبقات، مع استخدام 920-9B110-00FH-0D0 كأوراق وأعمدة فقارية للحفاظ على أداء متسق عبر جميع المستويات. يلخص الجدول التالي معلمات التوسع الرئيسية لشبكة HDR ذات طبقتين مبنية حول هذا المفتاح:

3. دور وميزات رئيسية لـ NVIDIA Mellanox 920-9B110-00FH-0D0

ضمن هذه البنية، يعمل NVIDIA Mellanox 920-9B110-00FH-0D0 كعنصر تبديل أساسي، مما يوفر العديد من القدرات الحيوية:

• 40 منفذًا بسرعة 200 جيجابت/ثانية HDR:يدعم كل منفذ OSFP سرعة 200 جيجابت/ثانية ثنائية الاتجاه مع تصحيح الأخطاء الأمامي (FEC) لاتصال موثوق به بمدى ممتد.
• بروتوكول التجميع والاختزال الهرمي القابل للتوسع (SHARPv2) المدمج:يقوم بتفريغ عمليات الاتصال الجماعي، مما يقلل من زمن استجابة MPI All-Reduce بنسبة تصل إلى 30% في أعباء عمل HPC النموذجية.
• التوجيه التكيفي والتحكم في الازدحام:يعيد توجيه حركة المرور ديناميكيًا لتجنب النقاط الساخنة، مما يضمن أداءً يمكن التنبؤ به تحت أنماط حركة المرور العدائية.
• قياسات متقدمة:عدادات لكل تدفق ولكل منفذ، بالإضافة إلى مراقبة شغل المخزن المؤقت، توفر رؤية عميقة لصحة الشبكة.

وفقًا لـ 920-9B110-00FH-0D0 datasheet، يوفر المفتاح زمن استجابة أقل من 200 نانو ثانية ويحتوي على قدرة تبديل مجمعة تصل إلى 8.0 تيرابايت/ثانية. تسلط 920-9B110-00FH-0D0 specifications الضوء أيضًا على وحدات إمداد طاقة مزدوجة احتياطية ووحدات مروحة قابلة للتبديل السريع، مما يضمن توفرًا بنسبة 99.999% لأعباء العمل الحيوية.

4. توصيات النشر وقابلية التوسع

بالنسبة للمؤسسات التي تخطط لاعتماد 920-9B110-00FH-0D0 InfiniBand switch OPN solution، يوصى بإرشادات النشر التالية:

• استراتيجية الكابلات:استخدم كابلات DAC من OSFP إلى OSFP لتوصيلات داخل الرف (حتى 3 أمتار) وكابلات AOC أو أجهزة الإرسال والاستقبال الضوئية للروابط بين الرفوف وبين الأوراق والعمود الفقري (حتى 100 متر). تحقق من أن جميع الكابلات 920-9B110-00FH-0D0 compatible وفقًا لمصفوفة توافق NVIDIA.
• التكرار:انشر وحدات إمداد طاقة مزدوجة متصلة بوحدات توزيع طاقة منفصلة. استخدم مفتاحين عموديين فقريين على الأقل لكل ورقة للقضاء على نقاط الفشل الفردية.
• إدارة البرامج الثابتة:تأكد من أن جميع المفاتيح تعمل بنفس إصدارات البرامج الثابتة من NVIDIA. استخدم ميزة الترقية التلقائية للبرامج الثابتة في UFM للتحديثات المتدرجة دون توقف.
• مسار قابلية التوسع:بالنسبة للتجمعات التي تتجاوز 1600 عقدة، انتقل إلى بنية Clos مطوية بثلاث طبقات أو استفد من Dragonfly+ مع التوجيه التكيفي. يدعم 920-9B110-00FH-0D0 ما يصل إلى 64 مفتاحًا في شبكة واحدة تحت مدير شبكة فرعية واحد.

عند حساب التكلفة الإجمالية للملكية، ضع في اعتبارك العدد المنخفض من طبقات المفاتيح والتوصيلات المبسطة مقارنة بالبدائل ذات الجذر المنخفض. بينما 920-9B110-00FH-0D0 price لكل وحدة أعلى من مفاتيح EDR (100 جيجابت/ثانية)، فإن التكلفة لكل منفذ أقل بكثير من NDR، مما يجعلها خيارًا مثاليًا لعمليات نشر HDR الواعية بالتكلفة.

5. العمليات والمراقبة واستكشاف الأخطاء وإصلاحها

تتطلب الإدارة الفعالة لشبكة HDR إطارًا شاملاً للمراقبة واستكشاف الأخطاء وإصلاحها. يوفر مدير الشبكة الموحد (UFM) من NVIDIA لوحة تحكم واحدة للشبكة بأكملها المستندة إلى NVIDIA Mellanox 920-9B110-00FH-0D0، مما يوفر:

• تصور البنية:الاكتشاف التلقائي والتمثيل الرسومي لجميع المفاتيح والروابط ونقاط النهاية.
• لوحات معلومات الأداء:عرض في الوقت الفعلي لاستخدام المنافذ ومعدلات الأخطاء ومؤشرات الازدحام.
• تنبيه استباقي:إنذارات قائمة على العتبة لتدهور الروابط وشذوذات درجة الحرارة وفشل وحدات إمداد الطاقة.
• عزل الأعطال:مسارات استكشاف الأخطاء وإصلاحها الموجهة التي تحدد الكابلات أو أجهزة الإرسال والاستقبال أو منافذ المفاتيح المعيبة.

للمساعدة في استكشاف الأخطاء وإصلاحها المتقدم، استفد من أدوات التشخيص المدمجة في المفتاح، بما في ذلك اختبارات الحلقة الخلفية وتحليل معدل خطأ البت (BER)، للتحقق من سلامة الارتباط قبل نشر أعباء عمل الإنتاج. تشمل المشكلات الشائعة التي تمت مواجهتها في عمليات النشر المبكرة التوجيه غير الأمثل الناجم عن سرعات الارتباط غير المتساوية أو أنواع الكابلات غير المتطابقة. يؤدي تمكين التوجيه التكيفي والتحقق من أن جميع الروابط تعمل بسرعة 200 جيجابت/ثانية (مع تمكين FEC) إلى حل غالبية شذوذات الأداء. يدعم 920-9B110-00FH-0D0 InfiniBand switch OPN أيضًا تكوينات مدير شبكة فرعية احتياطية، مما يضمن حدوث إعادة تكوين للشبكة دون تدخل يدوي في حالة فشل عقدة الإدارة.

6. الملخص وتقييم القيمة

يقدم 920-9B110-00FH-0D0 عرض قيمة مقنع للمؤسسات التي تبني أو توسع تجمعات HPC والذكاء الاصطناعي المستندة إلى HDR. يوفر 40 منفذًا بسرعة 200 جيجابت/ثانية HDR مع زمن استجابة أقل من 200 نانو ثانية، وتفريغ SHARPv2، وإدارة على مستوى المؤسسات - كل ذلك في منصة 1U فعالة من حيث التكلفة. تشمل نقاط القيمة الرئيسية:

• الأداء:تقليل أوقات إكمال المهام بنسبة تصل إلى 35% لأعباء العمل كثيفة الاتصال من خلال تفريغ SHARPv2 والتوجيه التكيفي.
• كفاءة التكلفة:تكلفة ملكية أقل مقارنة ببدائل NDR، مع تحسين التكلفة لكل منفذ لنشرات HDR.
• بساطة التشغيل:تكامل عميق مع UFM للإدارة الموحدة والمراقبة الاستباقية والفشل التلقائي.
• حماية الاستثمار:توافق كامل مع كابلات HDR وأجهزة الإرسال والاستقبال وحزم البرامج الحالية، مما يتيح الترقيات المرحلية دون تعطيل الإنتاج.

بالنسبة للمؤسسات التي تقيّم 920-9B110-00FH-0D0 for sale من خلال شركاء NVIDIA، نوصي بمراجعة 920-9B110-00FH-0D0 datasheet التفصيلية والتواصل مع مهندس حلول معتمد للتحقق من صحة التصميم لمتطلبات عبء العمل والنطاق الخاصة بك. NVIDIA Mellanox 920-9B110-00FH-0D0 جاهز للإنتاج اليوم، ويقدم أساسًا قويًا وعالي الأداء للجيل القادم من ابتكارات HPC والذكاء الاصطناعي.