ميلانوكس (NVIDIA Mellanox) 920-9B210-00FN-0D0 حل تقني لتحويل InfiniBand

ميلانوكس (NVIDIA Mellanox) 920-9B210-00FN-0D0 حل فني لتحويل InfiniBand.

1خلفية المشروع وتحليل المتطلبات

تقتصر أطر تدريب الذكاء الاصطناعي الحديث وتطبيقات HPC بشكل متزايد على أداء اتصال الشبكة بدلاً من كثافة الحوسبة وحدها.أما الوظائف التدريبية الموزعة، ولا سيما تلك التي تستخدم نماذج لغوية كبيرة، فهي تولد، ويتزامن جميع أنماط الحركة الحركة والجميع إلى جميع أنماط حركة المرور التي تغلب على أنسجة Ethernet التقليدية. تتضمن المتطلبات الرئيسية التي تم تحديدها عبر عمليات نشر المؤسسات:تأخير التبديل تحت الميكرو ثانية لتقليل تكاليف الاتصال، عدم حجب معدل النفاذ على نطاق واسع للقضاء على الإفراط في الاشتراك، والسيطرة على الازدحام المتقدمة للتعامل مع انفجارات التسجيل،والتكامل السلس مع RDMA عبر Ethernet المتقارب (RoCE) أو النظم الإيكولوجية الأصلية InfiniBandبالإضافة إلى ذلك، تتطلب فرق العمليات قياسات بعيدة المدى للكشف عن الأخطاء بشكل استباقي وتبسيط الإدارة في مئات الموانئ.

2تصميم بنية الشبكة/النظام بشكل عام

تركز الهندسة المعمارية المقترحة على طوبولوجيا عمود العمود الفقري ذات المستويين ، والتي تم بناؤها خصيصًا لحملات العمل التي تركز على GPU. في طبقة الورق ، يضم كل رفميلانوكس (NVIDIA Mellanox) 920-9B210-00FN-0D0كمفتاح ToR الأساسي (Top-of-Rack) ، والذي يربط ما يصل إلى 40 عقدة حسابية عبر روابط NDR 400Gb / s. تتكون الطبقة العمود الفقري من طبقة ثانية من920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDRالمفاتيح، التي توفر اتصالًا كاملًا بشبكة مع 4: 1 الإفراط في الاشتراك أو عدم حجب بالكامل عندما يتم نشرها مع منافذ العمود الفقري الكافية.هذا التصميم يدعم ما يصل إلى 512 عقدة GPU في نطاق نسيج واحد، مع خيار التوسع الأفقي عبر شبكات فرعية متعددة مترابطة عبر UFM (Unified Fabric Manager) من NVIDIA.

تستفيد الهندسة المعمارية من محرك الحوسبة في الشبكة SHARPv3 من NVIDIA (بروتوكول التجميع الهرمي القابل للتوسع والحد) ، حيث يتم تحميل العمليات الجماعية مباشرة على ASIC المفتاح.هذا يقلل من حجم البيانات التي تعبر حافلات ذاكرة وحدة المعالجة المركزية / GPU ويقلل من تأخر التشغيل الجماعي بنسبة تصل إلى 40٪ مقارنة بالنهج القائم على البرمجيات.920-9B210-00FN-0D0 InfiniBand switch OPNكما يدعم التوجيه التكيفي ، الذي يختار ديناميكياً المسار الأقل ازدحاماً لكل حزمة ، مما يضمن الاستخدام الأمثل لعرض النطاق الترددي حتى تحت أحمال حركة المرور غير المتماثلة.

3الدور والخصائص الرئيسية لـ 920-9B210-00FN-0D0 في الحل

الـNVIDIA Mellanox 920-9B210-00FN-0D0بمثابة كتلة بناء أساسية لنسيج الترابط بأكمله. وتشمل أدواره الأساسية:

• تجميع الكثافة العالية:مع ما يصل إلى 64 منفذًا غير مسدود 400Gb / s في عامل شكل 2U ، يوفر المفتاح سعة تبادل إجمالية تبلغ 25.6 Tb / s. يقلل هذا الكثافة من عدد المفاتيح المطلوبة لكل رف ،تبسيط الكابلات وخفض استهلاك الطاقة لكل ميناء.
• التبديل منخفض جداًيحافظ التبديل على تأخير أقل من 600ns لأي حجم حزمة ، وهو أمر بالغ الأهمية للتطبيقات الحساسة لتأخير الذيل مثل الاستدلال عبر الإنترنت والحوسبة العالية المالية.
• الحوسبة داخل الشبكة:يتيح تكامل SHARPv3 تسريع الأجهزة للعمليات الجماعية، مما يقلل من عدد التنقلات عبر النسيج ويحسن من أوقات الانتهاء من العمل بشكل عام بنسبة تصل إلى 30٪.
• تقنيات "التليمتري" المتقدمة ومراقبة الازدحاميوفر التبديل مرئية لكل تدفق ، ويميز التدفقات المزدحمة للتعديلات من جانب المضيف وتمكين الإنذار المبكر بالنقاط الساخنة الناشئة.

وفقًاورقة بيانات 920-9B210-00FN-0D0، والتحويل يدعم كل من النحاس و QSFP-DD البصرية، مما يجعله920-9B210-00FN-0D0 متوافقةمع البنية التحتية القائمة للكابلات في معظم مراكز البيانات. تدفق الهواء الأمامي إلى الخلفي ومصادر الطاقة الزائدة تضمن توافرًا مرتفعًا في بيئات المؤسسات.

4توصيات النشر والتوسيع (التوصيات النموذجية)

لتنفيذ حقل أخضر من 128 عقدة معالجة معالجة معالجة معالجة، نوصي ببنية من مستويين مع 4 مفاتيح ورقة و 2 مفاتيح العمود الفقري،كل العمود الفقري يتصل بكل ورقة عبر 4x400Gb/s uplinksنسبة الإفراط في الاشتراك: 1، وهو مقبول لمعظم أحمال العمل التدريبية.يمكن تحقيق تصميم غير مسدود عن طريق زيادة عدد العمود الفقري إلى 4، مما يؤدي إلى قدرة إجمالية للاتصال العلوي تساوي منافذ الاتصال الهبوطي.

يتطلب التوسع إلى ما وراء 512 عقدة تقسيم النسيج إلى شبكات فرعية متعددة ، يتم إدارة كل منها من قبل UFM كجزيرة نسيج متميزة.يمكن توجيه الاتصالات بين الشبكات الفرعية من خلال بوابات NVIDIA Quantum-2 أو عن طريق التوجيه القائم على المضيف، على الرغم من أن النهج الموصى به لحملات العمل الحساسة للأداء هو الحفاظ على النسيج داخل شبكة فرعية واحدة كلما كان ذلك ممكنا.مواصفات 920-9B210-00FN-0D0دعم هذه الطوبولوجيات على نطاق واسع ، مع التحكم في تدفق المدمج والتحكم في التدفق القائم على الأولوية (PFC) لمنع انخفاض الحزم أثناء حوادث إعادة توجيه المسار.

عند التخطيط للكابلات المادية ، فكر في استخدام كابلات MPO إلى QSFP-DD لترابطات الأوراق العمودية لتقليل كثافة الكابلات ، أو الكابلات البصرية النشطة (AOCs) لمسافات تتجاوز 3 أمتار.920-9B210-00FN-0D0 للبيععادة ما يتضمن مجموعة ملحقات شاملة، ولكننا نوصي بتحقق من توافق جهاز الاستقبال من طرف ثالث من خلال مصفوفة التشغيل المشترك للمورد لتجنب مشاكل تدريب الرابط.

5العمليات، المراقبة وتشخيص الأخطاء

التميز التشغيلي هو حجر الزاوية920-9B210-00FN-0D0 حل InfiniBand switch OPNيتكامل المفتاح بسلاسة مع منصة NVIDIA UFM التي توفر:

• مراقبة صحة الأقمشة في الوقت الحقيقي:لوحات التحكم لحالة الرابط، ودرجة الحرارة، واستهلاك الطاقة، وعدادات أخطاء كل منفذ (CRC، الرمز، وأخطاء التوجيه).
• تحليل الفشل التنبؤي:نماذج التعلم الآلي على UFM تحدد بشكل استباقي البصريات الفاشلة أو الروابط المتدهورة قبل أن تسبب فشل في العمل.
• إصلاح الآلي للخطر:يوصي النظام بالإجراءات التصحيحية، مثل إعادة توجيه حركة المرور أو عزل الروابط المعطلة، مما يقلل من متوسط الوقت إلى الحل (MTTR) بشكل كبير.

للتشخيص المتقدم ، يدعم المفتاح sFlow ومرايا الموانئ ، مما يتيح فحص الحزم العميقة لعملية تحديد الأخطاء على مستوى البروتوكول. يمكن للفرق أيضًا الوصول إلى تفاصيلمواصفات 920-9B210-00FN-0D0لأعمدة العازل والإعدادات الموصى بها ، وخاصة لتعديل حركة RoCEv2 إذا تم استخدامها في بيئات InfiniBand / Ethernet المختلطة.يجب أن يركز ضبط الأداء على عتبات التوجيه التكيفي وفترات تجميع SHARPv3، والتي يمكن تعديلها لكل مرحلة من أحمال العمل، على سبيل المثال، التدريب مقابل الاستدلال.

الصيانة الروتينية تشمل تحديثات البرمجيات الثابتة التي يتم تنفيذها مع الحد الأدنى من الاضطرابات باستخدام قدرة UFM على الترقية المستمرة،والتنظيف الدوري للموصلات البصرية للحفاظ على سلامة الإشارةتتيح وحدات الطاقة الزائدة من المفتاح ووحدات المروحة استبدال المفاتيح الساخنة أثناء التشغيل.

6ملخص وتقييم القيمة

الـميلانوكس (NVIDIA Mellanox) 920-9B210-00FN-0D0يقدم حلًا شاملًا للمنظمات التي تسعى إلى إطلاق الأداء الكامل للاستثمارات في الذكاء الاصطناعي و HPC. من خلال الجمع بين سرعات NDR 400Gb / s ، الحوسبة في الشبكة ،وإدارة الازدحام الذكية في نظام واحد، منصة قابلة للتطوير، فإنه يعالج التحديات الأكثر إلحاحا للاتصال التي تواجه مراكز البيانات اليوم.نسيج للحوسبة الفائقة، مع أدوات تشغيلية تبسط الإدارة وتخفض التكلفة الإجمالية للملكية.

عند تقييم920-9B210-00FN-0D0 السعر، النظر في القيمة على المدى الطويل: انخفاض أوقات الانتهاء من العمل يترجم مباشرة إلى انخفاض تكاليف السحابة أو أسرع وقت إلى البصيرة لحملات العمل في الموقع.920-9B210-00FN-0D0 حل InfiniBand switch OPNمدعومة بشبكة دعم NVIDIA العالمية ونظام الشركاء الواسع النطاق، مما يضمن أن الشركات يمكن أن تنشر بثقة، وتوسيع نطاقها، وتحسين البنية التحتية الخاصة بها لسنوات قادمة.

للحصول على التخطيط التفصيلي، راجع المسؤولورقة بيانات 920-9B210-00FN-0D0ومواصفات 920-9B210-00FN-0D0الوثيقة، التي تشمل الرسومات الميكانيكية، والملفات الحرارية، ومعايير الأداء.