ميلانوكس (NVIDIA Mellanox) 920-9B210-00FN-0D0 حل تقني لتحويل InfiniBand

توفر هذه الوثيقة التقنية للمهندسين المعماريين ومهندسي ما قبل البيع وفرق العمليات تصميمًا مرجعيًا شاملاً يتمحور حولميلانوكس (نفيديا ميلانوكس) 920-9B210-00FN-0D0تبديل إنفينيباند. يعالج الحل التحديات الأكثر إلحاحًا في بيئات الذكاء الاصطناعي والحوسبة عالية الأداء الحديثة: زمن الوصول الناجم عن الشبكة، والازدحام، وقيود قابلية التوسع لأنسجة Ethernet التقليدية.

1. تحليل خلفية المشروع ومتطلباته

تواجه المنظمات التي تنشر مجموعات GPU واسعة النطاق للتدريب على نماذج اللغة الكبيرة، أو محاكاة الديناميكيات الجزيئية، أو التنبؤ بالطقس، عنق الزجاجة المشترك: نسيج الترابط. لا يمكن لشبكة Ethernet التقليدية التي تعاني من فقدان البيانات أن تضمن زمن الوصول الحتمي الذي يقل عن الميكروثانية المطلوب لعمليات التخفيض الشامل والشاملة والشاملة. تتضمن المتطلبات الأساسية المحددة من عمليات النشر في العالم الحقيقي ما يلي:

• زمن الوصول من طرف إلى طرف أقل من 1 ميكرو ثانية لأحمال عمل MPI الحساسة لزمن الاستجابة
• بدون فقدان، بمعدل خط يبلغ 400 جيجابت/ثانية لكل منفذ بدون حظر رأس الخط
• الحوسبة داخل الشبكة لتفريغ العمليات الجماعية من وحدات المعالجة المركزية المضيفة
• قابلية التوسع السلس من 8 إلى 2000+ عقدة GPU دون إعادة هيكلة النسيج

دفعت هذه المتطلبات فريق التصميم لدينا إلى اختيار920-9B210-00FN-0D0باعتبارها لبنة البناء الأساسية للجيل القادم من النسيج منخفض الكمون.

2. التصميم العام لبنية الشبكة/النظام

تتبنى البنية المقترحة طوبولوجيا العمود الفقري للأوراق ذات المستويين المُحسّنة لعرض النطاق الترددي الكامل غير المحظور. تتصل جميع عقد الحوسبة (خوادم وحدة معالجة الرسومات، وأجهزة التخزين، ومضيفي الإدارة) بمحولات الأوراق، بينما توفر محولات العمود الفقري اتصالاً شاملاً بين الأوراق. يعمل هذا التصميم على التخلص من الاشتراك الزائد ويضمن زمن وصول يمكن التنبؤ به بغض النظر عن أنماط الاتصال.

بالنسبة لمجموعة 512-GPU المرجعية، قمنا بنشر 16 مفتاحًا ورقيًا و8 مفاتيح عمود فقري، كل منها هونفيديا ميلانوكس 920-9B210-00FN-0D0. تعمل وصلات العمود الفقري للورقة بسرعة NDR تبلغ 400 جيجابت/ثانية، مما يؤدي إلى عرض نطاق ترددي إجمالي للنسيج يتجاوز 200 تيرابت/ثانية. يتم تمكين التوجيه التكيفي (AR) وخوارزميات التحكم في الازدحام عبر جميع المنافذ لموازنة حركة المرور ديناميكيًا وتجنب النقاط الفعالة أثناء أحداث البث.

3. دور 920-9B210-00FN-0D0 وأدوات التفريق الرئيسية

ال920-9B210-00FN-0D0 MQM9790-NS2F 400 جيجابايت/ثانية NDRيعمل المفتاح بمثابة ورقة وعمود فقري، مما يوفر أداءً ثابتًا عبر القماش بأكمله. وتشمل مزاياها المعمارية الهامة ما يلي:

سيجد المهندسون الذين يقومون بتقييم المشتريات920-9B210-00FN-0D0 مفتاح إنفينيباند OPN(طلب رقم الجزء) يبسط الاقتباس والتسليم. للتحقق من صحة التشغيل البيني،920-9B210-00FN-0D0 ورقة البياناتومواصفات 920-9B210-00FN-0D0توفير مصفوفات توافق تفصيلية مع وحدات معالجة البيانات ConnectX-7 وBlueField-3 وأجهزة تخزين الطرف الثالث.

4. توصيات النشر والقياس

نوصي باتباع نهج النشر المرحلي لتقليل انقطاع الإنتاج:

• المرحلة الأولى (التجريبية):8 إلى 16 عقدة GPU + 2920-9B210-00FN-0D0المفاتيح (طوبولوجيا أحادية السكة). التحقق من صحة أداء RDMA وجمع المقاييس الأساسية.
• المرحلة الثانية (الإنتاج الجزئي):يمكنك التوسع إلى 128 وحدة معالجة رسوميات باستخدام 4 أوراق + 2 عمود فقري. تمكين التوجيه التكيفي وSHARPv3.
• المرحلة الثالثة (الإنتاج الكامل):قم بنشر 16 ورقة + 8 أشواك لأكثر من 512 وحدة معالجة رسوميات. تقديم التوجيه متعدد المسارات وتقسيم النسيج باستخدام NVIDIA UFM.

بالنسبة للكابلات، استخدم الكابلات الضوئية النشطة (AOC) أو الكابلات النحاسية النشطة للتشغيل لمسافة أقل من 5 أمتار؛ للحصول على وصلات أطول أو وصلات ذات حامل متقاطع، قم بنشر أجهزة إرسال واستقبال NDR بسرعة 400 جيجابت/ثانية مع ألياف أحادية الوضع. جميع المنافذ على920-9B210-00FN-0D0 متوافقيدعم النظام البيئي التفاوض التلقائي بين أوضاع التشغيل بسرعة 400 جيجابت/ثانية و200 جيجابت/ثانية.

5. العمليات والمراقبة واستكشاف الأخطاء وإصلاحها

يتطلب الاستعداد للإنتاج إمكانية ملاحظة قوية. نحن ندمج920-9B210-00FN-0D0 حل تبديل InfiniBand OPNمع NVIDIA Unified Fabric Manager (UFM). تشمل القدرات التشغيلية الرئيسية ما يلي:

• القياس عن بعد في الوقت الحقيقي:يتم تصدير عدادات كل منفذ، والرسوم البيانية لزمن الوصول، وإشغال المخزن المؤقت، وإشعارات الازدحام عبر Prometheus/Graphite.
• تجاوز الفشل التلقائي:إعادة توجيه الرابط الفرعي الثاني عند فشل الكابل أو جهاز الإرسال والاستقبال.
• تشخيص الأداء:عدادات أداء SHARP المدمجة وأدوات تحليل النسيج لتحديد العقد بطيئة التصريف.

بالنسبة للمشاكل الشائعة، راجع920-9B210-00FN-0D0 ورقة البياناتلرموز الخطأ والإجراءات التصحيحية المقترحة. عند التخطيط لإضافات القدرات، استشر920-9B210-00FN-0D0 السعرنماذج للمقايضات بين توسع الأوراق فقط وتوسع العمود الفقري بالكامل.

6. ملخص وتقييم القيمة

النفيديا ميلانوكس 920-9B210-00FN-0D0يوفر الحل المستند إلى زمن الوصول المحدد دون الميكروثانية، وإنتاجية دون فقدان 400 جيجابت/ثانية، وتسريع الحوسبة داخل الشبكة لمجموعات RDMA/HPC/AI. بالمقارنة مع تصميمات Ethernet البديلة بسرعة 400 جيجابت، يحقق نسيج InfiniBand هذا زمن وصول أقل بمقدار 2.5 مرة ويزيل ما يصل إلى 90% من حركة المرور الجماعية عبر SHARPv3. بالنسبة للمنظمات التي تقوم بتقييم920-9B210-00FN-0D0 للبيعالخيارات، يتم عادةً استرداد التكلفة الإجمالية للملكية في غضون 6 إلى 12 شهرًا من خلال زيادة استخدام وحدة معالجة الرسومات وتقليل أوقات إكمال المهمة. نوصي بالنشر التجريبي الفوري لأي بنية أساسية جديدة أو قابلة للتوسيع للذكاء الاصطناعي.