مفتاح InfiniBand من NVIDIA Mellanox MQM9790-NS2F عمليًا | تحسين الاتصال بزمن انتقال منخفض لـ RDMA و HPC

NVIDIA Mellanox MQM9790-NS2F InfiniBand Switch في الممارسة العملية｜تحسين الربط البيني بزمن انتقال منخفض لمجموعات RDMA وHPC والذكاء الاصطناعي

في تدريب الذكاء الاصطناعي الحديث، ومحاكاة الحوسبة عالية الأداء (HPC)، وبيئات التخزين الموزعة، فإن عنق الزجاجة الحقيقي نادرًا ما يكون قوة الحوسبة الخام - بل هو كفاءة الربط البيني من عقدة إلى أخرى. تم تصميم NVIDIA Mellanox MQM9790-NS2F، وهو مفتاح InfiniBand بسرعة 400 جيجابت/ثانية NDR، لمعالجة هذه الطبقة من المكدس بالضبط. يستعرض هذا المقال سيناريو نشر تمثيلي لإظهار كيف يحسن MQM9790-NS2F أداء مجموعات RDMA وHPC والذكاء الاصطناعي من خلال تصميم شبكة بزمن انتقال منخفض.

الخلفية والتحديات

قد تتكون مجموعة الذكاء الاصطناعي النموذجية للبحث أو المؤسسات من مئات خوادم وحدات معالجة الرسومات، ونظام ملفات متوازي، وجدول مهام يوزع أعباء عمل MPI وNCCL. مع تقدم جيل وحدات معالجة الرسومات، يمكن لكل عقدة توليد حركة مرور شرقية-غربية أكثر بكثير مما يمكن لشبكة HDR بسرعة 200 جيجابت/ثانية استيعابها بشكل مريح. غالبًا ما تبلغ الفرق عن ثلاث نقاط ألم: زيادة زمن الانتقال الذيل أثناء العمليات الجماعية، وانتشار الازدحام عبر طبقات الشبكة، وصعوبة توسيع عدد المنافذ دون إضافة قفزات.

بالنسبة لمهندسي الشبكات، لا يكمن التحدي في مجرد ترقية سرعة الارتباط. بل هو الحفاظ على نقل حتمي وغير فاقد مع الحفاظ على الشبكة مسطحة بما يكفي لتجنب زمن انتقال غير ضروري. هذا هو المكان الذي يصبح فيه تقييم مواصفات MQM9790-NS2F مقابل ملفات تعريف أعباء العمل الفعلية أمرًا ضروريًا.

الحل ونهج النشر

في هذا السيناريو، تم ترحيل المجموعة إلى شبكة spine-leaf بسرعة 400 جيجابت/ثانية NDR مبنية حول مفتاح InfiniBand MQM9790-NS2F. باعتباره منصة MQM9790-NS2F بسرعة 400 جيجابت/ثانية NDR ذات 64 منفذًا OSFP، فإنه يوفر كثافة عالية في مفتاح واحد، مما يسمح للتصميم بتقليل طبقات الشبكة مع الحفاظ على عرض النطاق الترددي غير الحاجب. اتبع النشر نهجًا منظمًا:

• طبقة Leaf: تتصل مفاتيح MQM9790-NS2F بعقد وحدات معالجة الرسومات وأهداف التخزين عبر روابط NDR بسرعة 400 جيجابت/ثانية
• طبقة Spine: توفر وحدات MQM9790-NS2F إضافية اتصالًا بين طبقات Leaf وتنوعًا في المسار
• تسريع العمليات الجماعية: تقوم NVIDIA SHARPv3 بتفريغ عمليات MPI وNCCL إلى الشبكة
• التحكم في الازدحام: التوجيه التكيفي وجودة الخدمة المتقدمة تحمي من الازدحام ونقاط الاتصال الساخنة
• الإدارة: أدوات InfiniBand القياسية والقياس عن بعد لمراقبة صحة الشبكة

نظرًا لأن مفتاح InfiniBand MQM9790-NS2F جزء من عائلة Quantum-2، فإنه يعمل بشكل متبادل مع ممارسات إدارة InfiniBand الحالية وأنظمة المحولات. يجب على الفرق التي تقيم الأجهزة المتوافقة مع MQM9790-NS2F التحقق من أن محولات القناة المضيفة، وكابلات OSFP، ومستويات البرامج الثابتة تتماشى مع متطلبات NDR. عادةً ما يتم التخطيط لحل مفتاح InfiniBand MQM9790-NS2F من هذا النوع جنبًا إلى جنب مع دورات تحديث وحدات معالجة الرسومات لتجنب اختناقات الأجيال المختلطة.

النتائج والفوائد

بعد النشر، كان التغيير الأكثر وضوحًا هو في وقت إكمال المهام لأعباء العمل المرتبطة بإحكام. العمليات الجماعية التي كانت تتوقف سابقًا بسبب الازدحام تكتمل الآن بزمن انتقال ذيل أقل وأكثر اتساقًا. كما أن كثافة OSFP ذات 64 منفذًا بسّطت الكابلات وقللت من عدد قفزات التبديل بين أي نقطتين نهائيتين، مما يفيد أداء RDMA بشكل مباشر.

من منظور العمليات، أصبحت الشبكة أسهل في الفهم. طبقات أقل تعني مجالات فشل أقل واستكشاف أخطاء أبسط. يشارك حركة مرور التخزين، بما في ذلك NVMe عبر Fabrics، نفس النقل بزمن انتقال منخفض مثل حركة مرور الحوسبة، مما يحسن الاستخدام العام للمجموعة. بالنسبة لمديري تكنولوجيا المعلومات، فإن النتيجة الرئيسية هي أن الاستثمار في طبقة الشبكة يمكن أن يفتح السعة التي تم دفع ثمنها بالفعل في طبقة الحوسبة.

غالبًا ما تقوم فرق المشتريات والتخطيط بمراجعة ورقة بيانات MQM9790-NS2F لتأكيد عدد المنافذ والطاقة ومغلفات التبريد قبل الانتهاء من التصميم. أفضل توجيه الأسئلة حول سعر MQM9790-NS2F و MQM9790-NS2F للبيع إلى الموزعين المعتمدين وممثلي NVIDIA للمؤسسات، حيث يعتمد التسعير على التكوين والدعم والمنطقة. 

الملخص والتوقعات

توضح NVIDIA Mellanox MQM9790-NS2F كيف يمكن لمنصة NDR عالية الكثافة بسرعة 400 جيجابت/ثانية إعادة تشكيل أداء مجموعات الذكاء الاصطناعي وHPC وRDMA دون إضافة تعقيد للشبكة. مع توسع أعباء العمل وزيادة كثافة وحدات معالجة الرسومات، سيظل تبديل InfiniBand بزمن انتقال منخفض استثمارًا أساسيًا. بالنسبة للمهندسين الذين يخططون لتحديث الشبكة التالي، فإن MQM9790-NS2F هو لبنة بناء عملية للربط البيني الحتمي وعالي الإنتاجية.