ميلانوكس (NVIDIA) 920-9B110-00FH-0D0 InfiniBand Switch الحل الفني لتحسين اتصال متبادل منخفض التأخير

1خلفية المشروع وتحليل المتطلبات

يقدم نشر وتوسيع نطاق مجموعات الحوسبة المتسارعة الحديثة لتدريب الذكاء الاصطناعي وحملات عمل HPC تحديات شبكة فريدة.الشبكات التقليدية القائمة على TCP / IP تقدم تأخيرًا كبيرًا وتكاليف CPUتتضمن المتطلبات الرئيسية لحل الجيل التالي للاتصالات: تأخير محدد أقل من ميكرو ثانية لمنع توقف معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجة معالجةعرض النطاق الترددي الثنائي العالي لنماذج الاتصال بين الجميع، والحوسبة القابلة للتوسع في الشبكة لتخفيف أعباء العمليات الجماعية، وإدارة النسيج القوية لبساطة التشغيل.

...NVIDIA Mellanox 920-9B110-00FH-0D0تم تصميمها لتلبية هذه المتطلبات بالضبط، تشكل أساسا لأداء وفعالة920-9B110-00FH-0D0 حل InfiniBand switch OPNهذه الوثيقة تحدد مخططًا تقنيًا شاملًا لنشره.

2تصميم بنية الشبكة/النظام بشكل عام

الهندسة المعمارية المقترحة هي طوبولوجيا شجرة الدهون غير الحاجزة إلى الحجب ، والتي هي المعيار الفعلي لبناء مجموعات HPC وAI قابلة للتنبؤ وعالية النطاق الترددي.هذا التصميم يضمن عدد هوب متسقة ومتأخرة بين أي عقدتينتم بناء الهندسة المعمارية على نظام بيئي محسّن من NVIDIA.

• طبقة الحساب:أنظمة NVIDIA DGX أو HGX ، أو خوادم GPU معادلة مع NVIDIA ConnectX-7 NICs.
• طبقة الارتباط:نسيج متجانس من920-9B110-00FH-0D0المفاتيح التي تعمل كفتاحات أوراق (أعلى الرف) والعمود الفقري.
• طبقة الإدارة والترتيب:NVIDIA UFM® لإدارة الأقمشة ، متكاملة مع جدولة المجموعات مثل Slurm أو Kubernetes عبر كومة NVIDIA Magnum IO.

تضمن هذه الهندسة المعمارية من النهاية إلى النهاية أداءً مثاليًا للاتصالات RDMA و GPUDirect ، مما يخلق "مادة موحدة كمورد حاسوب".

3دور 920-9B110-00FH-0D0 والخصائص التقنية الرئيسية

داخل هذه الهندسة المعمارية920-9B110-00FH-0D0بمثابة الوحدة الأساسية لطائرة البيانات. يمتد دورها إلى ما وراء إعادة توجيه الحزم البسيطة ليصبح عنصرًا حاسوبيًا نشطًا.

الركائز التقنية الأساسية:

• فترة تأخير منخفضة للغاية و عرض النطاق الترددي العالي:تعمل بواسطة920-9B110-00FH-0D0 MQM8790-HS2F 200Gb/s HDRASIC ، يوفر تأخيرًا رائدًا في الصناعة من منفذ إلى منفذ وسرعة سلكية كاملة 200 جيجابايت / ثانية لكل عرض نطاق باند منفذ ، وهو أمر بالغ الأهمية لحركة المرور RDMA.
• الحوسبة في الشبكة (SHARP):تعمل أجهزة التبديل على تسريع عمليات MPI و NCCL الجماعية (All-Reduce ، Broadcast) من خلال إجراء تجميع البيانات داخل الشبكة. وهذا يقلل بشكل كبير من وقت التوقف عن العمل في وحدة المعالجة المركزية ومتكاملة المعالجة المركزية.
• التحكم المتقدم في الازدحامآليات التوجيه التكيفية ومراقبة الازدحام في الوقت المناسب تدير تدفقات الحركة بشكل ديناميكي ،منع انخفاض الحزم وضمان توزيع منصف لعرض النطاق الترددي أثناء سيناريوهات الاستخدام الداخلي الشائعة في تدريب الذكاء الاصطناعي.
• تقنية القياس عن بعد والرؤية:يوفر الدعم المتكامل للبنية التحتية لقياس المعلومات عن بعد NVIDIA رؤى عميقة حول أنماط حركة المرور وتشغيل المخزن العازل وصحة الرابط ، والتي هي ضرورية لتحسين الأداء.

يجب على المهندسين استشارة المسؤولورقة بيانات 920-9B110-00FH-0D0لمزيد من التفاصيلمواصفات 920-9B110-00FH-0D0على تشكيلات الطاقة والتبريد والمنفذ

4توصيات النشر والتوسع

تبدأ عملية النشر بتحليل دقيق920-9B110-00FH-0D0 متوافقةقائمة المكونات. وحدة تنسيق نموذجية هي "كبس" بنيت مع شجرة الدهون غير الممنوعة.

مثال: 512-GPU Cluster Pod

• مستوى الأوراق:قم بنشرها920-9B110-00FH-0D0المفاتيح كـ Top-of-Rack (ToR) ، كل منها يربط ما يصل إلى 16 خادم GPU (على سبيل المثال ، 8x DGX A100).
• مستوى العمود الفقريطبقة ثانية من920-9B110-00FH-0D0يربط بين جميع مفاتيح الأوراق، وتوفير عرض النطاق الترددي كامل.
• الكابلات:استخدام كابلات HDR QSFP56 (سلبية أو نشطة) لجميع اتصالات 200Gb / s بين المفتاح والخادم.

التوسع إلى ما وراء الجرعة:يمكن ربط العديد من الغلافات باستخدام مفاتيح العمود الفقري المخصصة أو من خلال توسيع تسلسل أعمدة الدهون ، والاستفادة من جذور عالية من920-9B110-00FH-0D0.920-9B110-00FH-0D0 InfiniBand switch OPNيوفر خارطة طريق واضحة لتشغيل أجزاء التشغيل المشترك أثناء التوسع.

5العمليات، المراقبة، حل المشاكل وتحسين

الإدارة الاستباقية أمر حاسم للحفاظ على أعلى أداء للنسيج. NVIDIA UFM® هي منصة الإدارة المركزية الموصى بها.

التحديثات المنتظمة للبرمجيات الثابتة والالتزام بأفضل الممارسات الموضحة في وثائق التبديل ضرورية.يجب أن يبدأ تدفق التشخيص بالقياس عن بعد UFM®، تحقق من سلامة الكابل، وتحقق من إعدادات SHARP ومراقبة الازدحام.

6الاستنتاج وتقييم القيمة

تنفيذ ربط بين المجموعات على أساسميلانوكس (NVIDIA) 920-9B110-00FH-0D0يوفر أساسًا عالي الأداء ومؤكدًا للمستقبل لحملات العمل RDMA و HPC و AI. مقترح قيمته متعدد الأوجه: فهو يزيد من استغلال GPU و ROI عن طريق تقليل تكاليف الاتصال.,يتيح نمو مجموعة قابلة للتوسع، ويقوم بتبسيط العمليات من خلال الإدارة المتكاملة والقياس عن بعد.

بينما920-9B110-00FH-0D0 السعريمثل استثمارًا رئيسيًا ، وتكلفة الملكية الإجمالية (TCO) مواتية عند النظر في التخفيضات الكبيرة في وقت الانتهاء من العمل ، وتحسين إنتاجية الباحثين ،وتوسيع النطاق بكفاءة التي تتجنب إعادة تصميم الأقمشة مكلفة. المنظمات التي تقيم920-9B110-00FH-0D0 للبيعيجب أن ينظر إليه ليس كإنفاق على الشبكة، ولكن كمسرع حاسوب استراتيجي. يوفر هذا الحل التقني مخططًا لفتح الإمكانات الكاملة للبنى التحتية للحوسبة المتسارعة.