عنق الزجاجة الشبكية في مجموعات تدريب الذكاء الاصطناعي: الحلول المقدمة من Mellanox

بيان صحفي: مع نمو نماذج الذكاء الاصطناعي بشكل كبير في التعقيد، لم يكن الطلب على الحوسبة عالية الأداء والقابلة للتطوير أكبر من أي وقت مضى. المكون الحاسم الذي غالبًا ما يتم تجاهله هو البنية التحتية الأساسية لـ شبكات الذكاء الاصطناعي التي تربط الآلاف من معالجات الرسومات. تعالج Mellanox، الرائدة في حلول الربط البيني عالية الأداء، هذا التحدي على وجه التحديد من خلال تقنيتها المتطورة لـ الربط البيني منخفض الكمون، المصممة للقضاء على الاختناقات وزيادة كفاءة كل مجموعة معالجات رسومات.

يعتمد التدريب الحديث للذكاء الاصطناعي، وخاصةً للنماذج اللغوية الكبيرة (LLMs) ورؤية الكمبيوتر، على المعالجة المتوازية عبر مصفوفات واسعة من معالجات الرسومات. تشير تحليلات الصناعة إلى أنه في مجموعة مكونة من 1024 معالج رسومات، يمكن أن تتسبب الاختناقات المتعلقة بالشبكة في انخفاض استخدام معالج الرسومات من 95٪ المحتملة إلى أقل من 40٪. تترجم هذه عدم الكفاءة مباشرة إلى أوقات تدريب ممتدة، وزيادة استهلاك الطاقة، وتكاليف تشغيل أعلى بكثير، مما يجعل شبكات الذكاء الاصطناعي المحسنة ليست مجرد ميزة بل ضرورة.

نهج Mellanox شامل، يوفر مجموعة بنية تحتية كاملة مصممة لأعباء عمل الذكاء الاصطناعي. جوهر هذا الحل هو عائلة مفاتيح Ethernet Spectrum وسلسلة ConnectX من بطاقات واجهة الشبكة الذكية (NIC). تم تصميم هذه المكونات خصيصًا للعمل في انسجام تام، مما يخلق خط أنابيب بيانات سلس بين الخوادم.

تشمل الميزات التكنولوجية الرئيسية:

• الحوسبة داخل الشبكة: تنقل مهام معالجة البيانات من وحدة المعالجة المركزية إلى NIC، مما يقلل بشكل كبير من الكمون.
• التوجيه التكيفي و RoCE: يضمن اختيار مسار البيانات الأمثل ويستفيد من RDMA عبر Ethernet المتجمع (RoCE) من أجل اتصالات فعالة و الربط البيني منخفض الكمون.
• بنية شبكة متسلسلة قابلة للتطوير: تدعم بنى Clos (leaf-spine) غير المحظورة التي يمكن أن تتوسع إلى عشرات الآلاف من المنافذ دون تدهور الأداء.

تم إثبات فعالية حل Mellanox في عمليات النشر الواقعية. يوضح الجدول التالي مقارنة الأداء بين شبكة TCP/IP قياسية وشبكة Mellanox التي تدعم RoCE في بيئة تدريب على الذكاء الاصطناعي واسعة النطاق.

بالنسبة للمؤسسات ومؤسسات الأبحاث التي تستثمر ملايين الدولارات في موارد الحوسبة لمعالجات الرسومات، فإن الشبكة هي الجهاز العصبي المركزي الذي يحدد عائد الاستثمار الإجمالي. توفر حلول شبكات الذكاء الاصطناعي من Mellanox الربط البيني منخفض الكمون الحاسم المطلوب لضمان أن مجموعة معالجات رسومات متعددة العقد تعمل كجهاز كمبيوتر فائق واحد ومتماسك. يترجم هذا إلى وقت أسرع للوصول إلى الرؤى، وتقليل التكلفة الإجمالية للملكية (TCO)، والقدرة على معالجة تحديات الذكاء الاصطناعي الأكثر طموحًا.