منفذ ConnectX-7 400G OSFP إلى منفذ مفتاح QSFP-DD: هل كابل DAC السلبي كافٍ، أم أن معدلات المسارات تقف عائقًا
أقوم بتشغيل زوج من أجهزة GPU مقابل نسيج الشبكة الحالي بسرعة 400G، وقد سبق أن اشتريت الكابل الخاطئ مرة واحدة، لذا أفضّل توضيح النظرية جيدًا قبل الطلب مرة أخرى.
- بطاقة الشبكة: ConnectX-7 MCX715105AS-WEAT، منفذ واحد بسرعة 400G، فتحة OSFP
- المفتاح: منافذ QSFP-DD بسرعة 400G
- الموجود لدي: كابل DAC سلبي بسرعة 400G من QSFP-DD إلى OSFP بطرف OSFP مُزنّح (finned)
switch port : QSFP-DD 400G
NIC cage : OSFP, flat top
cable : QSFP-DD to OSFP passive DAC, finned OSFP end
الطرف المُزنّح لا يستقر في فتحة بطاقة الشبكة على الإطلاق - فهذه الهيكلية مصممة لفتحة مفتاح تتسع للزعانف، بينما البطاقة لا تحتوي على أي منها. بعيدًا عن الجانب الميكانيكي، كل ما قرأته حتى الآن يقول إن منفذ OSFP في هذه البطاقة يعمل بمسارات 100G بينما 400G على QSFP-DD مبني من مسارات 50G، وهذا يشير إلى أن الكابل السلبي لا يمكنه ربط الطرفين مهما بدت الموصلات.
ما تحققت منه قبل النشر:
- راجعت قائمة الكابلات المعتمدة ولم أجد إدخالاً لـ QSFP-DD إلى OSFP يطابق هذا الاقتران؛
- تأكدت من متطلب الطرف المسطح (flat-top) لفتحة بطاقة الشبكة من وثائق البطاقة؛
- طلبت من المورّد نسخة بطرف مسطح من نفس كابل DAC، وهم قادرون على توفيرها، لكن هذا لا يحل مسألة المسارات.
فهل يوجد أي كابل DAC سلبي يربط فعليًا منفذ مفتاح QSFP-DD بسرعة 400G ببطاقة ConnectX-7 من نوع OSFP، أم أن الوصلات الضوئية مع الألياف هي الجواب الصادق الوحيد هنا؟
Comments 5
أي مفتاح بالضبط؟ لقد ذكرت نوع المنفذ لكن ليس الطراز، وهذا هو ما يحدد ما إذا كان هناك ملف تعريف تقسيم (breakout) قابل للاستخدام على ذلك الجانب أصلاً.
كما قل ما إذا كنت بحاجة إلى رابط واحد صادق بسرعة 400G من طرف إلى طرف، أو ما إذا كان 4×100G إلى البطاقة سيُنجز المهمة بنفس الجودة. هاتان قائمتا تسوّق مختلفتان تمامًا، والثانية أقصر بكثير.
لديك مشكلتان منفصلتان وواحدة منهما فقط تتعلق بالكابل الذي اشتريته.
ميكانيكيًا: فتحة CX-7 تقبل وحدات OSFP بطرف مسطح (flat-top). معظم كابلات OSFP DAC في السوق تُشحن بهيكل مُزنّح مخصص لفتحات المفاتيح، وهذا بالضبط ما لديك، لذا لن يستقر أبدًا بشكل صحيح في البطاقة.
كهربائيًا: منفذ OSFP بسرعة 400G في تلك البطاقة يعمل بأربعة مسارات بسرعة 100G، بينما 400G على QSFP-DD هو ثمانية مسارات بسرعة 50G. كابل DAC السلبي هو نحاس فقط ولا شيء آخر، لا يقوم بأي تحويل، لذا حتى مع طرف مسطح على جانب بطاقة الشبكة، لن يتفق الطرفان أبدًا على المسارات. هذا هو الجزء الذي يكتشفه الناس عادة بعد وصول الكابل بالفعل.
التوليفة المُوصى بها لهذا الاقتران بالتحديد ضوئية وليست نحاسية: وحدة QSFP-DD بسرعة 400G من نوع DR4 (MMS1V00-WM) في المفتاح، ألياف تقاطع من عائلة MFP7E30 بموصل MPO-12/APC، ووحدة OSFP بطرف مسطح (MMS4X00-NS400) في بطاقة الشبكة. ثلاثة عناصر لرابط واحد، وهذا مزعج، لكنها المجموعة المُصممة فعلاً للعمل معًا.
الربط من بطاقة إلى بطاقة هو الحالة السهلة إن أردت المقارنة: كابلات OSFP800 DAC بطرف مسطح تفعل ذلك دون أي مما سبق.
النحاس ليس مستبعدًا تمامًا، الأمر فقط يعتمد على أي بطاقة موجودة في الصندوق.
بطاقة CX-7 ثنائية المنفذ بسرعة 200G بفتحات QSFP112 تقبل كابلات QSFP56 DAC من منفذ مفتاح QSFP-DD عبر تقسيم (fanout) دون أي مشاكل، لأن معدلات المسارات تتطابق هناك. وفي جزء OSFP بسرعة 400G، أبلغ أحدهم عن تشغيل محوّل من OSFP إلى QSFP28 مع كابلات DAC عادية بسرعة 100G في نسيج شبكة موجود، لذا يمكن الالتفاف حول الجانب الميكانيكي.
التحفظ هو أن طريق المحوّل لا يحظى بأي دعم على الإطلاق. عندما سُئلت NVIDIA بشكل مباشر عن محوّلات OSFP إلى QSFP28 السلبية لهذه الحالة بالتحديد، وجّهت الناس لقراءة الكابلات المعتمدة في وثائق البرنامج الثابت لـ ConnectX-7، وأضافت أن المحوّلات غير مُختبرة وغير مضمونة. شخص آخر سأل نفس السؤال بخصوص SN4700 على QSFP-DD وSN3700 على QSFP56 لم يحصل على شيء أفضل. قد يعمل ذلك بالفعل على طاولتك؛ لن يساعدك أحد يوم يتوقف عن العمل.
معطى من الجيل السابق، لأنه نفس عائلة المفاجآت.
جهاز Arista 7060X6 مع مقسّم ACC OSFP 800G إلى 2×400G QSFP112 لم يرتبط أبدًا ببطاقة ConnectX-8، بينما بطاقة ConnectX-7 على نفس المنفذ بنفس الكابل عملت فورًا. تشخيص بطاقة الشبكة أعاد حالة مجموعة PHY FW تحمل
Recommendation: Negotiation failure. إجبار سرعة المنفذ على 400G بدلاً من ترك التفاوض التلقائي جعل الرابط الفيزيائي يعمل فورًا. كابلات AEC من نفس الشكل عملت مع ConnectX-8 دون تغيير، وظهر نفس السلوك مع مفاتيح أخرى مبنية على Tomahawk 5، وهو ما يشير إلى مشكلة تفاعل في التفاوض التلقائي وتدريب الرابط وليس كابلاً معطوبًا.يستحق الحفظ لوقت وصول وصلاتك الضوئية: إذا بقي الرابط معطلاً، استبعد التفاوض التلقائي قبل أن تلوم الوصلة الضوئية.
نقطة معدل المسارات تستحق التأكيد، لأنها تُسبب المشاكل بنفس القوة على جانب InfiniBand.
كان لدينا جهاز Quantum-2 QM9700 كان يحتاج للوصول إلى جهاز Switch-IB 2 SB7800 قديم. NDR يُشغّل كل فتحة OSFP بأربعة مسارات PAM4 بسرعة 100G؛ وSB7800 هو EDR، أربعة مسارات NRZ بسرعة 25G. رابط مباشر بين هذين الجهازين لم يُعتمد أبدًا وغير مدعوم على الإطلاق - المسار المعتمد يضع مفتاح HDR في المنتصف. ما هو موجود كبديل غير مدعوم هو مقسّم سلبي: MCP7Y60-H001، MCP7Y60-H01A، MCP7Y60-H002 بأطوال متر واحد و1.5 متر ومترين. فتحة واحدة ثنائية المنفذ على جانب NDR تتفرّع إلى زوج من منافذ QSFP28 على المفتاح القديم، وكل نصف ينزل إلى معدلات EDR في الطريق.
لكن اقرأ الشروط المرفقة مرتين. النحاس EDR الخارج من QM9700 لا يتجاوز مترين، لذا فالمقسّم حيلة لنفس الخزانة فقط ولا شيء أكثر. وأنت تستهلك فتحة إضافية: ما كان منفذ OSFP واحدًا أصبح يُحسب كمنفذين في الطوبولوجيا. عتاد مختلف، نفس الدرس الذي عندك - عندما يختلف الطرفان في معدل المسار، النحاس البسيط ليس ما يوفّق بينهما.