CRS326-24S+2Q+RM और Huawei S6720 के बीच Q+DA0001 40G DAC: दोनों सिरे cable पढ़ लेते हैं, link फिर भी down रहता है
हमारी एक site पर aggregation दोबारा बना रहे हैं: एक CRS326-24S+2Q+RM customer के SFP+ ports लेता है और 40G पर uplink करके एक Huawei S6720 में जाता है। उसी rack के अंदर छोटा सा run है, तो optics की बजाय passive DAC।
- MikroTik CRS326-24S+2Q+RM, QSFP+ port qsfpplus1-1
- Huawei S6720-54C-EI-48S-AC, plain 40GE port
- MikroTik Q+DA0001 passive 40G QSFP+ DAC
दोनों boxes cable को सही पढ़ लेते हैं, MikroTik इसे अपने Q+DA0001 के तौर पर दिखाता है और Huawei port info में 40G copper cable list करता है। और फिर कुछ नहीं होता:
MikroTik: qsfpplus1-1 no-link
Huawei: 40GE... current state : DOWN
अब तक क्या किया जा चुका है:
- वही cable CRS326 के दोनों QSFP+ ports के बीच loop किया: तुरंत link हो जाता है
- Huawei के दो 40GE ports के बीच भी loop किया: वहाँ भी link हो जाता है
- सिरे बदले, दूसरे QSFP+ port पर लगाया, सब कुछ reseat किया
- verify किया कि कोई भी साइड administratively down नहीं है
तो cable ठीक है और हर switch अपने आप में इससे खुश है, सिर्फ cross-vendor जोड़ी ही मना कर रही है। क्या किसी ने सच में CRS326 और S6720 के बीच Q+DA0001 को up किया है, और port को up लाने के लिए किसी भी साइड पर क्या बदलना पड़ा?
Comments 5
वह default-to-default जोड़ी ही आपकी problem है, और दोनों सिरों को एक साथ off करना भी। यहाँ इसी combination पर जो चला वह asymmetric है, जो लिखते वक्त गलत लगता है, पर यही है: Huawei वाला 40GE port auto-negotiation disabled के साथ, जबकि MikroTik पर qsfpplus1-1 अपना autoneg enabled रखता है।
Huawei पर, interface के अंदर:
MikroTik पर, इसे छेड़िए मत या साफ तौर पर set कर दीजिए ताकि बाद में कोई इसे "ठीक" न कर दे:
मेरे CRS326 से S6720 जोड़ी पर इसके ठीक बाद 40G link आ गया और तब से stable है। मैं इसे fix से ज्यादा workaround कहूँगा: दोनों implementations साफ तौर पर इस बात पर सहमत नहीं हैं कि 40G DAC link को क्या negotiate करना चाहिए, और asymmetric setting बस वह कोना है जहाँ दोनों खुश रहते हैं। इसे live uplink पर नहीं, maintenance window में करें, और अगर यह काम न करे तो देखें कि आपका Huawei image उस port पर autoneg disable करने भी देता है या नहीं, क्योंकि यह हिस्सा universal नहीं है।
Cross-vendor 40G में जहाँ दोनों सिरे cable देख लेते हैं पर कोई भी इसे up नहीं लाता, वहाँ बात लगभग हमेशा इस पर आ टिकती है कि दोनों ports क्या negotiate करने की कोशिश कर रहे हैं।
दोनों साइड से autoneg state post करें: Huawei पर 40GE port का config और MikroTik पर qsfpplus1-1 की auto-negotiation value, और बताएं कि क्या आपने इनमें से किसी को default से बदला है। यह भी बताएं कि क्या आपने इसे बंद करके try किया है - दोनों सिरों पर एक साथ, या सिर्फ एक सिरे पर, क्योंकि ये दो अलग experiments हैं।
Loop tests सिर्फ यह prove करते हैं कि cable ठीक है। वे इस बारे में कुछ नहीं बताते कि दोनों सिरे एक ही negotiation behaviour पर सहमत हैं या नहीं, और दिलचस्प हिस्सा यही है।
दोनों साइड अपने defaults पर हैं: qsfpplus1-1 पर auto-negotiation=yes और Huawei वाले 40GE port पर negotiation auto, और interfaces को up लाने के अलावा मैंने कोई config नहीं छुआ। मैंने इसे दोनों सिरों पर एक साथ बंद करके try किया, जिससे बिल्कुल कुछ नहीं बदला; one-sided वाला variant मेरे दिमाग में कभी आया ही नहीं।
Link state MikroTik पर no-link और Huawei पर DOWN ही बना रहता है, और counters बिल्कुल नहीं हिलते, तो यह किसी भी box पर error log करने लायक दूर तक पहुँचता ही नहीं।
वह आखिरी caveat सिर्फ footnote से ज्यादा का हकदार है, क्योंकि मैं ठीक यहीं अटक गया था। एक S6320-54C-EI पर, MikroTik साइड पर RouterOS 7.12 के साथ, 40G port auto-negotiation को बिल्कुल बंद करने ही नहीं देता, तो asymmetric trick के लिए कोई जगह नहीं बचती।
बाकी symptoms बिल्कुल वैसे ही: दोनों सिरे cable पढ़ लेते हैं, port down ही रहता है, कहीं कोई error नहीं। तो ऊपर वाला workaround असली है पर platform-specific है, और इन दो 40G implementations के बीच की असली incompatibility, जहाँ तक मैं बता सकता हूँ, अब भी खुली हुई है।
जो भी यहाँ पहुँचा है और किसी भी तरह cross-vendor DAC को व्यवहार में नहीं ला पा रहा उसके लिए: एक बिंदु पर इससे लड़ना बंद करना सस्ता पड़ता है।
मेरे पास एक Alta Route 10 था एक CRS309-1G-8S+ के सामने, जहाँ Route 10 एक 10Gtek और एक FS SFP+ DAC दोनों को पहचान लेता था, SFP-H10GB-CU2M के तौर पर report करते हुए, जबकि CRS309 कोई link partner advertising नहीं दिखाता था और जोड़ी सिर्फ 1G पर force करने पर ही link करती थी। /cfg/sfpX.txt में 10gbase_r force करने से कुछ नहीं हुआ, और cage में जो भी module रहा हो, Route 10 पर ethtool baseT modes ही list करता रहा। दोनों सिरों को FS SFP-10GSR-85 optics से बदला और तुरंत 10G link मिल गया।
अलग speed, अलग boxes, सीख वही: जब cable ठीक साबित हो चुका हो और दोनों सिरे फिर भी सहमत न हों, तो optics की एक जोड़ी एक और हफ्ते की tuning से सस्ती पड़ती है।