Dell DD9900 in HA-paar ziet SFP in ethMa niet: State UP, link status NO, Cannot get module EEPROM information
Ik beheer een backup-storage in het datacenter. Een DD9900-paar in HA, netwerkpoorten op NDC QLogic. Na een herstart of het opnieuw plaatsen van een module ziet poort ethMa de transceiver niet meer, en dat is inmiddels geen incident meer maar een stabiel terugkerend kunstje.
- Dell DD9900, DD OS 7.2.0.95, HA-configuratie
- NDC QLogic QL41164HMCU 4x10GbE (Dell 0XVVY1)
- modules ABCU-5710RZ-CS4B, FCLF-8521-3-HP, FTLX8571D3BCL-FC, AFBR-703ASDZ - pakt zowel koper als optiek
Wat het systeem laat zien:
State UP
link status NO
Transceiver is unplugged
Cannot get module EEPROM informationethtool -m op deze poort geeft helemaal niets terug.
Al geprobeerd:
- modules tussen poorten omgewisseld en patchkabels vervangen - het probleem blijft bij de poort hangen, niet bij de module
- de link naar een andere switch en een andere switchpoort verlegd
- de NDC zelf vervangen door een nieuwe, na een tijdje precies hetzelfde resultaat
De poort staat ondertussen gewoon op UP, dus het systeem denkt dat alles in orde is en slaat geen alarm. Waar zoek ik verder - de driver, DD OS, of toch de hardware?
Show original (Русский)
Also available in: Русский
العربية
Deutsch
English
Español
Français
हिन्दी
Bahasa Indonesia
Italiano
日本語
한국어
Nederlands
Polski
Português
Türkçe
Tiếng Việt
简体中文
Comments 4
Als het op een losstaand systeem niet te reproduceren is, maar op HA wel stabiel, dan kun je de hardware loslaten. Dit is een bug in de QLogic-driver die specifiek in een HA-configuratie op DD OS 7.2 naar boven komt. Vandaar het hele plaatje: de poort staat op UP, er is geen link, en in het log staat Transceiver is unplugged en Cannot get module EEPROM information. De driver komt gewoon niet bij de EEPROM van de module, en of er koper of optiek in zit maakt hem niets uit - daarom heeft het wisselen van modules, kabels, switchpoorten en zelfs het vervangen van de NDC niets opgeleverd.
Op te lossen door DD OS minimaal naar 7.10.1 te updaten, daar zit een bijgewerkte bundel firmware en drivers in, en daarna verdwijnt het symptoom. Zolang er nog geen updatevenster is afgesproken:
Voorbehoud over support: check voor de upgrade bij de vendor de compatibiliteitsmatrix voor precies jouw HA-configuratie, 7.10.1 is de ondergrens, geen aanbeveling om exact die versie te draaien. En voor de toekomst: in nieuwere DD's is men van deze NDC's overgestapt naar Intel X710, dus bij het vervangen van het park lost de vraag zichzelf op.
Drie vragen om het in te perken. Eerste: gebeurt dit ook op een losstaand systeem, of alleen op het HA-paar? Dat is essentieel, want HA verandert hoe interfaces opkomen en overspringen, en de helft van dit soort verhalen speelt zich daar af.
Tweede: zitten er op deze kaart alleen SFP-modules, of hangt er ergens in een naburige poort een DAC? QLogic verbiedt in de documentatie expliciet om DAC en SFP op dezelfde kaart te mengen, en de gevolgen zijn precies dit - een deel van de poorten stopt met de EEPROM lezen.
Derde: werkt
ethtool -mop de naburige poorten van dezelfde kaart normaal, of blijft dat ook stil?Testopstelling gebouwd en doorgedraaid. Op een losstaand systeem met dezelfde modules en dezelfde DD OS 7.2 lukte het reproduceren helemaal niet, hoe vaak we ook modules eruit trokken en herstartten. Het treedt alleen op bij het HA-paar, en dat lijkt de sleutel.
We mengen geen DAC en SFP op dezelfde kaart, in alle vier de poorten zitten modules van hetzelfde type.
ethtool -mleest op de naburige poorten gewoon uit, de EEPROM komt volledig terug, maar op ethMa staat precies dat Cannot get module EEPROM information, totdat de poort na een volgende herstart uit zichzelf weer opstart.Bij dat 'weg van QLogic' sluit ik me aan. Ik had een QLogic 8262-kaart (8200-serie) in FreeNAS 11.3-U5 op een HP MicroServer Gen10: beide PCI-functies zijn zichtbaar, maar alleen ql0 werkt, en ql1 komt op als none2 en initialiseert niet, dus de helft van de kaart is gewoon dood.
In het log staat bij elke boot
0x200000 bytes of rid 0x10 res 3 failedgevolgd doorunable to map any ports. Het advies was om viapciconf -lte checken of dit geen omgelabelde HP NC523SFP is, de firmware van de adapter te updaten en te spelen met de MSI/MSI-X-tunables. Niets daarvan hielp, de kaart is uiteindelijk vervangen, en voor storage wordt daar met zoveel woorden Chelsio T520-CR of Intel X520 aangeraden. Dus de overstap naar X710 in nieuwere systemen lijkt een logisch gevolg.