Dell DD9900のHAペアでethMaがSFPを認識しない: State UP、link status NO、Cannot get module EEPROM information
バックアップストレージをデータセンターで運用しています。DD9900のHAペア、ネットワークポートはNDC QLogicです。モジュールの再起動や入れ替えのたびに、ethMaポートがトランシーバを認識しなくなります。一度きりの偶然ではなく、安定して再現する現象です。
- Dell DD9900、DD OS 7.2.0.95、HA構成
- NDC QLogic QL41164HMCU 4x10GbE(Dell 0XVVY1)
- モジュールはABCU-5710RZ-CS4B、FCLF-8521-3-HP、FTLX8571D3BCL-FC、AFBR-703ASDZ - 銅でも光でも症状は同じ
システムで見えるのは:
State UP
link status NO
Transceiver is unplugged
Cannot get module EEPROM informationこのポートでethtool -mを叩いても何も返ってきません。
すでに試したこと:
- モジュールをポート間で入れ替え、パッチコードも交換 - 問題はポートについてきて、モジュールにはついてこない
- リンクを別のスイッチ、別のスイッチポートに繋ぎ替え
- NDC自体を新品に交換 - しばらくすると同じ症状がまた出た
ポート自体はUPのままなので、システムは正常と判断していて、アラームも一切上がりません。次はどこを疑うべきでしょうか。ドライバ、DD OS、それとも結局ハードウェアですか。
Show original (Русский)
Also available in: Русский
العربية
Deutsch
English
Español
Français
हिन्दी
Bahasa Indonesia
Italiano
日本語
한국어
Nederlands
Polski
Português
Türkçe
Tiếng Việt
简体中文
Comments 4
単体構成では再現せず、HAでは安定して再現するなら、ハードウェアの線は切っていいと思います。これはQLogicドライバの不具合で、DD OS 7.2のHA構成でだけ表面化するものです。だからこそこの症状になります。ポートはUP扱いなのにリンクはなく、ログにはTransceiver is unplugged、Cannot get module EEPROM informationが並ぶ。ドライバがモジュールのEEPROMまでたどり着けていないだけで、銅か光かは関係ありません。だからモジュールを入れ替えても、パッチコードを替えても、コンバータのポートを変えても、NDCを新品にしても何も変わらなかったわけです。
対処はDD OSを7.10.1以上に上げることです。ファームウェアとドライバの更新バンドルが入っていて、それを適用すると症状が消えます。アップデートの時間が確保できるまでの間は:
サポート面の注意点として、アップグレード前にベンダーへHA構成での互換性マトリクスを確認してください。7.10.1は下限であって、そこにピンポイントで合わせろという推奨ではありません。今後のことを言えば、新しいDDではこのNDCからIntel X710に移行しているので、機材を更新すればこの問題自体がなくなります。
絞り込むために3つ聞かせてください。まず、これは単体構成でも起きますか、それともHAペアだけですか。HAはインターフェースの立ち上がり方や切り替わり方を変えるので、この手の話の半分はそこに原因があります。
次に、このカードに刺さっているのはSFPモジュールだけですか、隣のポートにDACは繋がっていませんか。QLogicのドキュメントでは同じカードでDACとSFPを混在させることを明確に禁止していて、その結果として出るのがまさに一部ポートがEEPROMを読めなくなるという症状です。
最後に、同じカードの隣のポートで
ethtool -mは正常に応答しますか、それとも同じく無反応ですか。検証環境を組んで回してみました。同じモジュール、同じDD OS 7.2の単体構成では、モジュールを何度抜き差ししても、再起動を繰り返しても再現しませんでした。HAペアでしか起きない、これが鍵のようです。
同じカードでDACとSFPを混在させることはしていません。4ポートとも同じ種類のモジュールです。隣のポートでは
ethtool -mが正常に読め、EEPROMも完全に返ってきますが、ethMaだけはあのCannot get module EEPROM informationのままです。次の再起動でポートが勝手に復活するまでずっとそうです。「QLogicから離れる」という話には同意します。うちではHP MicroServer Gen10のFreeNAS 11.3-U5でQLogic 8262(8200シリーズ)を使っていて、PCIファンクションは両方見えるのにql0しか動かず、ql1はnone2として立ち上がるだけで初期化されない、つまりカードの半分が死んでいる状態でした。
起動のたびにログには
0x200000 bytes of rid 0x10 res 3 failed、続けてunable to map any portsが出ます。pciconf -lでHP NC523SFPのOEM品ではないか確認する、アダプタのファームウェアを更新する、MSI/MSI-Xのチューナブルをいじる、といったことを勧められましたが、どれも効きませんでした。結局カードは交換して、ストレージ用途としては明確にChelsio T520-CRかIntel X520が推奨されています。そう考えると、新しい機種でX710に移っていくのは理にかなっています。