Dell DD9900 di HA-pair tidak mendeteksi SFP di ethMa: State UP, link status NO, Cannot get module EEPROM information
Ngurus storage backup di data center. Pasangan DD9900 dalam HA, port jaringan di NDC QLogic. Setelah reboot atau pemasangan ulang modul, port ethMa berhenti mendeteksi transceiver, dan ini bukan kejadian sekali doang, tapi pola yang konsisten berulang.
- Dell DD9900, DD OS 7.2.0.95, konfigurasi HA
- NDC QLogic QL41164HMCU 4x10GbE (Dell 0XVVY1)
- modul ABCU-5710RZ-CS4B, FCLF-8521-3-HP, FTLX8571D3BCL-FC, AFBR-703ASDZ - kedetect baik yang tembaga maupun optik
Yang muncul di sistem:
State UP
link status NO
Transceiver is unplugged
Cannot get module EEPROM information
ethtool -m di port ini tidak mengembalikan apa-apa.
Yang sudah dicoba:
- tukar-tukar modul antar port dan ganti patch cord - masalahnya ikut portnya, bukan ikut modulnya
- pindahkan link ke switch lain dan ke port switch lain
- ganti NDC-nya dengan yang baru, setelah beberapa waktu dapat hasil yang persis sama
Sementara itu port tetap tercatat UP, jadi sistem menganggap semuanya baik-baik saja dan tidak mengangkat alarm apa pun. Harus gali ke mana lagi - driver, DD OS, atau tetap ke hardware?
Comments 4
Kalau di sistem standalone tidak kejadian, tapi di HA konsisten muncul, hardware bisa dicoret dari daftar curiga. Ini bug driver QLogic yang nongol khusus di konfigurasi HA pada DD OS 7.2. Dari situ juga semua gejalanya masuk akal: port tercatat UP, link tidak ada, dan di log muncul Transceiver is unplugged serta Cannot get module EEPROM information. Driver-nya memang tidak sampai ke EEPROM modul, dan modul apa yang terpasang, tembaga atau optik, sama sekali tidak berpengaruh - makanya tukar-tukar modul, kabel, port switch, bahkan ganti NDC pun tidak menghasilkan apa-apa.
Solusinya update DD OS minimal ke 7.10.1, di situ ada bundel firmware dan driver yang sudah diperbarui, setelah itu gejalanya hilang. Selama jendela update belum disepakati:
Catatan soal dukungan: sebelum upgrade, cek dulu ke vendor soal matriks kompatibilitas khusus untuk konfigurasi HA kalian, 7.10.1 itu batas bawah, bukan rekomendasi untuk pasang persis di situ. Dan untuk ke depannya: di DD yang lebih baru, NDC ini sudah diganti ke arah Intel X710, jadi begitu armada di-upgrade, masalah ini selesai dengan sendirinya.
Tiga pertanyaan buat mempersempit. Pertama: di sistem standalone gejala ini kejadian juga, atau cuma di HA-pair? Ini penting, karena HA mengubah cara interface naik dan berpindah, dan separuh kasus semacam ini justru muncul di situ.
Kedua: di kartu ini cuma ada modul SFP, atau di port sebelah ada DAC yang terpasang? QLogic di dokumentasinya jelas-jelas melarang campur DAC dan SFP di kartu yang sama, dan akibatnya persis begini - sebagian port berhenti bisa baca EEPROM.
Ketiga:
ethtool -mdi port-port sebelah pada kartu yang sama jalan normal, atau ikut diam juga?Sudah bikin bench dan dites. Di sistem standalone dengan modul yang sama dan DD OS 7.2 yang sama, sama sekali tidak bisa direproduksi, sudah dicabut-pasang modul dan reboot berkali-kali tetap tidak kejadian. Cuma muncul di HA-pair, dan sepertinya ini kuncinya.
DAC dan SFP tidak dicampur di kartu yang sama, di keempat port modulnya satu tipe.
ethtool -mdi port-port sebelah terbaca normal, EEPROM keluar lengkap, tapi di ethMa - itu tadi, Cannot get module EEPROM information, sampai portnya sendiri hidup lagi setelah reboot berikutnya.Soal 'pindah dari QLogic' saya setuju. Dulu ada kartu QLogic 8262 (seri 8200) di FreeNAS 11.3-U5 pada HP MicroServer Gen10: kedua PCI-function kedetect, tapi yang jalan cuma ql0, sedangkan ql1 muncul sebagai none2 dan tidak ter-inisialisasi, jadi separuh kartu itu mati begitu saja.
Di log setiap boot muncul
0x200000 bytes of rid 0x10 res 3 failedlalu diikutiunable to map any ports. Disarankan cek lewatpciconf -lapakah ini sebenarnya HP NC523SFP yang di-rebrand, update firmware adapter, dan coba-coba tunable MSI/MSI-X. Tidak ada satu pun yang membantu, kartunya akhirnya diganti, dan untuk storage di situ terang-terangan disarankan pakai Chelsio T520-CR atau Intel X520. Jadi pindah ke X710 di sistem baru kelihatannya memang wajar.