Intel X710とTP-Linkスイッチ: 10G DACでリンクが上がらずポートがNO-CARRIERのまま
サーバーとTP-Linkスイッチの間で10Gを組んでいます、特に変わったことはしていません。カードはシステムから見えていて、ドライバも通常通りロードされますが、ポートのリンクがまったく上がりません。エラーもなければネゴシエーションを試みた形跡もありません。
- サーバー: Intel X710、10GbE SFP+ポート4基、ファームウェア9.140.76856
- スイッチ: TP-Link、SFP+ポート
- ケーブル: OEMのパッシブDAC SFP-10G-CU1M、1メートル
- Linux、インターフェースはシステム上に出現
ポートの状態:
ip link: <NO-CARRIER,BROADCAST,MULTICAST,UP>
ethtool: Link detected: no
Auto-negotiation: off
transceiver: internal
すでにやったこと:
- 手動でインターフェースをアップさせた:
ip link set up dev sfp1 - オートネゴシエーションを有効にした:
ethtool -s sfp1 autoneg on- 変化なし - xl710-unlockerを実行したところ、NVMはすでにアンロック済みという応答で、つまりよくあるロックの罠はここでは関係ない
スイッチ側のポートも同様に沈黙していて、カウンタはゼロのままです。原因はケーブルなのか、カード自体の制限なのか、それとも設定で何かを見落としているのでしょうか?
Comments 5
ここには別々の2つの鍵がからんでいて、いつも混同されます。xl710-unlockerが外すのは、基板の特定ベンダー向けのNVMロックです。モジュール側の制限には触れません: Intelのリテール版ファームウェアは、EEPROMにIntelのコーディングが入っていないSFP+やDACに対しては相変わらず動作を拒否します。症状はまさに今回と同じです、ポートは沈黙、ログは空、インターフェースはNO-CARRIER。つまり「NVMはもうアンロック済み」と「どんなケーブルでも受け付けるはず」はイコールではありません。
実務ではどう対処するか:
options ixgbe allow_unsupported_sfp=1があるが、これはixgbeの話でi40eのX710には関係なく、そういうつまみはない自分ならまず別のケーブルの個体を試します: うちはそれで解決しましたが、機材は人によって違うので自分の環境で確認してください。ついでに普通の光モジュールを何個か試すのもいいでしょう、「ケーブルが気に入らない」のか「ポートが気に入らない」のかを切り分けられます。
いくつか確認させてください、でないと当てずっぽうになります。ケーブルは10G専用と謳われていますか、それともdual-rateですか?
ethtool -m sfp1は何を返しますか、ベンダーとパートナンバーが読み取れていますか、それともポートがモジュール自体を認識していませんか? あと同じDACをスイッチ自体の2つのポート間でループさせてみてください: ループが上がるなら、ケージとケーブルは生きていて話はカードに絞られます。結果を持って戻ってきましたが、半分だけの解決です。もう1本ケーブルを用意しました、今度はギガビットのSFP-1G-DAC0.2Mです。これは即座にリンクアップし、ポートは1000baseX、full duplexで、トラフィックも流れます。10ギガビットのSFP-10G-CU1Mの方は相変わらず沈黙したままです: NO-CARRIERで、カード側にもスイッチ側にもメッセージは一切出ません。
つまりカードもケージも生きていて、この特定の10GケーブルをX710が受け付けたくないというだけのようです。当面はギガビットで凌ぎつつ、互換リストに載っているDACを探しています。
DACにはもう一つ、Intelとは別の落とし穴があります: パッシブSFP+アセンブリの一部は10G専用にコーディングされていて、1000BASE-Xへのフォールバックができません。うちではそういうケーブルが、ファームウェア1.2のTL-SG2210MPのギガビットポートとTL-SX3008Fをどうしても接続してくれず、同じケーブルが2台の10ギガビット機器の間では何の問題もなく動いていたのに、という状況でした。効くのはdual-rateだけです、スペックに両方の速度が明記されていて、さらに両側で1000Mbit/sとfull duplexを強制的に固定した場合に限ります。知人のところではUnifi製のSFP+ DACがER8411とSG2428Pの間で普通に動いているので、SFPとSFP+の組み合わせ自体が死刑宣告というわけではありません。
ギガビットが上がったのなら、ケーブルを完全に見限る前にスイッチ側ポートの速度とデュプレックスを確認してください。T1700X-16TSでこんな話がありました: SFP+ポートがSynologyの10Gカードとの間で、専用の3メートルTXC432-CU3Mを使ってもリンクしたがらず、しかも同じケーブルと同じNASがNetgear XS708E経由では問題なく動作し、スイッチは2回工場出荷設定に戻されていました。同じDACをスイッチ自体の2つのSFP+ポート間でループさせたところリンクアップしたので、ケーブルとケージ自体は正常でした。
サポートが提案したのは段階を踏むことでした: ケーブルが互換リストに載っているものか確認する、SFP+ポートの速度とデュプレックスを変更する、そのうえでデュプレックスをautoに設定する、デフォルトではfullになっているから、という手順です。最終的にどうなったかは投稿者が書かないままでしたが、手順自体は理にかなっています。