イーサネット トランシーバ TIPS

提供:hkatou_Lab
2024年5月6日 (月) 20:11時点におけるHkatou (トーク | 投稿記録)による版

100G

100G-SR4

10G-SR は OM3 で 300m [1] だが、100G-SR は OM3 で 70m [2] までとかなり短くなっているため、要注意。

FEC

  • FEC が使用可能で、多くのプラットフォームでは自動認識・有効化されます
  • 一般的な FEC モードは、Clause (cl91) RS-FEC
  • FEC を使用しない場合、使用できるファイバーのグレードや長さが制限されます

MPO-12

  • LC-LC の 2 芯ファイバと同じように、両対向の機器間で Tx / Rx を逆転して接続する必要があります
    • 機器と機器を直結 : MPO-12 Type-B
    • Type-B は Tx / Rx が逆転した配線になっている
  • Type-A は以下の場合に使用できます
    1. パッチパネル経由 + Type-B が奇数使用
    2. MPO-12 LC カセット

参考1 : 光ファイバ通信ニュース MPOコネクタ編 P.23-24

参考2 : MPO 光配線ソリューション

PanMPOコネクタは独自の特許技術により、コネクタピンあり/なし、極性(メソッドA/B)を現場で簡単に変換できるMPOコネクタです。

100G-LR4

DWDM ベースで 1295, 1300, 1304, 1309nm の波長を使用する [3]ため、非常に高価。

2024 年現在、今後は 100G-LR1 に移行すると想定されている。

FEC

  • FEC は多くのプラットフォームで自動的に無効化されます
  • 規格上 FEC は無効とのこと

100G-LR1

LR4 を進化させた規格。JANOG53 でも今後推進したいというセッションが発表された。

比較
規格 変調方式 波長数 FEC ブレークアウト メリット デメリット
100G-LR4 NRZ : 2 値 25G x 4 波長 任意 ? (多分無理) 使用実績が長い コストが高い
100G-LR1 PAM4 : 4 値 100G x 1 波長 必須 100G-LR1 自体は 1 波長のため対応しない

400G-PLR4 のブレークアウトと接続可能

IC 部の微細化でコスト低減されそう

波長数が少ないため、HW コンポーネント数が低減 -> MTBF に好影響

リンクアップが遅い

100G-ER4

FEC

  • FEC を使用しない場合、到達距離が 40km -> 30km へ減少します

100G-ERL

ER と比べて 40km -> 25km に到達距離が減少しますが、コストがかなり安くなった規格です。

100G BiDi

BiDi は Bi-Directional の略で、1 双方向伝送を行う規格となり、既存の 2 芯ファイバを活かす規格です。

  • 40G の場合 20 G NRZ 双方向 2 波長 1 芯伝送 x 2 芯で 40G 双方向を実現
  • 100G の場合 50 G PAM-4 双方向 2 波長 1 芯伝送 x 2 芯で 100 G 双方向を実現

Cisco の場合、QSFP-100G-SR4-S と QSFP-40/100-SRBD が同価格です。

MMF は LC 2 芯のほうが MPO-12 の 3 分の 1 程度であるため、トータル コストが安くすみます。

他メーカーの機器同士を接続する場合、波長が異なるために使用できない or 別メーカーにそもそも存在しない模様。(調査中)

100G-CWDM4 / CWDM4-OCP

100 G を 2 芯 SMF で接続する規格です。25 G x 4 波長 = 100 G で伝送します。

4 芯 x TxRx で 8 芯を使用するために MPO-12 ケーブルを採用した SR4 と異なり、芯数が少ないメリットがあります。

100 G トランシーバとしては他の規格と比べ出荷数量が多い [4] ですが、これは以下の背景があります。

  • 波長多重するコストが下がってきた
  • MPO-12 / -24 などの多芯ファイバは、大量のファイバを購入する DC 事業者にとって採用しづらい

メーカー純正のトランシーバは高価なことから、サードパーティ トランシーバでこの規格を採用する事業者が多いようです。

-OCP がつくと、更に低コストで製造できるように動作温度範囲やロスバジェットなどが抑えられて [5] います。

トランシーバの長さ

QSFP 以降は、トランシーバの長さが速度増加に従って長くなっています。

ラック扉を閉められるように、ネットワーク機器のマウント時にラック柱や機器を奥側にずらして設置するケースがあります。

MPO

結線方式

MPO 内部で、ローカル機器側の Tx とリモート機器側の Rx を接続させるように、ケーブルの結線を確認します。

参考 : 光ファイバ通信ニュース MPOコネクタ編

Type A

  • Tx と Tx が接続された、ストレート結線のケーブル
  • パッチパネルを使う場合に一部で使用

Type B

  • 2 芯ファイバのように Tx と Rx を相互に接続された、クロス結線のケーブル
  • 通常手配するタイプのケーブル

Type C

  • 特殊タイプ
  • あまり使われない

ケーブルのガイドピンあり・ピンなしの扱い方

トランシーバにガイドピンが存在するため、通常はピンなし(・Type B) ケーブルを手配するのが基本です。

参考 1 : Mellanox LinkX シリーズケーブル、トランシーバ製品群について。

また、MPO コネクタには、ピン有とピンなしがありますが、
トランシーバにピンがついていますので、トランシーバに
接続する光ケーブルのMPOコネクタにはピン無しのものを選択します。

ピンありケーブルを手配するのは、ケーブルとケーブルを JJ で相互に接続する場合に、片方のケーブルにピンが必要です。

参考 2 : 光ファイバ通信ニュース MPOコネクタ編

P.12

異なるプラグ同士を精密穴と精密ガイドピンで軸合わせ

参考 3: MPO-JJアダプタ

MPOコネクタ同士を接続するアダプタです。
接続時には、どちらかのコネクタがピン付き(オス)である必要があります。

MPO <-> MPO パッチパネル

パッチパネルにピンはないのが一般的みたいです。

ケーブルでピンありとなしを手配する必要があると思われます。

参考 4 : Opticom™ シリーズ MPO アダプターパネル(FAP)

* MTPコネクタはMPOコネクタと完全に互換しています 
MTPはUS Conec社の登録商標です 一方はピンあり、
もう一方はピンなしMPOコネクタで接続してください

MPO <-> LC ブレークアウト パッチパネル

背面に MPO-12 コネクタ -> LC x4 セット 8 芯にブレークアウトし、40G -> 10G x4 などに使用できるパッチパネルがあります。

この場合 MPO-12 はピンありになるケースが多そうです。

参考 5 : FHU 1Uブレイクアウトカセット(96芯、OM4マルチモード、汎用極性、12x MTP®-8 - 24x LCクアッド、水色、最大0.35dB)

リアアダプタータイプ
12x US Conec MTP®-8オス(ピン留め)

10G

10G-T

LDPC 符号化の処理コストが高く、発熱・消費電力・遅延に課題があります。

だいたいどのメーカーでもトランシーバの実装に制限があり、以下のような制限が入ります。

  • 隣り合わせだと装着できない
  • 筐体ごとに最大搭載数で制限される

最初から 10G Base-T を備えた SKU を購入したほうが良いでしょう。

Nexus9000 : SFP-10G-TX トランシーバの導入スキーム

  • 14 本まで
  • 実装位置は 1,4,5,8,12,13,16 と 37,40,41,44,45,48 のポート番号に限られる
  • 隣接ポートは Twinax のみ使用可能となる (17,18 / 35,36 を除く)

Catalyst 9500H (C9500-24Y-4C / C9500-48Y4C) : Hardware Limitations—Optics:

  • スタンド アローン筐体で 8 ポートまで
  • StackWise Virtual の場合、各筐体で 8 ポートまで
  • スピード固定不可

1G

1G-T (Cisco GLC-T , GLC-TE など) トランシーバを使用した場合、通常 100Mbps はサポートされません。

Catalyst 4500 など一部機種ではサポートされますが、オートネゴシエーションができなかったりと制限があります。

Catalyst 4500X 参考 : New Software Features in Release IOS XE 3.7.1E [6]

  • 4500 系では 3.7.1E から 10/100Mbps を限定サポート

Catalyst 9600 参考 : Hardware Features in Cisco IOS XE Gibraltar 16.12.2 [7]

  • GLC-T 1G は 16.12.2- からサポート
  • SUP1 + IOS-XE -17.3.X までは GLC-T で 10/100Mbps をサポートしない

Catalyst 9600 参考 : Hardware Features in Cisco IOS XE Bengaluru 17.4.1 [7]

  • SUP1 + IOS-XE 17.4.1- 以降は C9600-LC-48YL で 10/100Mbps をサポートする
  • ただし CVR-QSFP-SFP10G で QSFP に GLC-T を搭載した場合、10/100Mbps をサポートしない
  • SUP2 は C9600-LC-48YL は 1G 以下をサポートしない [8]

Cisco Optics-to-Device Compatibility Matrix が当てにならない件について

Cisco Optics-to-Device Compatibility Matrix で C9600-LC-48YL を検索すると、

GLC-TE 10/100/1000 Mbps

と記載があるが、リリースノートの記載と明らかに矛盾しているため、対応速度の確認には使ってはいけません。

おそらくトランシーバの対応は 10/100/1000 Mbps だが、OS 側の対応可否が表に反映されていないようです。

  • ツールが Transceiver Compatibility Matrix だった時代は、正確だった記憶が・・・

FEC (Forward Error Correction)

イーサネットで受信したフレームのエラーを検出し、受信側で訂正できる機能です。

プラットフォームによっては、FEC で訂正できた・できなかったフレーム数を取得できます。

100G 世代では規格の種類によってはエラーが起きることが前提になっているため、FEC でエラー訂正を行う必要があります。

  • エラーなしを前提とすると、トランシーバの光源・受光部品が高価になってしまうため

FEC が必要な規格で FEC を使用しない場合、高頻度でエラーフレームを検出[9]してしまいます。

FEC はトランシーバで実装されます。

似た仕組みとして、10G Base-T の LDPC があります。

トランシーバーの挿抜可能回数

50-250 回しか耐えられません。

トランシーバーの耐久挿抜回数
https://www.wavesplitter.jp/index.php/blog/toranshibanonai-jiu-cha-ba-hui-shu
機器側が100回。コネクター側は50回。

MOLEXの機器側コネクターの試験仕様では250回

SFF-8071 Table 7-1 TS-1000 REQUIREMENTS
Rated Durability Cycles	250
Field Life (3, 5, 7, or 10 years)	10 years

SFF-8071 TABLE 7-3 MECHANICAL REQUIREMENTS
Connector/ Cage Durability	100 cycles
Module Durability	 50 cycles

サードパーティ トランシーバ

純正品のトランシーバはメーカー名を EEPROM に書き込むことで、メーカー純正トランシーバとして認識させています。

純正品以外のトランシーバを使用したい場合、OS でコマンドを入れて、使用するケースがあります。

メーカーよりもかなり安価ですが、以下のデメリットが存在します。

  • サポートが受けられない
    • メーカーは Finsar などトランシーバメーカーの製品を純正として採用する際に、検証を実施しています
  • SerDes や光関連のパラメータがチューニングされない [10]

参考 : サードパーティ製トランシーバのロック解除コマンドとサポートまとめ

参考 : Troubleshoot Unsupported Transceiver in Catalyst 3850 Switch Sub-module

Catalyst

(config)#service unsupported-transceiver
(config)#errdisable detect cause gbic-invalid

ブレークアウト接続

40G を 4x10G や、100G を 4x25G に分けて使用することができる技術です。

今後スイッチが高速化されるにつれて、導入が必須となっていくと考えられます。

  • 例) コア スイッチを 400G 対応にリプレースしたいが、ディストリビューション スイッチを 4x100G で収容したい
    • 100G トランシーバでそのまま収容するとポート単価を損するため、4x100G で高速 or 台数を多く収容したい

OS で対応が必要なためスイッチはかなり対応していますが、サーバやアプライアンス系では非サポートの場合が多いため、要注意です。

  • 例) Mellanox の 40G NIC はブレークアウトに対応しない


以下のような構成があります。

ハマりポイント

  • QSFP-40G-SR4-S はブレークアウト非対応 [12]
  • LR の場合は一般的に 4 波長の WDM で Duplex (2 芯) LC となっているため、ブレークアウトには専用型番のトランシーバが必要になる点に注意です。
    • ブレークアウト OK : QSFP-4x10G-LR-S - 波長 x 2 芯 x 4 セット - MPO-12
      • 10G-LR が 4 セットになっているが、同波長のため MPO-12 で芯を分ける必要がある
    • ブレークアウト NG : QSFP-40G-LR4 - 4 波波長 x Duplex (2 芯) LC
      • 10G が 4 セットは同じだが、1 芯に 4 波長を流すため、2 芯で済む
  • OS によって、ブレークアウト接続が制限される場合がある
    • 例) Catalyst 9500 は StackWise Virtual の SVL ポートにブレークアウト接続を使用できない
      • OS が起動していないときにリンクアップする必要があるため
  • 機種によって、ブレークアウト非対応ポートが存在する
    • 例) C9500-32C は 4 の倍数ポートをブレークアウトに使用できない
  • オートネゴシエーションは FEC もネゴシエートする

参考

What are breakouts and how do you use them?

光ファイバケーブル

OM : オプティカル マルチモード

  • 10G の場合 OM3 グレードを使用するのが一般的で、300m の距離を伝送可能
  • OM1 , OM2 は 33 , 82m まで距離が短くなる

OS : オプティカル シングルモード

リファレンス

光イーサネットの変化とオーバー100G対応

Cisco 100Gbps QSFP100 SR1.2 BiDi Pluggable Transceiver At-a-Glance

LR4とCWDM4のコスト差の理由

引用

  1. Cisco SFP-10G-SR-S module (S-Class) The Cisco 10GBASE-SR module supports a link length of 26 meters on standard Fiber Distributed Data Interface (FDDI)-grade Multimode Fiber (MMF). Using 2000 MHz*km MMF (OM3), up to 300-meter link lengths are possible
  2. Cisco QSFP-100G-SR4-S The Cisco 100GBASE-SR4-S QSFP Module supports link lengths of up to 70m over OM3 and 100m over OM4 Multimode Fiber with MPO connectors. It primarily enables high-bandwidth 100G optical links over 12-fiber parallel fiber terminated with MPO multifiber connectors. QSFP-100G-SR4-S supports 100GBase Ethernet rate.
  3. Cisco 100GBASE QSFP-100G Modules Data Sheet Cisco QSFP - QSFP-100G-LR4-S Nominal Wavelength (nm) - 1295, 1300, 1304, 1309
  4. 光トランシーバー関連 の技術仕様 出荷Unit数ではCWDM4が主役 6.5 Million @ JANOG43 (2019/01/25)
  5. 更にコストダウンしたCWDM4-OCP 要求スペックを500mに下げ動作保証温度も狭くすることによりより安価なレーザーを採用しパッケージのコストダウンを狙ったものです。
  6. 10/ 100 Mbps support for GLC-T 10/ 100 Mbps support for GLC-T (1000Base-T) SFP transceiver. You can set the interface speed to 10 or 100, by using the speed interface configuration command. The default setting provides 1000 Mbps with auto-negotiation. (IP Base and Enterprise Services)
  7. 7.0 7.1 Cisco SFP Modules for Gigabit Ethernet Supported Cisco SFP Modules product numbers: GLC-GE-100FX GLC-T (10/100 Mbps) GLC-TE (10/100 Mbps) Note GLC-T and GLC-TE operating at 10/100Mbps speed are not supported with Cisco QSA Module (CVR-QSFP-SFP10G).
  8. Cisco Catalyst 9600 Series Supervisor Engine Data Sheet Table 4.           Line card support for C9600X-SUP-2 C9600-LC-48YL Cisco Catalyst 9600 Series 48-Port 10GE/25GE/50GE1 1 C9600X-SUP-2 only supports speeds of 10GE or higher.
  9. 最大100Gbpsで到達距離100mの「100GBASE-SR4」と40Gbpsで40kmの「40GBASE-ER4」 100GBASE-SR4は、FECがない場合のBERは5×10^-5と、恐ろしく高い。これは要するに5Mbitごとに1bitのエラーが入るというレベルだ。100Gbpsでの通信なので、50μsecごとに1bitエラーが出る、という方が分かりやすいかもしれない。
  10. IX相互接続実証実験を通じて見えてきた400G導入で「変わるこ と」「変わらないこと」 DSP/CDRに保存されている SerDesのチューニング値
  11. The 4x10G connectivity is achieved using an external 12-fiber parallel to 2-fiber duplex breakout cable, which connects the 40GBASE-SR4 module to four 10GBASE-SR optical interfaces.
  12. Because the QSFP-40G-SR4-S does not support 4x10G breakout connectivity,