KubernetesでWindowsコンテナをクラスタ化して管理~Node間ルーティング設定編~

過去3回の記事で環境のセットアップLinux上でのKubernetes Master Nodeの構築Windows Node構築を行いました。今回はWindows Node間のルーティングを設定し、コンテナクラスタを完成させます。

スポンサーリンク

0. 環境の構成の確認と参考サイト

今回設定する部分は下図の通り各Node間のルーティング設定となります。

Kubernetes Environment (Routing)

また、設定自体はこちらのサイトの情報をもとに行っています。

1. ネットワークトポロジーの決定

クラスタを構成するためのネットワークトポロジーの構成方法にはいくつかの方法があります。Windowsコンテナーで利用可能なトポロジーは以下の5つがあります。

トポロジー 実装 特徴
上位L3SW Routing Top of RackのL3スイッチでStatic Routing 各Node内のコンテナNW向けルーティングを手動で設定
Host Gateway 各NodeでStatic Routing 各Nodeでクラスタ内全Node向けStatic Routeを手動設定
OVS & OVN with Overlay STTなどのOverlayプロトコルをOpen vSwitch上で実装 Hyper-V vSwitchがあるのにOVSをインストールするなんて・・・
FlannelによるOverlayまたはL2Bridge VXLAN OverlayかL2Bridgeを自動設定 ベータサポート
CalicoによるRouting BGPでRouting設定 開発途中

今回は上記の中でマニュアルがちゃんと存在しているHost Gatewayモードでのネットワーク構成を行います。

2. Linux Master Node出のルーティング設定

以下のコマンドをLinux Master Nodeで実行すると、各Node内にあるコンテナNW向けのStatic Routeを設定できます。

Nodeが増えるたび、Master Nodeを再起動するたびに設定が必要です(あえて非永続的な手順で行っています)。

3. Windows Nodeでのルーティング設定

Windows Nodeの場合、前回の構築の際にGithub上のmicrosoft/SDNレポジトリC:\k\フォルダにダウンロードしているため、AddRoutes.ps1というスクリプトが既に存在しています。

以下の通り引数を指定して実行することで、Kubernetes Masterからクラスタ内のほかのNodeの情報を取得し、Static Routeを設定します。

上記では-MasterIpにLinux Master NodeのIPを、-Gatewayには最初の図に記載の外部NetworkのGatewayを指定します。

このスクリプトによるStatic Route設定は永続的ですが、Nodeが増えるたびに実行する必要があります。

4. サンプルアプリケーションの実行と動作テスト

Kubernetes Master Nodeに低下の通りコマンドを実行し、Windowsコンテナのサンプルアプリケーションを展開します。

展開後、サービスが展開されていることを確認しますs。

出力の確認方法ですが、サンプルアプリケーションでは2個のコンテナをNodeを分散して起動させます。1つ目のコマンドでNODEの欄にWindows Nodeのうち2台が表示されるはずです。そして、正常起動するとSTATUSがRunningとなります。
また、2つ目のコマンドではCLUSTER-IPというアドレスが表示されます。これは負荷分散されたサービスに接続するためのIPで、アクセスするたびにいずれかのコンテナに分散されます。

実際にcurlコマンドでアクセスしてみます。まずはコンテナ自体が持つIPの80/tcpへアクセスしてみます。

次に、このサンプルサービスでは各NodeのIPの4444/tcpへのPort Forwardingも設定しているため、Windows NodeのIPへのcurlでも応答が返ってきます。上記の例では、Node2,3にコンテナが存在するため、その2台にアクセスします。

最後に、Serviceの外部公開IPであるCLUSTER-IPにアクセスしてみます。アクセスするたびにカウンターが増えるので、片方のコンテナにたくさんアクセスしてからテストすると、どちらのNodeにアクセスしているか分かりやすいです。(下記の例ではNode3側のコンテナだけ100回アクセスしたケースです。)

5. 今後の動き

今回までの4回で、Host GatewayモードによるWindowsコンテナークラスタをKubernetesで管理する方法について解説しました。しかし、今回解説した通り、コンテナ間のルーティング設定がすべて手動では、とても本番環境で利用することができません。
2018年2月末の時点では手動以外の方法がOVS/OVNしかなかったのですが、2018年3月4日~8日に行われたMicrosoft MVP Global Summitにてこの件を話したところ、Windowsコンテナでのflannelサポート開発が急激に進み、帰国した3月12日にはベータリリースとなっていました。
そんなわけで、次回はflannelを使ったルーティングを自動的に設定できるクラスタを構成する手順について解説します。(これから検証ですが・・・)