DigiLoog

今までもラズパイ4をたまに起動してスクラッチ環境として使っていたが、
VPNやProxyなど常時起動させるタイプの動作検証をやりたくなってきたので、
スクラッチ環境を一度リセットして再セットアップする事にした。

本当は数台程度増強してk8sクラスタを作って遊びたかったのだが、
半導体不足の影響でとんでもない値段に上がっており諦めた。
仮想サーバホストが複数台あるので其方で組めなくはないが、
ロマンを求めるならラズパイk8sなので、価格が落ち着いたらチャレンジしたい。

それまで使わないのも勿体無いので、まずはVPNやProxyのテスト用に使う事に。
自宅VPNは今までに何回も構築しているが殆どアプライアンスを使っていた。
今回は敢えて専用アプライアンスを使わずにVPNをリビルドしてみようと思う。
構成すら考えていないので記事に出来る物が出来るかわからないが、
書けそうなネタが溜まったら書こうと思う。

“ns-lab BB”のネットワークはIPv4・IPv6のシングルスタックと、
デュアルスタックを併用した3つの基盤で構成してある。

IPv4のネットワークは仮想サーバが繋がっているメイン利用だが、
IPv6の方は実験用途の意味合いが強く、
あえてラズパイをスタンドアロンのサーバとして使っていた。

ラズパイのメインの目的であったルータ広報はFortigateに変更したのと、
RDNSSを喋りだしたのでDHCPv6も補助的な使い方となり、
残っているメインサーバはキャッシュDNSサーバのみだった。
さらに、記憶領域に使っているSDカードの書き込み制限も怪しくなっており、
データを読み書きするとモッサリする様になってきていた。

という事で、使えなくなると流石に困るので、
IPv6で接続している別サーバへDNSサーバ等を引っ越す事にした。
既に構築がほぼ完了していて動作検証段階なので近い内に構成などを書こうと思う。

本番稼働中の自鯖インスタンスをテスト環境にコピーしながらAnsibleで操作していた時、
何故かAnsibleから操作出来たり出来なかったりと不安定になった。

Ansibleのデバッグログも出力したがunreachableとしか表示されなかった。
実際にSSHで接続すると問題無く接続出来た為、認証鍵が怪しいと判断。
でも、クライアント側で利用しているOpenSSH鍵を作り直したり、
逆に稼働中の物と同じにしても繋がらずお手上げだった。

最終的にパケットキャプチャやカーネルトレースもしたのだが理由がわからず、
ググりつつ試行錯誤したら次の記事に遭遇。

• AnsibleがSSHのMultiplexingを使うときshellモジュールの標準出力が取得できない場合がある
• Ansibleでの環境変数の設定(/etc/environment)が挙動不審

ここでピンと来た。

自鯖のAnsibleはサーバ操作を高速化する為にMultiplexingを有効にしていた。
Multiplexingは指定ディレクトリにSSH接続用のソケットを作成し、
初回はソケット作成して以後のSSHはソケット経由で通信してオーバーヘッドを減らす機能となる。

今回はこのソケット接続が不安定になりSSH出来なくなっていると推測し、
同様の動きをするOpenSSHのControlMasterを弄って接続状況を再現した所、
Ansibleを叩いた時同様に対象サーバに繋がらない状況を再現出来た。

……

原因が判明したからチューニングが簡単というわけでもなく、
Multiplexingを有効にした状態で安定させられないか格闘。
しかし、機能を有効にした状態では安定させられず、最終的にMultiplexingを無効化した。
今回の事象は珍しいかもしれないが、今後再発した時の為にメモしておく。