- 追加された行はこの色です。
- 削除された行はこの色です。
#author("2018-01-28T15:09:24+09:00","default:nowsky","nowsky")
*iSCSI [#x9799fe3]
SCSIコマンドをTCP/IPでカプセリングする事で、既存のIP網でSCSIを扱えるようにする技術。
SAN(StorageAreaNetwork)の形成に利用する技術で、従来はFC(FiberChannel)が使われていた。
既存設備を流用出来るがiSCSIのメリットだがSCSIコマンドをIP網に流す為、
TCP/IPの性質上、パケット送受信・L2/L3スイッチの負荷は注視する必要がある。
#author("2019-01-09T22:11:01+09:00","default:nowsky","nowsky")
*GlusterFS [#k20eee14]
RedHatにより開発されている分散ファイルシステムの一種。
ファイルシステムではあるがコアプログラムはアプリケーション層(ユーザ空間)で動作する。
ファイルシステムのマウントもFUSE・NFSなど様々な物が用意されている為、
用途・環境に併せてシステム構成を変更出来る。
iSCSIは&font(b){1対1のサーバ(iSCSIターゲット)・クライアント(iSCSIイニシエータ)方式};が基本体系となる為、
一つのターゲットに&color(#ff0000){複数のイニシエータを接続するのは非推奨};動作となる。
それでも接続する場合は、ターゲットをクラスタリング構成にするか、
複数イニシエータからの同時操作を抑制(排他)制御する必要がある。
よく、iSCSI・NFS・CIFSで比較される事があるが、
用途がそれぞれ違うので、必要に応じて最適な物を選択する。
GlusterFSは、RAID0/1/5相当の処理をアプリケーションとして実装しているが、
大容量ファイルの処理が早い為、10GigabitEthernetを積んでHCI環境で利用する場合が多い。
~
*参考サイト [#n3f72f97]
-[[Stray Penguin - iSCSI :+http://www.asahi-net.or.jp/~aa4t-nngk/iscsi.html]]
-[[nkjmkzk.net - iSCSI Initiatorのタイムアウト設定:+http://www.nkjmkzk.net/?p=1298]]
-[[iscsi-targetログイン認証付き。Linuxiscsiイニシエータ接続:+http://linux-story.seesaa.net/article/123790372.html]]
-[[udevを使ってデバイス名を固定する:+http://ameblo.jp/itboy/entry-12061407921.html]]
-[[Linuxで4096バイトセクタHDDをfdisk:+http://d.hatena.ne.jp/dayflower/20100330/1269931922]]
*参考サイト [#w627f265]
-[[GlusterFS:+https://www.gluster.org/]]
-[[CentOS7でGlusterFSの環境構築:+https://qiita.com/Yuki-Inamoto/items/2ea1efe862aeba34019c]]
~
*iSCSIイニシエータ [#b3a00173]
-&size(16){&font(b){プログラムのインストール};};
ターゲットに接続する為のアプリがインストールされていない場合インストールしておく。
&font(b){iscsi};と&font(b){iscsid};で間違えそうだが、イニシエータツールは&font(b){&color(#ff0000){iscsi};};、接続を行うデーモンは&font(b){&color(#ff0000){iscsid};};となる。
# yum install iscsi-initiator-utils
# chkconfig iscsid on
* 構築環境 [#h28022db]
-&font(b){OS};：openSUSE Leap 42.3
-&font(b){Type};：3-Node Replicate
-&font(b){Volume};：volgfs
----
|LEFT:100|LEFT:120|LEFT:120|LEFT:120|c
|CENTER:~Parameter|CENTER:~Node-A|CENTER:~Node-B|CENTER:~Node-C|h
|&color(#2020ff){IP Address};|10.0.0.1|10.0.0.2|10.0.0.3|
|&color(#2020ff){Brick HDD};|/dev/sdb|/dev/sdb|/dev/sdb|
|&color(#2020ff){Brick DIR};|/brick|/brick|/brick|
|&color(#2020ff){Brick FS};|xfs|xfs|xfs|
|&color(#2020ff){Mount SYS};|FUSE|FUSE|FUSE|
|&color(#2020ff){Volume DIR};|/gluster|/gluster|/gluster|
|&color(#2020ff){Volume FS};|glusterfs|glusterfs|glusterfs|
~
* インストール [#b3191049]
-&size(16){&font(b){1. リポジトリ追加};};
openSUSEでGlusterFSをインストールする場合、ファイルシステムリポジトリを追加する必要がある。
その為、リポジトリを追加した後にGlusterFSのプログラムをインストールする。
また、GlusterFSをネイティブマウントを行う為に、FUSEもインストールする。
# zypper addrepo https://download.opensuse.org/repositories/filesystems/openSUSE_Leap_42.3/filesystems.repo
# zypper refresh
# zypper install glusterfs fuse
-&size(16){&font(b){基本設定};};
iSCSI利用環境では自動ログイン・マウントが基本になると思われるので、基本設定を変更する。
設定内容は基本的にそのまま(デフォルト)となるが、「node.startup」「node.session.auth.*」は下記の様に変更する。
# vi /etc/iscsi/iscsid.conf
-&size(16){&font(b){2. サービス起動};};
GlusterFSはファイルシステムだが、前途の通りアプリケーションの一種なのでデーモンを起動する。
デフォルトでは自動起動が無効化されている為、デーモンの自動起動も設定する。
# systemctl unmask glusterd
# systemctl enable glusterd
# systemctl start glusterd
# ps -ef | grep glusterd
-&size(16){&font(b){3. ログローテート};};
デフォルトではログローテート設定が無いので手動作成する。
ローテートオプションについては環境に合わせて設定する。
# vi /etc/logrotate.d/glusterfs
---
# iscsidの起動方法
iscsid.startup = /etc/rc.d/init.d/iscsid force-start
# 自動起動・自動接続を行う
node.startup = automatic
# ログイン時の読込みを禁止
node.leading_login = No
# デフォルトの認証方式をCHAPに変更
node.session.auth.authmethod = CHAP
# コネクションエラー発生から、I/Oエラー応答までの待ち時間(単位：秒)
node.session.timeo.replacement_timeout = 120
# ログイン時の待ち時間(単位：秒)
node.conn[0].timeo.login_timeout = 15
# ログアウト時の待ち時間(単位：秒)
node.conn[0].timeo.logout_timeout = 15
# ping死活監視間隔(単位：秒)
node.conn[0].timeo.noop_out_interval = 5
# ping死活監視がエラーと判断するまでの待ち時間(単位：秒)
node.conn[0].timeo.noop_out_timeout = 5
# デフォルトユーザ・パスワードをコメントアウト。CHAP認証情報は後で入力する
#node.session.auth.username = iscsi_user
#node.session.auth.password = iscsi_pass
#node.session.auth.username_in = username_in
#node.session.auth.password_in = password_in
/var/log/glusterfs/*.log
/var/log/glusterfs/bricks/*.log
{
weekly
compress
rotate 4
missingok
ifempty
create 600 root root
sharedscripts
postrotate
systemctl restart glusterd.service > /dev/null
endscript
}
----
-&size(16){&font(b){4. Brickの準備};};
GlusterFSの一時ファイルを格納するBrick領域を準備する。
Brick領域のファイルシステムは、&color(#ff0000){[xfs]};または&color(#ff0000){[ext4]};しか利用出来ない。
オフィシャルでは&color(#ff0000){&font(b){xfsを推奨};};しているので今回はxfsでフォーマットする。
-&size(16){&font(b){ターゲットへの接続};};
念の為、ターゲット一覧を確認した上で接続(ログイン)を行う。
ターゲット指定で利用するIQN/EUIはターゲット側で生成した値を指定する。
Brick領域のパーティションはrootパーティション[/]以外、
物理HDDもrootパーティションを格納しているHDD以外にしないと、
GlusterVolume作成時に警告が出るが、強制実行オプションで無視する事も出来る。
# fdisk /dev/sdb
# mkfs.xfs -i size=512 /dev/sdb1
# mkdir /brick
# mount -p /dev/sdb1 /brick
# blkid /dev/sdb1
# echo "UUID=XXXXXXXX-XXXX-XXXX-XXXX-XXXXXXXXXXXX /brick xfs defaults 1 2" >> /etc/fstab
~
* ピアリング [#j1463b89]
-&size(16){&font(b){1. iptables};};
GlusterFSはファイル同期にTCP/IPを使う為、下記リストの通信許可が必要となる。
ただし、利用するポートは種類が多くiptablesで確実に制御するのは難しい為、
セキュリティ上の問題が無ければ&color(#ff0000){ホスト単位};で通信許可する方が良い。
|CENTER:50|RIGHT:100|LEFT:300|c
|CENTER:~Protocol|CENTER:~Port|CENTER:~Description|h
|&color(#ff2020){TCP};|111|portmap/rpcbind|
|&color(#2020ff){UDP};|111|portmap/rpcbind|
|&color(#ff2020){TCP};|2049|NFS|
|&color(#2020ff){UDP};|2049|NFS|
|&color(#ff2020){TCP};|24007|GlusterFS Daemon|
|&color(#ff2020){TCP};|24008|GlusterFS Management|
|&color(#ff2020){TCP};|24009～Brick|GlusterFS versions earlier than 3.4|
|&color(#ff2020){TCP};|38465～38467|Required for GlusterFS NFS service|
|&color(#ff2020){TCP};|49152～Brick|GlusterFS versions 3.4 and later|
今回は下記条件で作成したiSCSIターゲットへのログイン方法をメモしておく
| 認証方法 | CHAP |
| iSCSIターゲット | 192.168.0.1 |
| ポート番号 | 3260 |
| ポータルグループタグ | 1 |
| IQN | iqn.2016-12.com.hoge:iscsi-target:iscsi.hostname.e12345 |
| ログインユーザ名 | USER |
| ログインパスワード | PASSWORD |
#region(&color(#ff0000){補足事項};)
上記の通信許可リストの内、BrickPort(～Brick)は&color(#ff0000){ノードが格納するBrick数に&font(b){比例};};して範囲で許可する必要がある。
その為、BrickPortはGlusterVolumeの設計によって可変する為、基本は8ポート分くらい多めに見積もってポート開放する。
決め打ちで許可を行う場合は下記を参考に通信許可するポート範囲を決める。
|RIGHT:80|CENTER:50|RIGHT:170|RIGHT:170|c
|CENTER:~Node/Brick|CENTER:~Protocol|CENTER:~Port [First～v3.4]|CENTER:~Port [v3.4～Latest]|h
|&color(#2020ff){1PC/1Brick};|TCP|24009|49152|
|&color(#2020ff){1PC/2Brick};|TCP|24009～24010|49152～49153|
|&color(#2020ff){1PC/3Brick};|TCP|24009～24011|49152～49154|
|&color(#ff2020){2PC/1Brick};|TCP|24009|49152|
|&color(#ff2020){2PC/2Brick};|TCP|24009～24010|49152～49153|
|&color(#ff2020){2PC/3Brick};|TCP|24009～24011|49152～49154|
++ ターゲットが発見出来ているか確認
# iscsiadm -m node
---
192.168.0.1:3260,1 iqn.2016-12.com.hoge:iscsi-target:iscsi.hostname.e12345
iptablesでポート範囲指定の通信許可を行う場合の設定例を記載。
8Brick(1PC/8Port)分を確保する場合は下記のようになる。
# iptables -I INPUT -s ${srcIP} -p tcp --dport 111 -j ACCEPT
# iptables -I INPUT -s ${srcIP} -p udp --dport 111 -j ACCEPT
# iptables -I INPUT -s ${srcIP} -p tcp --dport 2049 -j ACCEPT
# iptables -I INPUT -s ${srcIP} -p udp --dport 2049 -j ACCEPT
# iptables -I INPUT -s ${srcIP} -p tcp --dport 24007:24008 -j ACCEPT
# iptables -I INPUT -s ${srcIP} -p tcp --dport 24009:24017 -j ACCEPT
# iptables -I INPUT -s ${srcIP} -p tcp --dport 38465:38467 -j ACCEPT
# iptables -I INPUT -s ${srcIP} -p tcp --dport 49152:49160 -j ACCEPT
#endregion
++ ターゲットが発見出来ない場合は、手動登録を行う
# iscsiadm -m discovery -t sendtargets -p 192.168.0.1:3260
-&size(16){&font(b){2. GlusterPeer設定};};
GlusterFSのストレージプールを作成する為、クラスタに参加するノードを設定する。
ピア設定はクラスタ内のノード1台で設定すれば全台に自動反映される。
下記は『Node-A：10.0.0.1』で実行する場合のピア接続コマンドとなる。
# gluster peer status
# gluster peer probe 10.0.0.2
# gluster peer probe 10.0.0.3
# gluster pool list
---
192.168.0.1:3260,1 iqn.2016-12.com.hoge:iscsi-target:iscsi.hostname.e12345
UUID Hostname State
XXXXXXXX-XXXX-XXXX-XXXX-XXXXXXXXXXXX 10.0.0.2 Connected
XXXXXXXX-XXXX-XXXX-XXXX-XXXXXXXXXXXX 10.0.0.3 Connected
XXXXXXXX-XXXX-XXXX-XXXX-XXXXXXXXXXXX localhost Connected
~
* ファイルシステム [#t20d3b2a]
-&size(16){&font(b){1. ボリューム作成};};
本来、Brickはマウントポイント直下ではなく、サブディレクトリ上に作成する必要があるが、
今回は『1Volume/1Brick/3Node-Replica』の構成なのでサブディレクトリを作成せず、
マウントポイントをそのままBrick領域として利用する為、&color(#ff0000){[force]オプションを付けて強制作成する。};
++ 認証方式・ユーザ・パスワードをイニシャルセットする
# iscsiadm -m node -T iqn.2016-12.com.hoge:iscsi-target:iscsi.hostname.e12345 -p 192.168.0.1:3260,1 --op update -n node.session.auth.authmethod -v CHAP
# iscsiadm -m node -T iqn.2016-12.com.hoge:iscsi-target:iscsi.hostname.e12345 -p 192.168.0.1:3260,1 --op update -n node.session.auth.username -v USER
# iscsiadm -m node -T iqn.2016-12.com.hoge:iscsi-target:iscsi.hostname.e12345 -p 192.168.0.1:3260,1 --op update -n node.session.auth.password -v PASSWORD
++ ターゲットへのログイン
# iscsiadm -m node -T iqn.2016-12.com.hoge:iscsi-target:iscsi.hostname.e12345 -p 192.168.0.1:3260,1 --login
++ ログイン情報の確認
# cat /var/lib/iscsi/send_targets/{ターゲットIPアドレス,ポート番号}/{IQN,ポータルグループ,ポート番号}/default
++ ターゲットからログアウト
# iscsiadm -m node -T iqn.2016-12.com.hoge:iscsi-target:iscsi.hostname.e12345 -p 192.168.0.1:3260,1 --logout
++ ターゲットの削除
# iscsiadm -m node -o delete -T iqn.2016-12.com.hoge:iscsi-target:iscsi.hostname.e12345 -p 192.168.0.1:3260
----
-&size(16){&font(b){デバイス名の固定化};};
Linuxのデバイス名(/dev/sd*)は、デバイスIDの順序によって順番に割り当てられている。
一度割り当てられたデバイス名が変更される事は基本的に無いのだが、
デバイス起動順序によっては&font(b){デバイス名が変わってしまう};事がある。
デバイス名の変更が発生すると、/etc/fstabのマウント指定に影響が出る為、
&font(b){udevを利用する事で&color(#ff0000){マウントポイントを固定化};させる。};
色々な固定方法が存在するのだが、設定が一番楽だった下記手法を記載しておく。
ポイントはデバイス固定ルールで指定する&font(b){&color(#ff0000){「ENV{ID_SERIAL}」「NAME="sd*%n"」};};の二つとなる。
メモは下記条件を元に作成。コマンド実行結果は長いので必要な部分のみ抜粋する。
| 変更前デバイス名 | /dev/sdb |
| 変更前のマウントポイント1 | /dev/sdb1 |
| 変更前のマウントポイント2 | /dev/sdb2 |
| 固定後デバイス名 | /dev/sdc |
| 固定後のマウントポイント1 | /dev/sdc1 |
| 固定後のマウントポイント2 | /dev/sdc2 |
++ iSCSIターゲットのデバイスシリアル番号の確認
# udevadm info --query=all --name=/dev/sdb | grep ID_SERIAL= | sed 's/.*=//g'
#region(&color(#ff0000){コマンド};)
&font(b){・ボリューム作成};
# gluster vol create volgfs replica 3 10.0.0.1:/brick 10.0.0.2:/brick 10.0.0.3:/brick force
---
abcdef111222333444555666777888999
volume create: volgfs: success: please start the volume to access data
++ デバイス固定ルールの作成
# vi /etc/udev/rules.d/80-scsi.rules
&font(b){・ボリューム開始};
# gluster vol start volgfs
---
SUBSYSTEM=="block", ENV{ID_BUS}=="scsi", ENV{ID_SERIAL}=="abcdef111222333444555666777888999", NAME="sdc%n", OWNER:="root", GROUP:="disk", MODE:="0660"
volume start: volgfs: success
++ デバイスの再認識
# start_udev
++ デバイス認識状況の再確認
# ls -l /dev/disk/by-path
++ デバイスのパーミッション確認
# ls -l /dev/sdc*
&font(b){・ステータス確認};
# gluster vol status
---
brw-rw---- 1 root disk 8, 30 12月 1 12:00 2016 /dev/sdc
brw-rw---- 1 root disk 8, 31 12月 1 12:00 2016 /dev/sdc1
Status of volume: volgfs
Gluster process Port Online Pid
-------------------------------------------------------------------------
Brick 10.0.0.1:/brick 49152 Y XXXXX
Brick 10.0.0.2:/brick 49152 Y XXXXX
Brick 10.0.0.3:/brick 49152 Y XXXXX
Self-heal Daemon on localhost N/A Y XXXXX
Self-heal Daemon on 10.0.0.2 N/A Y XXXXX
Self-heal Daemon on 10.0.0.3 N/A Y XXXXX
-------------------------------------------------------------------------
#endregion
----
-&size(16){&font(b){2. ファイルシステムのマウント};};
GlusterFSはマウント先ノードが停止していた際、自動的に&color(#ff0000){他ノードを再マウントするフォールバック機能};がある。
NFS/FUSE両方とも利用する事が出来るが、NFSでマウントしてフォールバックすると、
ローカルファイルシステムを経由してフォールバック先へアクセスする為&color(#ff0000){アクセス速度が遅くなる。};
今回はマウント先を直接変更出来る、FUSEマウントを利用してネイティブフォールバックを行い、
Replica構成でも一定のアクセス速度を保てるようにする。
-&size(16){&font(b){HDDのフォーマット};};
ターゲットへの接続とデバイス番号の固定が完了したら、ローカルHDDと同様にパーティション設定・フォーマットを行う。
この時、イニシエータでログインしたターゲットHDDが&font(b){&color(#ff0000){4Kバイトセクタ(AFT)モード};};で作成されていた場合、
パーティションの開始セクタ位置を&font(b){&color(#ff0000){63から64(8の2倍)};にずらした上で、フォーマットを行う};必要がある。
#region(&color(#ff0000){コマンド};)
&font(b){・Node-A};
# mkdir /gluster
# mount -t glusterfs 10.0.0.1:/volgfs /gluster -o backup-volfile-servers=10.0.0.2:10.0.0.3
# echo "10.0.0.1:/volgfs /gluster glusterfs defaults,_netdev,backup-volfile-servers=10.0.0.2:10.0.0.3 0 0" >> /etc/fstab
今回は一例として、&font(b){500GBのiSCSIターゲットディスクを4Kバイトセクタモード};で作成し、
1パーティションのext4ファイルシステムでフォーマットする方法をメモしておく。
&font(b){・Node-B};
# mkdir /gluster
# mount -t glusterfs 10.0.0.2:/volgfs /gluster -o backup-volfile-servers=10.0.0.3:10.0.0.1
# echo "10.0.0.2:/volgfs /gluster glusterfs defaults,_netdev,backup-volfile-servers=10.0.0.3:10.0.0.1 0 0" >> /etc/fstab
ext4へのフォーマットは&font(b){「-m 0」};でroot予約ブロックを廃止、&font(b){「-b 4096」};でブロックサイズを4096に変更する。
予約ブロックは&font(b){ディスクフルになった際、rootのみ書き込み出来る予備領域を確保する};オプションだが、
ディスクフル監視している時や、フルまで使わない運用ならば領域確保を廃止する事で、パフォーマンスが向上する。
&font(b){・Node-C};
# mkdir /gluster
# mount -t glusterfs 10.0.0.3:/volgfs /gluster -o backup-volfile-servers=10.0.0.1:10.0.0.2
# echo "10.0.0.3:/volgfs /gluster glusterfs defaults,_netdev,backup-volfile-servers=10.0.0.1:10.0.0.2 0 0" >> /etc/fstab
#endregion
~
* チューニング [#g0eb423b]
-&size(16){&font(b){1. パフォーマンス設定};};
GlusterFSの高速化と可用性向上の為パフォーマンスチューニングを行う。
突き詰めたチューニングを行う場合、kernelチューニングも必要になるが、
kernelチューニングをすると他への影響が出る場合もあるので、今回はGlusterFSのみ設定する。
--[[Managing GlusterFS Volumes:+http://docs.gluster.org/en/latest/Administrator%20Guide/Managing%20Volumes/]]
--[[SCSK GlusterFS紹介:+https://www.scsk.jp/lib/product/oss/pdf/oss_12.pdf]]
・スプリットブレイン時、ノードが55%以上参加するクラスタをMasterとして稼働
# gluster vol set all cluster.server-quorum-ratio 55%
・Quorumの算出方法をクラスタ内のノード数に設定
# gluster vol set volgfs cluster.server-quorum-type server
・Quorumのデフォルト値をノード過半数に設定
# gluster vol set volgfs cluster.quorum-type auto
・死活監視の間隔を5秒に設定
# gluster vol set volgfs network.ping-timeout 5
・GlusterFSのNFSマウント機能を停止
# gluster vol set volgfs nfs.disable true
・GlusterFSのキャッシュメモリを512MBに変更
# gluster vol set volgfs performance.cache-size 512MB
・GlusterFSの最大ファイルキャッシュサイズを64MBに設定
# gluster vol set volgfs performance.cache-max-file-size 64MB
・GlusterFSの最小ファイルキャッシュサイズを1KBに設定
# gluster vol set volgfs performance.cache-min-file-size 1KB
++ fdiskの呼び出し
# fdisk /dev/sdc
-&size(16){&font(b){2. パフォーマンス設定};};
GlusterFSのNFSマウント機能を停止した時、
バージョンによっては下記の様なエラーが大量に出力される場合がある。
0-management: readv on /var/run/gluster/XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX.socket failed (Invalid argument)
++ iSCSIターゲットのセクタサイズ確認 &font(b){[p]};
コマンド (m でヘルプ): p
---
ディスク /dev/sdc: 536.9 GB, 536870912000 バイト
ヘッド 255, セクタ 63, シリンダ 8158
Units = シリンダ数 of 16065 * 4096 = 65802240 バイト
セクタサイズ (論理 / 物理): 4096 バイト / 4096 バイト
I/O size (minimum/optimal): 1048576 bytes / 1048576 bytes
古いバージョンの[[バグ:+http://www.petasan.org/forums/?view=thread&id=126]]が原因だが、設定変更でログ出力を抑制する事が出来る。
今回の設定例ではGlusterFSのNFSを停止している為、下記のエラーログ抑制を行い上記のログ出力を停止する。
# gluster volume set all nfs.disable true
# systemctl stop glusterd
# rm /var/log/glusterfs/etc-glusterfs-glusterd.vol.log
# systemctl start glusterd
++ 基本パーティションの作成 &font(b){[n]→[p]};
コマンド (m でヘルプ): n
---
コマンドアクション
e 拡張
p 基本パーティション (1-4)
---
p
-&size(16){&font(b){3. ウェルノウンポート衝突};};
--[[Red Hat Bugzilla -Bug 762989:+https://bugzilla.redhat.com/show_bug.cgi?id=762989]]
--[[CLIENT_PORT_CIELING (sic):+http://lists.gluster.org/pipermail/gluster-devel/2009-February/034349.html]]
>GlusterFSがBrickに接続する際、&color(#0000ff){宛先ポートはTCP:49152から昇順};にアクセスするが、
ローカルポートは&color(#ff0000){TCP:1024から&font(b){開いている番号の降順};};に利用する。
その為、GlusterFS環境下でIMAPS(TCP:993)やPOP3S(TCP:995)を構築するとポート番号の衝突が多々発生する。
この場合、GlusterFSの&color(#0000ff){「開いている番号を降順に利用」};する仕様を応用し、
GlusterFSが起動する前に、IMAPS/POP3Sのサービスを起動する事で回避出来る。
++ パーティション情報の作成 &font(b){[1]→[改行]→[改行]};
パーティション番号 (1-4): 1
#region(&color(#ff0000){コマンド};)
-GlusterFS
# vi /usr/lib/systemd/system/glusterd.service
---
最初 シリンダ (1-8158, default 1): [改行]
Using default value 1
[Unit]
After=network.target rpcbind.service postfix.service dovecot.service
Before=network-online.target
-Postfix
# vi /usr/lib/systemd/system/postfix.service
---
Last シリンダ, +シリンダ数 or +size{K,M,G} (1-8158, default 8158): [改行]
Using default value 8158
++ パーティションの確認 &font(b){[p]};
コマンド (m でヘルプ): p
[Unit]
After=var-run.mount nss-lookup.target network.target time-sync.target
Before=glusterd.service
-Dovecot
# vi /usr/lib/systemd/system/dovecot.service
---
デバイス ブート 始点 終点 ブロック Id システム
/dev/sdc1 1 8158 524232828 83 Linux
[Unit]
After=local-fs.target network.target
Before=glusterd.service
#endregion
++ 上級者モードへの切替 &font(b){[x]};
コマンド (m でヘルプ): x
-&size(16){&font(b){4. ブリック追加・削除};};
ブリックを追加・削除する際は、ノードをクラスタに追加した後にボリューム操作を実行する。
この時、追加先のボリュームでノード数固定(replica-3など)をしている場合、
先にノード数を変更した後にブリック操作を行う。
++ パーティションの確認 &font(b){[p]};
上級者コマンド (m でヘルプ): p
---
ディスク /dev/sdc: ヘッド 255, セクタ 63, シリンダ 8158
#region(&color(#ff0000){コマンド};)
・volgfsに、 "10.0.0.4:/brick" を追加
# gluster vol add-brick volgfs replica 4 10.0.0.4:/brick
Nr AF Hd Sec Cyl Hd Sec Cyl 開始 サイズ ID
1 00 1 1 0 254 63 1023 63 131058207 83
Partition 1 does not start on physical sector boundary.
2 00 0 0 0 0 0 0 0 0 00
3 00 0 0 0 0 0 0 0 0 00
4 00 0 0 0 0 0 0 0 0 00
++ 開始セクタの移動 &font(b){[b]→[1]→&color(#ff0000){[64]};};
上級者コマンド (m でヘルプ): b
パーティション番号 (1-4): 1
新規データ開始位置 (1-131058269, default 63): 64
++ パーティションの確認 &font(b){[p]};
上級者コマンド (m でヘルプ): p
---
ディスク /dev/sdc: ヘッド 255, セクタ 63, シリンダ 8158
・volgfsから "10.0.0.4:/brick" を削除
# gluster vol remove-brick volgfs replica 3 10.0.0.4:/brick
Nr AF Hd Sec Cyl Hd Sec Cyl 開始 サイズ ID
1 00 1 1 0 254 63 1023 64 131058206 83
Partition 1 does not start on physical sector boundary.
2 00 0 0 0 0 0 0 0 0 00
3 00 0 0 0 0 0 0 0 0 00
4 00 0 0 0 0 0 0 0 0 00
++ パーティション情報の書き込み &font(b){[w]};
上級者コマンド (m でヘルプ): w
++ iSCSIターゲットのフォーマット
# mkfs.ext4 -m 0 -b 4096 /dev/sdc1
----
-&size(16){&font(b){HDDのマウント};};
フォーマットが終わった後はfstabにマウントポイントなどを設定するのだが、
iSCSIを使っている事からネットワークマウントを行う為の設定である&font(b){&color(#ff0000){「_netdev」};};を追加する。
例としてext4でフォーマットしたパーティションのコンフィグ作成内容をメモしておく
++ パーティションUUIDの取得
# blkid /dev/sdc1
---
/dev/sdc1: UUID="f424f1fa-cd1f-4780-94d1-e686897f809e" TYPE="ext4"
++ fstabルールの作成
# vi /etc/fstab
---
UUID=f424f1fa-cd1f-4780-94d1-e686897f809e /mnt/sdc1 ext4 defaults,_netdev 1 2
++ マウント
# mkdir /mnt/sdc1
# mount -a
・ボリューム操作後のリバランス
# gluster vol rebalance volgfs start
#endregion
