Lotus Notes/Domino (R) をこよなく愛して。。。。 -110ページ目

Domino Cluster環境におけるDBやReplica設定の影響 -5-

<話題の履歴>


Domino Cluster環境におけるDBやReplica設定の影響 -1-

Domino Cluster環境におけるDBやReplica設定の影響 -2-

Domino Cluster環境におけるDBやReplica設定の影響 -3-

Domino Cluster環境におけるDBやReplica設定の影響 -4-



前回は、暗号化されたDBをCluster Mate ServerにAdminPでReplica作成した場合の動きについて試してみました。


今回は、もう少しこの動きについて詳細に試してみたいと思います。


今回利用しているTest環境は、Testのために、Cluster Mate Server側に接続文書を設定し、10分おきにReplicationが行われる設定になっていますが、実際のCluster環境では、ほとんどのCluster ReplicaはCluster Replicatorに任せ、定期Replicaは1日に数回のみ実施するという設定が多いのではないかと思います。


話が逸れますが、Cluster Replicaというのは瞬時(といっても数秒)の間にCluster側に強制的に文書をReplicaするように出来ていますが、負荷が高い場合はその実行が遅れてしまったり、失敗してしまったりする場合があり、これを通常のReplicaで補うという意味から、通常のReplicaを設定するのが推奨構成となっています。

お客様によっては1日1回のみの定期Replica設定という場合もあるでしょうし、数時間おきに定期Replicaを設定している場合もあるでしょう。


これらの設定は、統計情報を確認して適切に計画しないといけないのです。


Cluster Replicaに関する統計は、Server Consoleから"show stat replica.*"を発行することで確認が可能で、以下のような情報がListされます。

統計情報の収集を設定すると、Statrep.nsfでこれらの情報を容易に確認することもできますが、統計情報収集が設定されていない環境では、Program文書を使って"show stat replica.*"を定期的に発行して状態を確認するようにしてもよいでしょう。


> sh stat replica.*
[09A4:0006-0A70] Replica.Cluster.Docs.Added = 7
[09A4:0006-0A70] Replica.Cluster.Docs.Updated = 10
[09A4:0006-0A70] Replica.Cluster.Files.Local = 111
[09A4:0006-0A70] Replica.Cluster.Files.Remote = 111
[09A4:0006-0A70] Replica.Cluster.Retry.Waiting = 0
[09A4:0006-0A70] Replica.Cluster.SCR.DestQueueDepth.Avg = 1
[09A4:0006-0A70] Replica.Cluster.SCR.DestQueueDepth.Max = 1
[09A4:0006-0A70] Replica.Cluster.SCR.DestQueuesStarted = 3
[09A4:0006-0A70] Replica.Cluster.SCR.QueueDepth.Avg = 0
[09A4:0006-0A70] Replica.Cluster.SCR.QueueDepth.Max = 1
[09A4:0006-0A70] Replica.Cluster.SCR.QueuedToDestQueues = 15
[09A4:0006-0A70] Replica.Cluster.SCR.SecondsOnDestQueue.Avg = 0
[09A4:0006-0A70] Replica.Cluster.SCR.SecondsOnDestQueue.Max = 1
[09A4:0006-0A70] Replica.Cluster.SCR.SecondsOnQueue.Avg = 0
[09A4:0006-0A70] Replica.Cluster.SecondsOnQueue = 0
[09A4:0006-0A70] Replica.Cluster.SecondsOnQueue.Avg = 1
[09A4:0006-0A70] Replica.Cluster.SecondsOnQueue.Max = 14

[09A4:0006-0A70] Replica.Cluster.Servers = 1

[09A4:0006-0A70] Replica.Cluster.SessionBytes.In = 2,064
[09A4:0006-0A70] Replica.Cluster.SessionBytes.Out = 4,574
[09A4:0006-0A70] Replica.Cluster.Successful = 8
[09A4:0006-0A70] Replica.Cluster.WorkQueueDepth = 0
[09A4:0006-0A70] Replica.Cluster.WorkQueueDepth.Avg = 0
[09A4:0006-0A70] Replica.Cluster.WorkQueueDepth.Max = 1
[09A4:0006-0A70] Replica.Docs.Added = 7
[09A4:0006-0A70] Replica.Docs.Updated = 10
[09A4:0006-0A70] Replica.Successful = 8
[09A4:0006-0A70] 27 statistics found


この統計情報で基本的に見ておくべき部分は、上記で黄色で示した部分となります。

Replica.Cluster.Retry.WaitingはCluster Replicaが失敗してRetry待ちになっている数で、これが多い場合は何が原因で失敗しているのかを解析する必要があるでしょう。

Replica.Cluster.SecondsOnQueueはCluster Replica Queue上に滞留した時間を示していますが、平均値が問題ない範囲の秒数に収まっていることが重要となります。

また、最大値はServer稼働後の最大値を示していますが、これが異常に長い場合も要注意であり、その場合は、Notes.iniのCluster_Replicators=でCluster Replicatorの数を調整する必要があります。

Cluster.Replica.WorkQueueDepthはCluster Replica Queueに溜まった文書数を示しており、これもCluster Replicatorの数を調整する指標となります。


話をもとに戻して、今回はこの実環境に近い状態の設定にしてどのような動きになるのかを詳細に見ていきます。


前回、「想像ですが」と書きましたが、実はAdminPでのReplica作成の動作については、「When is the AdminP "Accelerated Create Replica" feature used?」 に少しだけ述べられています。

これによると、"Accelerated Create Replica"はBackup APIを利用してReplica作成を行っています。

Backup APIに関しては「Backup and Recovery」 を参照頂くと分かりますが、Backup Toolのために設けられたC APIであり、通常のNRPCでの処理とは異なった処理を行っているのです。

これで、通常のServer.id権限でのAccessではなくなり、Server.idで暗号化されたDBを処理できないのがご理解頂けるのではないかと思います。


少し話がそれましたが、今回は、接続文書の定期Replicaを無効にした状態でTestしてみることにします。

以下のシナリヲでTestを実施してみます。


1. Discussion DBをServerに3個作成


2. 2番目のDBだけ暗号化設定


なぜ、2番目だけ暗号化するのか?と思われるかも知れませんが、これは暗号化DBがあり、"Accelerated Create Replica"が失敗した場合に、次に続く要求の動作が変わるかどうかを検証する目的です。


3. AdminPでCluster Mate Server(Desination Server)にReplica作成要求


要するに、Administrator Clientから、Fileを選択して、Cluster Mate Server(Desitination Server)に対してReplica作成要求を発行するだけです。


この要求は、マニュアル上は基本的に以下のように進んでいく筈です。


 1) Destination ServerへのReplica作成権限のCheck

 2) Destination ServerへのAccelerated Create Replica要求でのReplica作成

 3) Accelerated Create Replica要求でのReplica作成が不可能であった場合は通常のCreate Replica

   要求をDestination Serverに作成

 4) Create Replica要求により、Destination ServerにReplica Stubの作成

 5) Destination Server側で接続文書のScheduled Replicationに従い、Replica StubをReplicaとして完成


では、実際にこのシナリヲで試してみましょう。


試す環境は、VMware Player下にWindows 2012 R2 SE、Domino 9.0.1/Notes 9.0.1を導入した環境で、Domino 9.0.1はPartitioned Serverとして導入し、Partition間でDomino Cluster構成を行った環境です。

Test環境ですので、Cluster専用Networkは構成せず、TCPIP PortだけでCluster Replicaと通常のUser Serviceを兼用するように構成しました。


まず、3つのDBを用意して、一つだけ暗号化します。

全てのDBは最新のODS 51で作成してあります。


Test DB 1 Not Encripted

Test DB 2 Encrepted

Test DB 3 Not Encripted


次に、Administrator Clientから3つのDBが格納されたFolderを選択して、一括でCluster Replicaの作成を行います。



Cluster Replica Creation   Cluster Replica Creation

上記に書いたように、Cluster Replica作成要求を行うと、まず、Replica作成権限のCheckが行われます。



Cluster Replica Creation Check


3つのDBに対して、Source Server上でAdminP Requestが作成され、Destination Serverに対してReplica作成の権限があるかどうかのCheckが行われるのです。


この処理が完了すると、次に、Accelerated Create Replica RequestがSource Server上に生成されます。



Accelerated Create Replica Request


暫く待つと、AdminPにより、Accelerated Create Replica Requestが処理され、暗号化DBを除く2個のDBはAccelerated Create Replicaが成功し、暗号化されたDBはAccelerated Create Replicaが失敗します。

失敗したことが検知されると同時に、AdminPは通常のCreate Replica要求をDestination Serverに生成します。

また、Accelerated Create Replicaが失敗するDBがあったとしても、他のAccelerated Create Replica Requestには影響が出ないこともわかりました。



Accelerated Create Replica


この際のErrorは前回も紹介しましたが、以下のようなErrorで、暗号化されているDBであるために、Access権限がなく、Accelerated Create Replicaが失敗し、通常のCreate Replica Requestが生成されたことを示しています。


Accelerated Create Replica Error


Received the status -- Accelerated replica creation cannot be used with an encrypted database -- trying to create DB\DB03\CluTest2.nsf on DomSrv2/Lotus; a replica creation request has been generated for further processing.


正常に処理された暗号化されていないDBの場合は以下のようなMessageが記録されます。



Accelerated Create Replica Complete

この要求は、Cluster Replicatorにより、瞬時にDestination ServerにReplicaされ、Destination Server側でAdminPにより処理が行われます。



Create Replica Request


処理が完了した時点で、Destination Serverに作成されるのは、Replica Stubのみであり、実際のReplicaが作成されている訳ではありません。



Create Replica Request Result


暗号化されたDBで、Create Replica Requestで処理されたDBだけが、Replica IDだけが表示されたDBとして表示されています。


このAdminPのCreate Replica Requestは単にReplica Stubを生成するだけであり、実際に内容をReplicaしてDBを完全な状態にする訳ではないのです。


ここで賢明な皆さんは気が付かれたかも知れませんが、Cluster Replicationを補完するためのScheduled Replicaの設定が1日1回とかの場合は、次の定期Replicaが実行されるまで、Replica Stubのままの状態になるということです。


ここで、Destination Server側から、Pull Replicaを実行します。


> pull DomSrv1/Lotus DB\DB03\clutest2.nsf
[0564:0002-0A18] 2014/04/29 10:11:05 Database Replicator started
[0564:0002-0A18] 2014/04/29 10:11:05 Replicator is set to Ignore Database Quotas
[0564:0002-0A18] 2014/04/29 10:11:05 Starting replication with server DomSrv1/Lotus
[0564:0002-0A18] 2014/04/29 10:11:05 Replicator initialized DB\DB03\clutest2.nsf from DomSrv1/Lotus DB\DB03\CluTest2.nsf
[0564:0002-0A18] 2014/04/29 10:11:05 Pulling DB\DB03\clutest2.nsf from DomSrv1/Lotus DB\DB03\CluTest2.nsf
[0564:0002-0A18] 2014/04/29 10:11:10 Replicator added 1,263 document(s) to DB\DB03\clutest2.nsf from DomSrv1/Lotus DB\DB03\CluTest2.nsf
[0564:0002-0A18] 2014/04/29 10:11:10 Finished replication with server DomSrv1/Lotus
[0564:0002-0A18] 2014/04/29 10:11:10 Database Replicator shutdown


このReplica実行により、Replicaが完結し、正常なReplicaになるのです。



Create Replica Request Complete


また、この状態でCluster Replicaが完了したDBに新規文書を追加しても、問題なくCluster Replicatorにより文書が追加されます。


つまり、DBの暗号化はServer.idで行われているため、Backup APIを利用したAccelerated Create Replicaには影響するが、Dominoで動くTaskで処理された場合は、Server.idの権限で処理するため、ReplicationやCluster Replicationには影響はないということです。


これで、AdminPを使ったCluster Replica作成の動きに関しては、その動作をご理解頂けたのではないかと思います。


一つ、蛇足ですが、私のTest環境では、この最後のReplicationを実行する前の状態で、Replica Stubを削除してしまった場合、ExploreとかではDBはDestination Serverに存在しない状態であるにも関わらず、AdminPで再度Replica作成要求を行うと、"File Already Exist"のErrorでReplica作成が行えない状態になりました。


この動作も非常に興味ある動きで、一体どこに情報を持っていて、既に無いFileなのにあるという判断をしているのか、興味があるところです。


勿論、Replicaを完成させた後にDBを削除した場合はこのような状態にはならず、Replica Stub状態で削除した場合のみこの現象が現れるのです。

この件に関しては、今回の検証とは別に検証して原因を調査してみたいと思っています。


次回は、Accelerated Create Replicaの動きをもう少しだけ試してみたいと思います。



<続く>

Domino Cluster環境におけるDBやReplica設定の影響 -4-

<話題の履歴>


Domino Cluster環境におけるDBやReplica設定の影響 -1-

Domino Cluster環境におけるDBやReplica設定の影響 -2-

Domino Cluster環境におけるDBやReplica設定の影響 -3-



前回は、暗号化されたDBの検出について、簡単に解説しました。


検証環境が無かったため、実際に起こるErrorについて記述するのを忘れていましたが、以下のようなErrorがLogに報告されます。

Domino 8.5.xとDomino 9.0.xでは若干Error Messageが異なりますが、別のServerでFixupを実行すると、FixupがErrorしてDomino ConsoleやLog.nsfにMessageを表示しますので、このErrorを検索すれば、暗号化されたDBを事前に見つけることができるという訳です。


【Domino 8.5.3 FP6で暗号化したServerでFixup:正常終了】

> load fixup db\db04\
[073C:0002-0AB8] 2014/04/28 06:44:37 Database Fixup: Started: db\db04\
[073C:0002-0AB8] 2014/04/28 06:44:37 Performing consistency check on views in database DB\DB04\Test4.nsf
[073C:0002-0AB8] 2014/04/28 06:44:38 Informational, rebuilding view - no container or index (reading C:\IBM\Lotus\Domino\Data1\DB\DB04\Test4.nsf view note Title:'($Profiles) ($Profiles)')
[073C:0002-0AB8] 2014/04/28 06:44:38 Completed consistency check on views in database DB\DB04\Test4.nsf
[073C:0002-0AB8] 2014/04/28 06:44:38 Database Fixup: Shutdown


【Domino 8.5.3 FP6で別のServerでFixup:Error】

> load fixup db\db04\
[13D8:0002-1168] 2014/04/28 06:48:23 Database Fixup: Started: db\db04\
[13D8:0002-1168] 2014/04/28 06:48:23 Database Fixup: Unable to fixup database db\db04\Test4.nsf: Attempted encryption operation is not supported by this version of Notes.
[13D8:0002-1168] 2014/04/28 06:48:23 Database Fixup: Shutdown


【Domino 9.0.1で暗号化したServerでFixup:正常終了】
> load fixup db\db04\
[0234:0002-0E0C] 2014/04/28 07:01:54 Database Fixup: Started: db\db04\
[0234:0002-0E0C] 2014/04/28 07:01:55 Performing consistency check on views in database DB\DB04\Test4.nsf
[0234:0002-0E0C] 2014/04/28 07:01:55 Informational, rebuilding view - user specified REBUILD (reading C:\IBM\Domino\Data1\DB\DB04\Test4.nsf default design note Title:'')
[0234:0002-0E0C] 2014/04/28 07:01:56 Informational, rebuilding view - no container or index (reading C:\IBM\Domino\Data1\DB\DB04\Test4.nsf view note Title:'($Profiles) ($Profiles)')
[0234:0002-0E0C] 2014/04/28 07:01:56 Completed consistency check on views in database DB\DB04\Test4.nsf
[0234:0002-0E0C] 2014/04/28 07:01:56 Database Fixup: Shutdown


【Domino 9.0.1で別のServerでFixup:Error】
> load fixup db\db04\
[05A4:0002-1230] 2014/04/28 07:04:17 Database Fixup: Started: db\db04\
[05A4:0002-1230] 2014/04/28 07:04:17 Database Fixup: Unable to fixup database db\db04\Test4.nsf: This database has local access protection (encrypted) and you are not authorized to access it
[05A4:0002-1230] 2014/04/28 07:04:17 Database Fixup: Shutdown


さて、では実際に暗号化されたDBをReplica作成した場合にどのような動きになるのかを見てみましょう。


「Domino Cluster環境におけるDBやReplica設定の影響 -2- 」でDBの暗号化はCompactを行った後に有効になると記述しましたが、今回のTestではCompactをしなくても有効になっており、前回のTestと結果が異なっており、この動きに関しては現在調査中です。


AdminP Processを使って、Cluster Mateに対してReplica作成を行うと、通常はAdminPに"Accelerated Create Replica"要求が作成され、通常のReplica作成よりも高速なReplica作成が行われます。

通常のReplicaとは異なり、"Accelerated Create Replica"はOS File Copyに近いPerformanceでReplica作成が行われるのが特徴です。


AdminPで"Accelerated Create Replica"作成要求を行うと、以下のようなErrorが記録されます。


【Domino 8.5.3 FP6】

Received the status -- Server error: Attempted encryption operation is not supported by this version of Notes. -- trying to create DB\DB02\CluTest.nsf on DomSrv2/Lotus; a replica creation request has been generated for further processing.


【Domino 9.0.1】
Received the status -- This database has local access protection (encrypted) and you are not authorized to access it -- trying to create DB\DB02\CluTest.nsf on DomSrv2/Lotus; a replica creation request has been generated for further processing.


暗号化されているためにAccelerated Create ReplicaができないというErrorが報告されるのです。

Accelerated Create ReplicaでのReplica作成は失敗しますが、Errorに記述されている通り、新しくCluster Mate Server側にCreate Replicaの要求が作成され、これにより、Replicaが行われます。


AdminPには以下のように、"Accelerated Create Replica"に失敗して、新しく"Create Replica"がCluster Mate Server側に生成されるのです。


Encripted_DB_Cluster_Replica_Creation


さて、賢明な皆さんはここで少し不思議に思ったのではないでしょうか?


何故、"Accelerated Create Replica"はErrorするのに、Cluster Mate Server側からの"Create Replica"は成功するのか?


これは、"Accelerated Create Replica"の動きを詳細に見てみないと分かりませんが、Webを探しても、"Accelerated Create Replica"に関する詳細な動きを解説した資料は見当たりません。


あくまで現時点での想像ですが、Clientや他のServerからのReplica要求やDB Open要求などはNRPCを使ってServerに対して要求が行われるため、DBへのAccessはDBへのAccess権限を持ったServer.idの権限を使って行われ、この場合は問題なくDBへのAccessができるが、、"Accelerated Create Replica"の場合は、Server.idの権限ではなく、別の方法でDBへのAccessが行われているのではないかということです。


次回は、この動きについてもう少し調査してみたいと思います。



<続く>


Domino Cluster環境におけるDBやReplica設定の影響 -3-

<話題の履歴>


Domino Cluster環境におけるDBやReplica設定の影響 -1-

Domino Cluster環境におけるDBやReplica設定の影響 -2-



前回は、暗号化設定した場合の動作について簡単に解説させて頂きました。


今回は、実際に暗号化した場合の動きに関して解説する予定でしたが、PCの調子が悪く、新しいPCが届くまで実験環境の整備が出来ませんので、少し脱線するかも知れませんが、暗号化されているDBの調査について記述します。


前回、最後に書きましたが、NotesのDatabase ClassではIsEncripted Propertyは提供されていません。

つまり、DBに対してACL上でAccess権限を持っていて、DB Propertyが確認できる状態であったとしても、Programを使って確認することはできないのです。


実は、少し面倒ですが、一括で確認する方法はあります。


前回解説しましたが、Server上にあるDBに対して暗号化設定を行い、Compactが実行された後は、Server.idで暗号化が行われます。

これは、このDBはそのServerに配置している場合で無い限り、DBに対するAccessが不可能になったDBだということです。


逆に考えると、他のServerに移動すると、このDBには別のServer.idを使ってはAccessができず、何らかのErrorを吐くハズなのです。


皆さんも、安易にServerからReplicaを取得して他のIDでDBを開こうとすると、Errorが出て開けないといった経験をしたことがあるのではないでしょうか?



Encripted_DB_Open


最近は(Notes 7からだったと記憶していますが)、Local ReplicaやLocal Copyを取る場合、Securityの観点からDefaultは暗号化してClientにReplica/Copyが取得されるのが標準になっているため、このようなことになります。


話しがそれますが、Serverを物理的に移行する場合、names.nsfやAdmin4.nsfなどのSystemファイルをClientにReplicaしてFileを準備して、単独で追加ServerとしてServerをSetupして、最終的にUser DBなどをCopyして移行するということもあるかと思いますが、この場合、DBの暗号化に注意しないと、Replicaを取得したClientの管理者IDで暗号化されたDBはServer.idが読めずに利用できないという事態が発生するのです。


話しを元に戻すと、別のServer.idで開けない状態になっているということは、別のServerにDBを配置して、Fixupを流すとErrorが出て処理できない状態になります。


これを利用して、CheckしたいDBを別のServerにOS CopyしてFixup Taskを流してやると、LogにErrorが記録され、それを確認すれば暗号化されているDBが特定できるのです。


暗号化DBをCheckする目的であれば、この方法を使えば、事前に確認が出来るということです。



次回は話を元に戻して、暗号化されているDBがあった場合の影響について試してみたいと思います。



<続く>