あるリソースにすぐ処理できる量を超えた仕事が来ると、リクエストは順番を待つことがあります。待ち時間が続くと、待ち行列の増加や応答の遅れとして現れます。
サービス監視 · レッスン 5
リソースの飽和
使用率と待ち行列から、サービスがどこで処理能力の限界に近づいているかを見極めます。
処理能力と需要を読み取る
使用率は、リソースがどれだけ使われているかを示します。例えば、ワーカープールでは 4 件の仕事を同時に処理できるとします。4 個のワーカーすべてが稼働していれば、その時点で空きはありません。追加の仕事は、ワーカーが空くまで待ち行列に入ります。
4 個のワーカーが稼働し、3 件の仕事が順番を待っています。何が分かりますか?
時間とともにどう変化するかを比べる
一時的にリクエストが集中する場合と、測定を重ねるたびに待ち行列が伸びる場合では状況が異なります。同じ時間帯の待ち行列、レイテンシ、トラフィックを比較します。
Time Busy workers Queued jobs Typical response
09:10 2 / 4 0 80 ms
09:11 4 / 4 5 300 ms
09:12 4 / 4 14 640 ms
この例では、ワーカーに空きがなく待ち行列も伸びているため、仕事が完了するより速く新しい仕事が届いていると考えられます。ワーカーが何の処理に時間を使っているかを調べます。
負荷が続いていることを最も強く示すのはどれですか?

原因を調べる
ワーカーが埋まる理由には、リクエストの到着が速くなったこと、依存先が遅くなったこと、最近の変更で個々の処理が長引くようになったことなどがあります。リクエスト件数、処理にかかる時間、依存先の観測結果を比較します。別のシグナルも確認すると、対応を選びやすくなります。
リクエスト量は変わらず、処理に時間がかかるようになりました。待ち行列が伸びた理由を調べるには何が役立ちますか?
レッスン完了
リソースの飽和 を完了しました
一時的に忙しいリソースと、待機する仕事がたまり続ける状態を区別できるようになりました。
ワーカーの稼働数をプール全体の処理能力と照らし合わせます。
待ち行列とリクエストの挙動を時系列で比較します。
余裕のないリソースをどの処理が占めているか調べます。