如果服务收到的任务超出某项资源能立即处理的数量,请求就可能需要等待。持续等待会表现为队列积压或响应变慢。
服务监控 · 第 5 课
资源饱和度
学习结合资源利用率和队列,判断服务在哪个环节可能接近容量上限。
理解容量与需求
利用率描述资源已被使用的程度。例如,一个工作池可能最多同时处理四个任务。四个工作单元都忙时,说明工作池当前已用满。此时如果有新任务到达,它可以先进入队列,等其中一个工作单元空闲。
四个工作单元都忙,另有三个任务在排队。可以得出什么结论?
比较不同时刻的指标
短时突发与连续几次观察到的队列增长不同。应在同一时间窗口内把队列、请求延迟和流量放在一起比较。
Time Busy workers Queued jobs Typical response
09:10 2 / 4 0 80 ms
09:11 4 / 4 5 300 ms
09:12 4 / 4 14 640 ms
在这个例子里,工作池一直用满,队列还在增长。这说明任务到达的速度可能超过了完成速度。接下来应检查工作单元都在忙什么。
哪个现象最能说明资源持续承压?

调查原因
工作单元持续忙碌,可能是因为请求来得更快,也可能是依赖服务变慢,或近期的改动让每个任务花费更多时间。把请求量、处理耗时与依赖服务的观测结果相互比较,再决定如何处理。
请求量没有变化,但每个任务开始花更长时间。查什么有助于解释积压?
课程已完成
你已完成 资源饱和度
现在,你可以区分资源暂时很忙和任务持续积压。
把忙碌的工作单元数与工作池容量联系起来。
比较队列与请求表现随时间的变化。
调查哪些任务占用了紧张的资源。