A-Ops 数据库场景在线应用性能诊断案例

数据库场景下,由于操作系统某些进程操作(比如磁盘、网络等)占用I/O带宽过高,造成应用因为I/O带宽不足产生性能劣化的问题,如何快速、准确地诊断应用性能问题,并对问题进行定界定位是运维人员的重要挑战。

  • 案例1. gaussdb应用磁盘IO类故障在线诊断

    该案例通过对Gaussdb应用注入磁盘IO故障来模拟。

  1. 故障注入前
    应用实时拓扑关系如下图所示,gaussdb应用包含1个master(进程id:1548)和1个slaver(进程id:1739),运行在虚拟机vm02上,gaussdb master有5个客户端TCP连接。


    此时,gaussdb的应用性能如下图所示,平均600 TPS。

  2. 注入故障
    在gaussdb的数据目录注入磁盘读写故障,命令如下:blade create disk burn --read --write --path /data --timeout 120
    image-20230307201437384

  3. 应用性能诊断
    此时应用性能出现劣化,从大概600 TPS → 60 TPS,下降了近10倍,如下图所示:


    故障发现与定位结果如下图所示,可以看出已产生应用性能劣化事件,原因是磁盘读写响应异常。

    具体的故障传播关系如下图所示,可见应用性能劣化是因为磁盘写响应异常以及block层request时延异常,进一步的磁盘类异常是由于故障注入工具chaos(进程id:3941335)导致。

  • 案例2. redis应用网络时延类故障在线诊断
  1. 注入故障
    通过故障注入工具ChaosBlade注入2分钟网络时延故障,具体命令:blade create network delay --time 50 --offset 50 --interface ens1 --local-port 3742 --timeout 120


    故障注入期间redis sli指标出现明显劣化,大概从10ms → 80ms

  2. 应用性能诊断
    故障发现与定位结果如下图所示,可以看出已产生应用性能劣化事件,原因是网络时延异常。



    具体的故障传播关系如下图所示,可见应用性能劣化是因为网络时延异常导致。

1 个赞

你好,方便分享下使用的topo-relation.yaml及使用的探针配置吗?