• Zecho
    2018-12-07
    提一个建议,案例的讲解过于简单,与预期有些差距,很多时候我们实际遇到的要比这个复杂,这会带来不是简单的几个命令就可以,特别需要更深入的工具,比如brendan中火焰图,perf-tools,或者systemtab等等;希望能找些实际的案例,谢谢。

    作者回复: 嗯嗯,实际上这里的案例是我故意设计的比较简单,这样初学者可以把重点放到理解当前讲的原理和指标上,而不是看着一堆的新工具和内核函数而感到害怕。当然了,火焰图、perf-tools、systemtap这些工具以后也会讲到,只是还是让我们先把基础的东西铺垫好。

    如果你已经对这些比较熟悉了,推荐去把这些思路应用到实际的系统中去分析,然后在这里跟大家分享你的所得。我相信,你有可能会发现不同的理解,甚至是更好的分析思路。

     1
     36
  • 每天晒白牙
    2018-12-07
    【D8打卡】
    今天主要学习的是系统中出现了大量不可中断进程和僵尸进程的处理方法
    现象:
    ①iowait太高,导致平均负载升高,并且达到了系统CPU的个数
    ②僵尸进程不断增多
    分析过程:
    1.先分析iowait升高的原因
    一般iowait升高,可能的原因是i/o问题
    ①用dstat 命令同时查看cpu和i/o对比情况(如 dstat 1 10 间隔1秒输出10组数据),通过结果可以发现iowait升高时,磁盘读请求(read)升高
    所以推断iowait升高是磁盘读导致
    ②定位磁盘读的进程,使用top命令查看处于不可中断状态(D)的进程PID
    ③查看对应进程的磁盘读写情况,使用pidstat命令,加上-d参数,可以看到i/o使用情况(如 pidstat -d -p <pid> 1 3),发现处于不可中断状态的进程都没有进行磁盘读写
    ④继续使用pidstat命令,但是去掉进程号,查看所有进程的i/o情况(pidstat -d 1 20),可以定位到进行磁盘读写的进程。我们知道进程访问磁盘,需要使用系统调用,
    下面的重点就是找到该进程的系统调用
    ⑤使用strace查看进程的系统调用 strace -p <pid>
    发现报了 strace:attach :ptrace(PTRACE_SIZE,6028):Operation not peritted,说没有权限,我是使用的root权限,所以这个时候就要查看进程的状态是否正常
    ⑥ps aux | grep <pid> 发现进程处于Z状态,已经变成了僵尸进程,所以不能进行系统调用分析了
    ⑦既然top和pidstat都不能找出问题,使用基于事件记录的动态追踪工具
    如果是centos系统,可以使用下面的方法
    在容器外面把分析记录保存,到容器里面查看结果
    操作:
    (1)在centos系统上运行 perf record -g ,执行一会儿按ctrl+c停止
    (2)把生成的perf.data(通常文件生成在命令执行的当前目录下,当然可以通过find | grep perf.data或 find / -name perf.data查看路径)文件拷贝到容器里面分析:
    docker cp perf.data app:/tpm
    docker exec -i -t app bash
    cd /tmp/
    apt-get update && apt-get install -y linux-perf linux-tools procps
    perf_4.9 report
    然后观察调用栈信息,检查是否有磁盘读操作,这个案例是定位到了进行磁盘的直接读,当然也可以查看源码进行验证。因为我的centos系统用老师的 iowait镜像iowait升高不明显,所以使用的是iowait-new2镜像,可以得到想要的结果,但是这个镜像把我的系统能搞崩溃,所以我只能执行到cd /tmp/这步,下面那部就执行不下去了。但是整个分析过程还是理解了。

    2.僵尸进程
    僵尸进程出现的原因是父进程没有回收子进程的资源出现的。解决办法是找到父进程,在父进程中处理,使用pstree查父进程,然后查看父进程的源码检查wait()/waitpid()的调用或SIGCHLD信号处理函数的注册
    展开
    
     20
  • 王涛
    2018-12-07
    d8打卡。看完这部分,作为一名运维人员就尴尬了,当开发跟你说机器性能有问题时,这个问题就变成了甩锅问题。开发说代码没问题,你又看不懂开发的代码。。。

    作者回复: 找出进程就可以甩锅了😊

    从磁盘IO的角度来说,其实很容易找出那些进程在消耗IO资源。因为这里侧重的是CPU使用的分析,所以IO讲的不是特别深入。后续的IO部分还会有更细致的拆解。

    
     19
  • walker
    2018-12-07
    有时候直接杀死僵尸进程的时候会导致服务不可用,或是崩溃。在线上运行的服务出现僵尸进程时,怎样处理比较好呢?
    
     8
  • ninuxer
    2018-12-07
    打卡day9
    在用perf展开的分析详情中,有个children和self都90%多的swapper进程,如果我看到这个,我肯定会先去围绕这个进程展开,而会忽略占用才0.6%得app进程,关于这个情况,是我理解上有什么偏差么?
    
     8
  • 柯锦玲(侠客行)
    2018-12-07
    dock镜像等资料在哪里下载?
     1
     7
  • 白华
    2018-12-07
    今天进行实验看来还是不会成功的,上次在你的docker hub仓库中看到了iowait镜像,试了最新的几个,在centos7虚拟机中还是不行
    
     5
  • 姜小鱼
    2018-12-07
    老师:iowait%生高并不能得出存在io性能的结论,还要继续看io量(dstat)和io并发等情况.那么这个io量到底达到多少才能说明存在性能瓶颈?有一个量化指标吗?期待回复,谢谢

    作者回复: IO部分会讲的

    
     4
  • Andy Huang
    2019-04-03
    不大理解iowait的线程并没有使用CPU的,也不在就绪队列。为什么却要算作是CPU的负载
     1
     2
  • 我来也
    2018-12-07
    [D8打卡]
    今天又学了两个乖, dstat可以同时看cpu和io. (上篇文章安装后只看了下效果,没想到这一层).strace可以追踪系统调用.
    虽然我之前也写过linux c程序,但是看到sys_read/new_sync_read/blkdev_direct_IO确实不知道是正在对磁盘进行直接读, 即使看了代码 也不知道 O_DIRECT 这个参数就是直接读.
    还是功力太浅,线索摆在前面也抓不住,哈哈😁.
    ----
    有些同学问"服务出现僵尸进程时,怎样处理".
    其实我也不知道怎么处理,但是我把那个父进程杀掉, 僵尸进程就几乎没有了.
    上一篇文章中,老师也提到过[通常,僵尸进程持续的时间都比较短,在父进程回收它的资源后就会消亡;或者在父进程退出后,由 init 进程回收后也会消亡]
    展开

    作者回复: 嗯嗯 可以再思考一点,比如假如父进程已经是init了又该怎么办?注意init进程是不会退出的

    
     2
  • 进击的菜鸟运维
    2018-12-07
    后面那两个镜像,我不知道是不是我系统的问题,我运行iowait直接飚满了,系统直接卡死。
    
     2
  • 风一样的男子
    2019-01-28
    老师,我在阿里云上购买的服务器Ubuntu18.04.1,运行命令docker run --privileged --name=app -itd feisky/app:iowait后,app就退出了,是什么原因呢?

    作者回复: 执行 docker logs app看看什么错误?

     1
     1
  • 发条橙子 。
    2018-12-16
    老师 , 我这边使用 stress 来模拟 io 的请求 , 发现 stress 的进程时而 D 时而 R 。 但是用 pidstat 、 iostat 以及 dstat 都没有看到对 磁盘有 读数据请求 和 写数据请求 。 所以这个是 stress 工具本身的问题么 ??

    作者回复: 可能跟stress的选项有关,你的命令是什么?

    
     1
  • 赵强强
    2018-12-08
    倪老师.公司一个服务调用量很大,top命令输出显示php-fpm worker进程cpu使用率很高,但是pidstat输出确找不到该进程,进程确实一直存在的,是什么原因呢

    作者回复: 试试分析下线程

    
     1
  • 路过
    2018-12-07
    听课程,还会需要有点编程的功底,否则这个问题排查起来只能粗暴简单处理了。把锅丢给开发了。:)

    作者回复: 嗯嗯 了解一些编程的基本功很有帮助,特别是复杂问题的最后很可能要去分析函数调用栈等,更需要一定的编程功底。

    
     1
  • 破晓
    2018-12-07
    老师想问下关于cpu使用率这块的概念,sytem的cpu使用率,包不包含iowait的?他们之间是什么关系?

    作者回复: 不包括,这是两个不同的指标

    
     1
  • 帆帆帆帆帆帆帆帆
    2018-12-07
    @jeff,数据库一般都有自己的数据缓冲池bufferpool,在合适的时间,数据库会从磁盘读入数据到bufferpool,或者从bufferpool写出数据到磁盘。在这种情况下,再使用文件系统缓存,反而不会有性能的提升,而且数据库写出数据到磁盘的时候,必须写到了磁盘才算真的完成了数据的持久化。

    作者回复: 嗯嗯,谢谢分享

    
     1
  • hsggj
    2018-12-07
    老师,请问一下,perf除了可以检测C++之外,其他的代码如java,php的问题可以检测吗?

    作者回复: 可以的,我们案例里面已经有一个PHP的示例,我还会在答疑中介绍Java的使用方法。

    
     1
  • york
    2018-12-07
    案例中的app源码,怎么能看得到?

    作者回复: 点击文中的链接进入github

    
     1
  • 路过
    2018-12-07
    用ubuntu 做实验很顺利。请问老师,曾经发生僵尸进程的父进程是1,服务器又不方便重启,如何清理这样的僵尸进程?谢谢老师!
    
     1
我们在线,来聊聊吧