欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  科技

Linux性能优化之某应用CPU使用率100%,该如何?

程序员文章站 2022-07-23 19:49:00
最常用什么指标来描述系统的 CPU 性能呢?可能不是平均负载,也不是 CPU 上下文切换,而是另一个更直观的指标—— CPU 使用率。 我们前面说过,CPU 使用率是单位时间内 CPU 使用情况的统计,以百分比的方式展示。诸 如 top、ps 之类的性能工具展示的 %user、%nice、 %sys ......

最常用什么指标来描述系统的 cpu 性能呢?可能不是平均负载,也不是 cpu 上下文切换,而是另一个更直观的指标—— cpu 使用率

我们前面说过,cpu 使用率是单位时间内 cpu 使用情况的统计,以百分比的方式展示。诸 如 top、ps 之类的性能工具展示的 %user、%nice、 %system、%iowait 、%steal 等等,它们之间有什么的不同吗? 了解 cpu 使用率的内容,同时,我也会以我们最常用的反向代理服务器 nginx 为 例,一步步操作和分析中深入理解。

cpu 使用率

在上一期我曾提到,linux 作为一个多任务操作系统,将每个 cpu 的时间划分为很短的时间片,再通过调度器轮流分配给各个任务使用,因此造成多任务同时运行的错觉。

为了维护 cpu 时间,linux 通过事先定义的节拍率(内核中表示为 hz),触发时间中断,并使用全局变量 jiffies 记录了开机以来的节拍数。每发生一次时间中断,jiffies 的值就加 1。

节拍率 hz 是内核的可配选项,可以设置为 100、250、1000 等。不同的系统可能设置不同数 值,你可以通过查询 /boot/config 内核选项来查看它的配置值。比如在我的系统中,节拍率设置成了 250,也就是每秒钟触发 250 次时间中断。

$ grep 'config_hz=' /boot/config-$(uname -r)
config_hz=250

同时,正因为节拍率 hz 是内核选项,所以用户空间程序并不能直接访问。为了方便用户空间程 序,内核还提供了一个用户空间节拍率 user_hz,它总是固定为 100,也就是 1/100 秒。这 样,用户空间程序并不需要关心内核中 hz 被设置成了多少,因为它看到的总是固定值 user_hz。

linux 通过 /proc 虚拟文件系统,向用户空间提供了系统内部状态的信息,而 /proc/stat 提供 的就是系统的 cpu 和任务统计信息。比方说,如果你只关注 cpu 的话,可以执行下面的命 令:

# 只保留各个 cpu 的数据
$ cat /proc/stat | grep ^cpu
cpu 280580 7407 286084 172900810 83602 0 583 0 0 0
cpu0 144745 4181 176701 86423902 52076 0 301 0 0 0
cpu1 135834 3226 109383 86476907 31525 0 282 0 0 0

这里的输出结果是一个表格。其中,第一列表示的是 cpu 编号,如 cpu0、cpu1 ,而第一行没有编号的 cpu ,表示的是所有 cpu 的累加。其他列则表示不同场景下 cpu 的累加节拍数,它的单位是 user_hz,也就是 10 ms(1/100 秒),所以这其实就是不同场景下的 cpu 时间。

当然,这里每一列的顺序并不需要你背下来。你只要记住,有需要的时候,查询 man proc 就 可以。不过,你要清楚 man proc 文档里每一列的涵义,它们都是 cpu 使用率相关的重要指 标,你还会在很多其他的性能工具中看到它们。下面,我来依次解读一下。

  • user(通常缩写为 us),代表用户态 cpu 时间。注意,它不包括下面的 nice 时间,但包括 了 guest 时间。

nice(通常缩写为 ni),代表低优先级用户态 cpu 时间,也就是进程的 nice 值被调整为 1- 19 之间时的 cpu 时间。这里注意,nice 可取值范围是 -20 到 19,数值越大,优先级反而 越低。

  • system(通常缩写为 sys),代表内核态 cpu 时间。
  • idle(通常缩写为 id),代表空闲时间。注意,它不包括等待 i/o 的时间(iowait)。
  • iowait(通常缩写为 wa),代表等待 i/o 的 cpu 时间。
  • irq(通常缩写为 hi),代表处理硬中断的 cpu 时间。
  • softirq(通常缩写为 si),代表处理软中断的 cpu 时间。
  • steal(通常缩写为 st),代表当系统运行在虚拟机中的时候,被其他虚拟机占用的 cpu 时 间。
  • guest(通常缩写为 guest),代表通过虚拟化运行其他操作系统的时间,也就是运行虚拟机 的 cpu 时间。
  • guest_nice(通常缩写为 gnice),代表以低优先级运行虚拟机的时间。

而我们通常所说的 cpu 使用率,就是除了空闲时间外的其他时间占总 cpu 时间的百分比,用 公式来表示就是:

Linux性能优化之某应用CPU使用率100%,该如何?

根据这个公式,我们就可以从 /proc/stat 中的数据,很容易地计算出 cpu 使用率。当然,也可 以用每一个场景的 cpu 时间,除以总的 cpu 时间,计算出每个场景的 cpu 使用率。

不过先不要着急计算,你能说出,直接用 /proc/stat 的数据,算的是什么时间段的 cpu 使用率 吗? 看到这里,你应该想起来了,这是开机以来的节拍数累加值,所以直接算出来的,是开机以来的 平均 cpu 使用率,一般没啥参考价值。

事实上,为了计算 cpu 使用率,性能工具一般都会取间隔一段时间(比如 3 秒)的两次值,作 差后,再计算出这段时间内的平均 cpu 使用率,即

Linux性能优化之某应用CPU使用率100%,该如何?

这个公式,就是我们用各种性能工具所看到的 cpu 使用率的实际计算方法。

现在,我们知道了系统 cpu 使用率的计算方法,那进程的呢?跟系统的指标类似,linux 也给 每个进程提供了运行情况的统计信息,也就是 /proc/[pid]/stat。不过,这个文件包含的数据就 比较丰富了,总共有 52 列的数据。

当然,不用担心,因为你并不需要掌握每一列的含义。还是那句话,需要的时候,查 man proc 就行。

回过头来看,是不是说要查看 cpu 使用率,就必须先读取 /proc/stat 和 /proc/[pid]/stat 这两 个文件,然后再按照上面的公式计算出来呢?

当然不是,各种各样的性能分析工具已经帮我们计算好了。不过要注意的是,性能分析工具给出 的都是间隔一段时间的平均 cpu 使用率,所以要注意间隔时间的设置,特别是用多个工具对比 分析时,你一定要保证它们用的是相同的间隔时间。

比如,对比一下 top 和 ps 这两个工具报告的 cpu 使用率,默认的结果很可能不一样,因为 top 默认使用 3 秒时间间隔,而 ps 使用的却是进程的整个生命周期。

怎么查看 cpu 使用率

知道了 cpu 使用率的含义后,我们再来看看要怎么查看 cpu 使用率。说到查看 cpu 使用率的 工具,我猜你第一反应肯定是 top 和 ps。的确,top 和 ps 是最常用的性能分析工具:

  • top 显示了系统总体的 cpu 和内存使用情况,以及各个进程的资源使用情况。
  • ps 则只显示了每个进程的资源使用情况。

比如,top 的输出格式为:

# 默认每 3 秒刷新一次
$ top
top - 11:58:59 up 9 days, 22:47, 1 user, load average: 0.03, 0.02, 0.00
tasks: 123 total, 1 running, 72 sleeping, 0 stopped, 0 zombie
%cpu(s): 0.3 us, 0.3 sy, 0.0 ni, 99.3 id, 0.0 wa, 0.0 hi, 0.0 si, 0.0 st
kib mem : 8169348 total, 5606884 free, 334640 used, 2227824 buff/cache
kib swap: 0 total, 0 free, 0 used. 7497908 avail mem
 pid user pr ni virt res shr s %cpu %mem time+ command
 1 root 20 0 78088 9288 6696 s 0.0 0.1 0:16.83 systemd
 2 root 20 0 0 0 0 s 0.0 0.0 0:00.05 kthreadd
4 root 0 -20 0 0 0 i 0.0 0.0 0:00.00 kworker/0:0h
...

这个输出结果中,第三行 %cpu 就是系统的 cpu 使用率,具体每一列的含义上一节都讲过,只 是把 cpu 时间变换成了 cpu 使用率,我就不再重复讲了。不过需要注意,top 默认显示的是 所有 cpu 的平均值,这个时候你只需要按下数字 1 ,就可以切换到每个 cpu 的使用率了。

继续往下看,空白行之后是进程的实时信息,每个进程都有一个 %cpu 列,表示进程的 cpu 使用率。它是用户态和内核态 cpu 使用率的总和,包括进程用户空间使用的 cpu、通过系统调 用执行的内核空间 cpu 、以及在就绪队列等待运行的 cpu。在虚拟化环境中,它还包括了运行 虚拟机占用的 cpu。

所以,到这里我们可以发现, top 并没有细分进程的用户态 cpu 和内核态 cpu。那要怎么查 看每个进程的详细情况呢?你应该还记得上一节用到的 pidstat 吧,它正是一个专门分析每个进 程 cpu 使用情况的工具。

比如,下面的 pidstat 命令,就间隔 1 秒展示了进程的 5 组 cpu 使用率,包括:

  • 用户态 cpu 使用率 (%usr);
  • 内核态 cpu 使用率(%system);
  • 运行虚拟机 cpu 使用率(%guest);
  • 等待 cpu 使用率(%wait);
  • 以及总的 cpu 使用率(%cpu)。

 最后的 average 部分,还计算了 5 组数据的平均值。

# 每隔 1 秒输出一组数据,共输出 5 组
$ pidstat 1 5
15:56:02 uid pid %usr %system %guest %wait %cpu cpu command
15:56:03 0 15006 0.00 0.99 0.00 0.00 0.99 1 dockerd
...
average: uid pid %usr %system %guest %wait %cpu cpu command
average: 0 15006 0.00 0.99 0.00 0.00 0.99 - dockerd

cpu 使用率过高怎么办? 通过 top、ps、pidstat 等工具,你能够轻松找到 cpu 使用率较高(比如 100% )的进程。接 下来,你可能又想知道,占用 cpu 的到底是代码里的哪个函数呢?找到它,你才能更高效、更针对性地进行优化。

我猜你第一个想到的,应该是 gdb(the gnu project debugger), 这个功能强大的程序调 试利器。的确,gdb 在调试程序错误方面很强大。但是,我又要来“挑刺”了。请你记住, gdb 并不适合在性能分析的早期应用。

为什么呢?因为 gdb 调试程序的过程会中断程序运行,这在线上环境往往是不允许的。所以, gdb 只适合用在性能分析的后期,当你找到了出问题的大致函数后,线下再借助它来进一步调 试函数内部的问题。

那么哪种工具适合在第一时间分析进程的 cpu 问题呢?我的推荐是 perf。perf 是 linux 2.6.31 以后内置的性能分析工具。它以性能事件采样为基础,不仅可以分析系统的各种事件和内核性 能,还可以用来分析指定应用程序的性能问题。

使用 perf 分析 cpu 性能问题,我来说两种最常见、也是我最喜欢的用法。

第一种常见用法是 perf top,类似于 top,它能够实时显示占用 cpu 时钟最多的函数或者指 令,因此可以用来查找热点函数,使用界面如下所示:

$ perf top
samples: 833 of event 'cpu-clock', event count (approx.): 97742399
overhead shared object symbol
 7.28% perf [.] 0x00000000001f78a4
 4.72% [kernel] [k] vsnprintf
 4.32% [kernel] [k] module_get_kallsym
 3.65% [kernel] [k] _raw_spin_unlock_irqrestore
...

输出结果中,第一行包含三个数据,分别是采样数(samples)、事件类型(event)和事件总 数量(event count)。比如这个例子中,perf 总共采集了 833 个 cpu 时钟事件,而总事件数 则为 97742399。

另外,采样数需要我们特别注意。如果采样数过少(比如只有十几个),那下面的排序和百分比 就没什么实际参考价值了。

再往下看是一个表格式样的数据,每一行包含四列,分别是:

  • 第一列 overhead ,是该符号的性能事件在所有采样中的比例,用百分比来表示。
  • 第二列 shared ,是该函数或指令所在的动态共享对象(dynamic shared object),如内 核、进程名、动态链接库名、内核模块名等。
  • 第三列 object ,是动态共享对象的类型。比如 [.] 表示用户空间的可执行程序、或者动态链 接库,而 [k] 则表示内核空间。
  • 最后一列 symbol 是符号名,也就是函数名。当函数名未知时,用十六进制的地址来表示。 

 还是以上面的输出为例,我们可以看到,占用 cpu 时钟最多的是 perf 工具自身,不过它的比 例也只有 7.28%,说明系统并没有 cpu 性能问题。 perf top 的使用你应该很清楚了吧。

接着再来看第二种常见用法,也就是 perf record 和 perf report。 perf top 虽然实时展示了系 统的性能信息,但它的缺点是并不保存数据,也就无法用于离线或者后续的分析。而 perf record 则提供了保存数据的功能,保存后的数据,需要你用 perf report 解析展示。

$ perf record # 按 ctrl+c 终止采样
[ perf record: woken up 1 times to write data ]
[ perf record: captured and wrote 0.452 mb perf.data (6093 samples) ]
$ perf report # 展示类似于 perf top 的报告

在实际使用中,我们还经常为 perf top 和 perf record 加上 -g 参数,开启调用关系的采样,方 便我们根据调用链来分析性能问题。

案例

下面我们就以 nginx + php 的 web 服务为例,来看看当你发现 cpu 使用率过高的问题后, 要怎么使用 top 等工具找出异常的进程,又要怎么利用 perf 找出引发性能问题的函数。

你的准备

案例 基于 ubuntu 18.04,同样适用于其他的 linux 系统。我使用的案例环境如下所示:

  • 机器配置:2 cpu,8gb 内存
  • 预先安装 docker、sysstat、perf、ab 等工具,如 apt install docker.io sysstat linuxtools-common apache2-utils

我先简单介绍一下这次新使用的工具 ab。ab(apache bench)是一个常用的 http 服务性能 测试工具,这里用来模拟 ngnix 的客户端。由于 nginx 和 php 的配置比较麻烦,我把它们打 包成了两个 docker 镜像,这样只需要运行两个容器,就可以得到模拟环境。

注意,这个案例要用到两台虚拟机,其中一台用作 web 服务器,来模拟性能问题;另一台用作 web 服务器的客户端,来给 web 服务增加压力请求。使用两台虚拟机是为了相互隔离,避 免“交叉感染”。

接下来,我们打开两个终端,分别 ssh 登录到两台机器上,并安装上面提到的工具。还是同样的“配方”。下面的所有命令,都默认假设以 root 用户运行,如果你是普通用户身份 登陆系统,一定要先运行 sudo su root 命令切换到 root 用户。到这里,准备工作就完成了。

不过,操作之前,我还想再说一点。这次案例中 php 应用的核心逻辑比较简单,大部分人一眼 就可以看出问题,但你要知道,实际生产环境中的源码就复杂多了。

所以,我希望你在按照步骤操作之前,先不要查看源码(避免先入为主),而是把它当成一个黑 盒来分析。这样,你可以更好地理解整个解决思路,怎么从系统的资源使用问题出发,分析出瓶 颈所在的应用、以及瓶颈在应用中的大概位置。

操作和分析

接下来,我们正式进入操作环节。

首先,在第一个终端执行下面的命令来运行 nginx 和 php 应用:

$ docker run --name nginx -p 10000:80 -itd feisky/nginx
$ docker run --name phpfpm -itd --network container:nginx feisky/php-fpm

接着,我们来测试一下这个 nginx 服务的性能。在第二个终端运行下面的 ab 命令:

# 并发 10 个请求测试 nginx 性能,总共测试 100 个请求
$ ab -c 10 -n 100 http://192.168.0.10:10000/
this is apachebench, version 2.3 <$revision: 1706008 $>
copyright 1996 adam twiss, zeus technology ltd,
...
requests per second: 11.63 [#/sec] (mean)
time per request: 859.942 [ms] (mean)
...

从 ab 的输出结果我们可以看到,nginx 能承受的每秒平均请求数只有 11.63。你一定在吐槽, 这也太差了吧。那到底是哪里出了问题呢?我们用 top 和 pidstat 再来观察下。

这次,我们在第二个终端,将测试的请求总数增加到 10000。这样当你在第一个终端使用性能 分析工具时, nginx 的压力还是继续。

继续在第二个终端,运行 ab 命令:

$ ab -c 10 -n 10000 http://10.240.0.5:10000/

接着,回到第一个终端运行 top 命令,并按下数字 1 ,切换到每个 cpu 的使用率:

$ top
...
%cpu0 : 98.7 us, 1.3 sy, 0.0 ni, 0.0 id, 0.0 wa, 0.0 hi, 0.0 si, 0.0 st
%cpu1 : 99.3 us, 0.7 sy, 0.0 ni, 0.0 id, 0.0 wa, 0.0 hi, 0.0 si, 0.0 st
...
 pid user pr ni virt res shr s %cpu %mem time+ command
21514 daemon 20 0 336696 16384 8712 r 41.9 0.2 0:06.00 php-fpm
21513 daemon 20 0 336696 13244 5572 r 40.2 0.2 0:06.08 php-fpm
21515 daemon 20 0 336696 16384 8712 r 40.2 0.2 0:05.67 php-fpm
21512 daemon 20 0 336696 13244 5572 r 39.9 0.2 0:05.87 php-fpm
21516 daemon 20 0 336696 16384 8712 r 35.9 0.2 0:05.61 php-fpm

这里可以看到,系统中有几个 php-fpm 进程的 cpu 使用率加起来接近 200%;而每个 cpu 的 用户使用率(us)也已经超过了 98%,接近饱和。这样,我们就可以确认,正是用户空间的 php-fpm 进程,导致 cpu 使用率骤升。

那再往下走,怎么知道是 php-fpm 的哪个函数导致了 cpu 使用率升高呢?我们来用 perf 分析 一下。在第一个终端运行下面的 perf 命令:

# -g 开启调用关系分析,-p 指定 php-fpm 的进程号 21515
$ perf top -g -p 21515

按方向键切换到 php-fpm,再按下回车键展开 php-fpm 的调用关系,你会发现,调用关系最 终到了 sqrt 和 add_function。看来,我们需要从这两个函数入手了。

 Linux性能优化之某应用CPU使用率100%,该如何?

我们拷贝出 nginx 应用的源码,看看是不是调用了这两个函数:

# 从容器 phpfpm 中将 php 源码拷贝出来
$ docker cp phpfpm:/app .
# 使用 grep 查找函数调用
$ grep sqrt -r app/ # 找到了 sqrt 调用
app/index.php: $x += sqrt($x);
$ grep add_function -r app/ # 没找到 add_function 调用,这其实是 php 内置函数

ok,原来只有 sqrt 函数在 app/index.php 文件中调用了。那最后一步,我们就该看看这个文 件的源码了:

$ cat app/index.php
<?php
// test only.
$x = 0.0001;
for ($i = 0; $i <= 1000000; $i++) {
 $x += sqrt($x);
}
echo "it works!"

呀,有没有发现问题在哪里呢?我想你要笑话我了,居然犯了一个这么傻的错误,测试代码没删 就直接发布应用了。为了方便你验证优化后的效果,我把修复后的应用也打包成了一个 docker 镜像,你可以在第一个终端中执行下面的命令来运行它:

# 停止原来的应用
$ docker rm -f nginx phpfpm
# 运行优化后的应用
$ docker run --name nginx -p 10000:80 -itd feisky/nginx:cpu-fix
$ docker run --name phpfpm -itd --network container:nginx feisky/php-fpm:cpu-fix

接着,到第二个终端来验证一下修复后的效果。首先 ctrl+c 停止之前的 ab 命令后,再运行下 面的命令:

$ ab -c 10 -n 10000 http://10.240.0.5:10000/
...
complete requests: 10000
failed requests: 0
total transferred: 1720000 bytes
html transferred: 90000 bytes
requests per second: 2237.04 [#/sec] (mean)
time per request: 4.470 [ms] (mean)
time per request: 0.447 [ms] (mean, across all concurrent requests)
transfer rate: 375.75 [kbytes/sec] received
...

从这里你可以发现,现在每秒的平均请求数,已经从原来的 11 变成了 2237。

你看,就是这么很傻的一个小问题,却会极大的影响性能,并且查找起来也并不容易吧。当然, 找到问题后,解决方法就简单多了,删除测试代码就可以了。

小结

cpu 使用率是最直观和最常用的系统性能指标,更是我们在排查性能问题时,通常会关注的第 一个指标。所以我们更要熟悉它的含义,尤其要弄清楚用户(%user)、nice(%nice)、系统 (%system) 、等待 i/o(%iowait) 、中断(%irq)以及软中断(%softirq)这几种不同 cpu 的使用率。比如说:

  • 用户 cpu 和 nice cpu 高,说明用户态进程占用了较多的 cpu,所以应该着重排查进程的 性能问题。
  • 系统 cpu 高,说明内核态占用了较多的 cpu,所以应该着重排查内核线程或者系统调用的 性能问题。
  • i/o 等待 cpu 高,说明等待 i/o 的时间比较长,所以应该着重排查系统存储是不是出现了 i/o 问题。
  • 软中断和硬中断高,说明软中断或硬中断的处理程序占用了较多的 cpu,所以应该着重排查 内核中的中断服务程序。

碰到 cpu 使用率升高的问题,你可以借助 top、pidstat 等工具,确认引发 cpu 性能问题的来 源;再使用 perf 等工具,排查出引起性能问题的具体函数。

技巧:

1.cpu使用率,就是cpu被使用的比例,也就是空闲之外的使用比例。 发现cpu使用率高后,先用perf来抓取cpu消耗栈,很容易发现瓶颈。 另外,用mpstat -p all 来看各个cpu核心的使用率情况,因为top之类的看的是系统总使用率,不一定能发现问题,特别是多进程或者多线程应用。