2024年10月Linux系统怎么分析Nginx日志?linux系统日志管理教程

发布时间:

  ⑴Linux系统下Nginx 日志可以查看系统运行记录和出错说明,对Nginx 日志的分析可以了解系统运行的状态。那么Linux系统Nginx日志怎么分析呢?

  ⑵Nginx 日志相关配置有 个地方:aess_log 和 log_format 。

  ⑶aess_log /data/logs/nginx-aess.log;

  ⑷log_format old ‘$remote_addr [$time_local] $status $request_time $body_bytes_sent ’

  ⑸‘“$request” “$http_referer” “$http_user_agent”’;

  ⑹相信大部分用过 Nginx 的人对默认 Nginx 日志格式配置都很熟悉,对日志的内容也很熟悉。但是默认配置和格式虽然可读,但是难以计算。

  ⑺Nginx 日志刷盘相关策略可配置:

  ⑻比如,设置 buffer,buffer 满 k 才刷盘;假如 buffer 不满 s 钟强制刷盘的配置如下:

  ⑼aess_log /data/logs/nginx-aess.log buffer=k flush=s;

  ⑽这决定了是否实时看到日志以及日志对磁盘 IO 的影响。

  ⑾Nginx 日志能够记录的变量还有很多没出现在默认配置中:

  ⑿请求数据大小:$request_length

  ⒀返回数据大小:$bytes_sent

  ⒁请求耗时:$request_time

  ⒂所用连接序号:$connection

  ⒃当前连接发生请求数:$connection_requests

  ⒄Nginx 的默认格式不可计算,需要想办法转换成可计算格式,比如用控制字符 ^A (Mac 下 ctrl+v ctrl+a 打出分割每个字段。

  ⒅log_format 的格式可以变成这样:

  ⒆log_format new ‘$remote_addr^A$http_x_forwarded_for^A$host^A$time_local^A$status^A’

  ⒇‘$request_time^A$request_length^A$bytes_sent^A$http_referer^A$request^A$http_user_agent’;

  ⒈这样之后就通过常见的 Linux 命令行工具进行分析了:

  ⒉查找访问频率最高的 URL 和次数:

  ⒊cat aess.log | awk -F ‘^A’ ‘{print $}’ | sort | uniq -c

  ⒋查找当前日志文件 错误的访问:

  ⒌cat aess.log | awk -F ‘^A’ ‘{if($ == print $}’

  ⒍查找当前日志文件 错误的数量:

  ⒎cat aess.log | awk -F ‘^A’ ‘{if($ == print $}’ | wc -l

  ⒏查找某一分钟内 错误访问的数量:

  ⒐cat aess.log | awk -F ‘^A’ ‘{if($ == print $}’ | grep ’:’ | wc-l

  ⒑查找耗时超过 s 的慢请求:

  ⒒tail -f aess.log | awk -F ‘^A’ ‘{if($》 print $}’

  ⒓假如只想查看某些位:

  ⒔tail -f aess.log | awk -F ‘^A’ ‘{if($》 print $″|”$}’

  ⒕查找 错误最多的 URL:

  ⒖cat aess.log | awk -F ‘^A’ ‘{if($== print $}’ | sort | uniq -c

  ⒗cat aess.log | awk -F ‘^A’ ‘{if($== && $ 《 print $″|”$″|”$″|”$}’

  ⒘查看实时日志数据流

  ⒙tail -f aess.log | cat -e

  ⒚tail -f aess.log | tr ‘^A’ ‘|’

  ⒛照着这个思路可以做很多其他分析,比如 UA 最多的访问;访问频率最高的 IP;请求耗时分析;请求返回包大小分析;等等。

  ①这就是一个大型 Web 日志分析系统的原型,这样的格式也是非常方便进行后续大规模 batching 和 streaming 计算。

  ②以上就是Linux系统Nginx日志怎么分析的全部内容了,可以看出来Nginx日志还是有很强大的作用的。