如何用Linux统计日志信息? (linux统计每天日志)

在信息化时代,大数据的时代下,数据分析与数据挖掘成为了众多企业和科学研究的必修课。而日志信息的收集与处理也成为了其中的一个重要部分。Linux作为一种服务器操作系统,日志信息的存储和处理是其不可或缺的一部分。在本文中,我们将介绍如何使用Linux来统计日志信息。

1. 选择日志文件

首先需要选择要统计的日志文件。在Linux系统中,日志一般存放在/var/log目录下。这里我们选择系统日志文件/var/log/messages作为统计的对象。

2. 选择统计工具

统计日志信息的方式有很多种,常见的有手动分析、文本搜索和log分析软件等。在这里,我们介绍两种常用的工具:grep和awk。

3. 使用grep命令统计日志信息

grep命令是一种文本搜索工具,能够搜索文件内容中包含指定字符的行,并输出这些行。这个工具的使用非常方便,可以灵活地按照不同要求来搜索文件内容。

3.1 查看关键字出现次数

要查看某个关键字在日志文件中出现的次数,可以使用以下命令:

grep -c “关键字” /var/log/messages

其中,“关键字”就是需要查找的关键字,/var/log/messages为日志文件路径。-c表示统计关键字出现的次数。

3.2 统计行数

要统计日志文件中总行数,可以使用以下命令:

grep -c “^” /var/log/messages

其中,^表示每一行的开头,这样就可以很快地统计出总行数。

3.3 统计错误日志

要快速查找日志中的错误信息,可以使用以下命令:

grep “error” /var/log/messages

其中,error为需要查找的错误信息关键字。

4. 使用awk命令统计日志信息

awk命令是一种文本处理工具,可以根据指定的规则对文件内容进行分析和处理。它的使用比grep更加灵活,可以处理更加复杂的数据。

4.1 统计日志文件大小

要统计日志文件的大小,可以使用以下命令:

ls -l /var/log/messages | awk ‘{print $5}’

其中,ls -l表示列出文件的详细信息,$5表示输出第五个字段的内容,也即是文件大小。

4.2 统计日志文件中某一列的总和

在一些业务场景中,我们需要统计日志文件中某一列的总和,这时可以使用以下命令:

awk ‘{sum+=$1} END {print sum}’ /var/log/messages

其中,$1表示之一列的内容,sum+=$1表示累加每一行的之一列的内容,END表示在文件处理结束后执行一次操作,{print sum}表示输出累加结果。

4.3 统计日志文件中某一列的更大值和最小值

有时候,我们需要统计日志文件中某一列的更大值和最小值,可以使用以下命令:

awk ‘BEGIN {max=0; min=0} {if (NR==1) {max=$1; min=$1}; if ($1>max) {max=$1}; if ($1

其中,BEGIN表示在处理文件前执行一次操作,if判断条件中NR==1表示当前行是之一行,max=$1表示将之一列的内容赋值给max,min=$1表示将之一列的内容赋值给min;如果当前行的之一列内容大于max,则将该值赋值给max,如果当前行的之一列内容小于min,则将该值赋值给min。END表示在文件处理结束后执行一次操作,{print max, min}表示输出max和min的值。

本文介绍了如何使用Linux来统计日志信息,其中使用的工具包括grep和awk,从而方便快捷地对服务器日志进行分析和处理。在使用这些工具时,需要根据不同的业务场景灵活运用,才能更好地发挥其作用。

相关问题拓展阅读:

如何实时查看linux下的日志

Linux日志文件在/var/log目录下,可以通过命令查看日志文件。

1,cat messages可以查看某个日志文件。

2,要达到实时更新,可以通改尺过tail命令查看更新的数据,例如tail -f messages。

3,tail命令参数:

-f 循环读取

-q 不显示处理信息

-v 显示详细的处腔携理信息

-c 显示的伍歼伏字节数

-n 显示行数

–pid=PID 与-f合用,表示在进程ID,PID死掉之后结束.

-q, –quiet, –silent 从不输出给出文件名的首部

-s, –sleep-interval=S 与-f合用,表示在每次反复的间隔休眠S秒。

怎样查看linux系统日志

1、Linux下重要日志文件介绍

/var/log/boot.log

该文件记录了系统在引导过程中发生的事件,就是Linux系统开机自检过程显示的信息,如图1所示:

图1 /var/log/boot.log示意

/var/log/cron

该日志文件记录crontab守护进程crond所派生的子进程的动作,前面加上用户、登录时间和PID,以及派生出的进程的动作。CMD的一个动作是cron派生出一个调度进程的常见情况。REPLACE(替换)动作记录用户对它的cron文件的更新,该文件列出了要周期性执行的任务调度。RELOAD动作在REPLACE动作后不久发生,这意味着cron注意到一个用户的cron文件被更新而cron需要把它重新装入内存。该文件可能会查到一些反常的情况。该文件的示意请见图2:

图2 /var/log/cron文件示意

/var/log/maillog

该日志文件记录了每一个发送到系统或从系统发出的电子邮件的活动。它可以用来查看用户使用哪个系统发送工具或把数据发送到哪个系统。图3所示是该日志文件的片段:

图3 /var/log/maillog文件示意

该文件的格式是每一行包含日期、主机名、程序名,后面是包含PID或内核标识的方括号、一个冒号和一个空格,最后是消息。该文件有一个不足,就是被记录的入侵企图和成功的入侵事件,被淹没在大量的正常进程的记录中。但该文件可以由/etc/syslog文件进行定制。由/etc/syslog.conf配置文件决定系统如何写入/var/messages。

/var/log/syslog

默认Fedora不生成该日志文件,但可以配置/etc/syslog.conf让系统生成该日志文件。它和/etc/log/messages日志文件不同,它只记录警告信息,常常是系统出问题的信息,所以更应该关注该文件。要让系统生成该日志文件,在/etc/syslog.conf文件中加上:*.warning /var/log/syslog 该日志文件能记录当用户登录时login记录下的错误口令、Sendmail的问题、su命令执行失败等信息。该日志文件记录最近成功登录的事件和最后一次不成功的登录事件,由login生成。在每次用户登录时被查询,该文件是二进制文件,需要使用lastlog命令查看,根据UID排序显示登录名、端口号和上次登录时间。如果某用户从来没有登录过,就显示为”**Never logged in**”。该命令只能以root权限执行。简单地输入lastlog命令后就会看到类似图4的信息:

图4 lastlog命令的运行结果

/var/log/wtmp

该日志文件永久记录每个用户登录、注销及系统的启动、停机的事件。因此随着系统正常运行时间的增加,该文件的大小也会越来越大,增加的速度取决于系统用户登录的次数。该日志文件可以用来查看用户的登录记录,last命令就通过访问这个文件获得这些信息,并以反序从后向前显示用户的登录记录,last也能根据用户、终端tty或时间显示相应的记录。

/var/run/utmp

该日志文件记录有关当前登录的每个用户的信息。因此这个文件会随着用户登录和注销系统而不断变化,它只保留当时联机的用户记录,不会为用户保留永久的记录。系统中需要查询当前用户状态的程序,如 who、w、users、finger等就需要访问这个文件。该日志文件并不能包括所有精确的信息,因为某些突发错误会终止用户登录会话,而系统没有及时更新 utmp记录,因此该日志文件的记录不是百分之百值得信赖的。

以上提及的3个文件(/var/log/wtmp、/var/run/utmp、/var/log/lastlog)是日志子系统的关键文件,都记录了用户登录的情况。这些文件的所有记录都包含了时间戳。这些文件是按二进制保存的,故不能用less、cat之类的命令直接查看这些文件,而是需要使用相关命令通过这些文件而查看。其中,utmp和wtmp文件的数据结构是一样的,而lastlog文件则使用另外的数据结构,关于它们的具体的数据结构可以使用man命令查询。

每次有一个用户登录时,login程序在文件lastlog中查看用户的UID。如果存在,则把用户上次登录、注销时间和主机名写到标准输出中,然后login程序在lastlog中记录新的登录时间,打开utmp文件并插入用户的utmp记录。该记录一直用到用户登录退出时删除。utmp文件被各种命令使用,包括who、w、users和finger。

下一步,login程序打开文件wtmp附加用户的utmp记录。当用户登录退出时,具有更新时间戳的同一utmp记录附加到文件中。wtmp文件被程序last使用。

/var/log/xferlog

该日志文件记录FTP会话,可以显示出用户向FTP服务器或从服务器拷贝了什么文件。该文件会显示用户拷贝到服务器上的用来入侵服务器的恶意程序,以及该用户拷贝了哪些文件供他使用。

该文件的格式为:之一个域是日期和时间,第二个域是下载文件所花费的秒数、远程系统名称、文件大小、本地路径名、传输类型(a:ASCII,b:二进制)、与压缩相关的标志或tar,或”_”(如果没有压缩的话)、传输方向(相对于服务器而言:i代表进,o代表出)、访问模式(a:匿名,g:输入口令,r:真实用户)、用户名、服务名(通常是ftp)、认证方法(l:RFC931,或0),认证用户的ID或”*”。图5是该文件的部分显示:

图5 /var/log/xferlog文件示意

2、Linux日志输出查看方式

Linux下面提供了许多文本工具来查看和处理日志文件,下面给读者提供一些比较常见和有用的工具。

dmesg

使用dmesg命令可以快速查看最后一次系统引导的引导日志。如图6所示:

图6 dmesg显示结果

如上所示,通常它的内容会很多,所以我们往往使用如下命令以分页的方式显示引导信息,如图7所示:

# dmesg | more

<img src="

” align=”center”>

图7 dmesg|more命令显示结果

tail

tail命令设计用于显示文本文件的最后几行。使用-f开关,当日志增加新的内容时,tail将继续显示新的输出。如图8所示:

# tar -f /var/log/messages

图8 使用tail查看日志

上面的命令将显示/var/log/messages文件的最后6行,然后继续监控那个文件,并输出新的行为。要停止tail -f命令,使用来中止进程。

more和less

more的工作方式与DOS版本相同。您可以将它指向一个文件,或者通过它以管道输出信息,以分页的方式来查看信息。例如,以分页方式显示maillog日志文件的内容:

# more maillog

图9 使用more查看日志

然后,可以使用q或者来停止查看文件。

less 是另一个文本阅读器,不过它还允许在文件中滚动浏览以及检索信息。如下所示:

# less /var/log/cron

图9 使用less命令查看日志

上面的命令将显示/var/log/yum.log文件的内容,可以使用q来停止查看文件。

其他方式

linux统计每天日志的介绍就聊到这里吧,感谢你花时间阅读本站内容,更多关于linux统计每天日志,如何用Linux统计日志信息?,如何实时查看linux下的日志,怎样查看linux系统日志的信息别忘了在本站进行查找喔。


数据运维技术 » 如何用Linux统计日志信息? (linux统计每天日志)