探秘Linux内核的组织架构:源码树与内核子系统简介 (linux内核组织架构)

Linux操作系统的内核是其最重要的组成部分之一。内核的作用是控制系统硬件并为其他程序提供服务接口。Linux内核有很多模块,这些模块都有自己的职责和功能。为了更好地理解Linux内核的组织架构,我们需要了解一下它的源码树和内核子系统。

一、源码树

Linux内核的源码树是一个分层的目录结构,包括内核源码、相关的文档和编译工具。它是一个由文件和目录组成的树形结构,每个目录都有一个特定的目的。

1. arch目录

arch目录包含各种支持的架构(平台)的子目录。每个目录下面都有与该架构相关的源码文件。这些文件定义了该架构的硬件体系结构与软件体系结构的细节。

2. block目录

block目录包含块设备相关的代码。它包括了文件系统的读写操作、磁盘驱动程序等。这些代码可以提高IO性能,减少磁盘的损坏。

3. crypto目录

crypto目录包含的是Linux内核的加密子系统。即可用于数据加密和解密的一些算法和接口。这是一个很重要的子系统,用于保护用户数据和敏感信息。

4. fs目录

fs目录是Linux内核的文件系统子系统。它包括所有文件系统相关的代码,如文件系统的读写、缓存等。

5. include目录

include目录包含所有Linux内核的头文件。这些头文件为内核的其他模块提供函数和变量的声明和定义。

6. init目录

init目录包含Linux内核的启动代码。这些代码将配置系统的硬件并启动之一个进程,加载之一个用户态程序。

7. kernel目录

kernel目录包含了内核核心代码。这些文件实现了程序运行的核心功能,包括进程调度、内存管理、信号管理等。

8. lib目录

lib目录是一个通用目录,包含的是内核的通用库函数。

9. mm目录

mm目录是Linux内核的内存管理子系统。它包括内存分配和释放、虚拟内存和物理内存的映射等。

10. net目录

net目录是Linux内核的网络子系统。它包括tcp、udp、ip协议栈等网络协议的实现。

11. security目录

security目录是Linux内核的安全子系统。它提供基于角色、基于策略的访问控制。

12. sound目录

sound目录是Linux内核的音频子系统。它提供处理音频的功能,如音频I/O、音频编解码等。

二、内核子系统

除了源码树之外,Linux内核还有很多子系统。每个子系统负责某一方面的工作,并提供对外的接口。

1. 进程子系统

进程子系统包括进程管理、调度和同步原语。它提供了内核和用户程序之间的接口。通过进程子系统,用户程序可以创建、销毁进程,以及控制进程执行和资源申请。

2. 内存子系统

内存子系统负责内存分配和释放、页面管理、虚拟内存和物理内存的映射、交换等。它是内核中最基础的子系统之一。

3. 文件系统子系统

文件系统子系统是Linux内核的一个核心子系统。它提供所有文件系统的通用接口,包括打开、关闭、读写、复制、创建、删除等。

4. 网络子系统

网络子系统是Linux内核的另一个核心子系统。它实现了一系列网络协议,如TCP/IP协议栈、路由、ARP协议、网络设备驱动等。

5. 设备子系统

设备子系统是Linux内核的另一个重要子系统。它负责管理系统硬件设备,如磁盘、USB设备、声卡、网卡等。设备驱动程序就是在设备子系统的基础上实现的。

6. 安全子系统

安全子系统实现了系统的安全机制,如SELinux。它通过提供安全策略和权限检查,保护系统和用户的安全。

7. 电源管理子系统

电源管理子系统提供了对系统电源的管理。它可以在系统空闲或没有任何任务时,自动将系统进入睡眠状态,以节省电能。

Linux内核是一个非常庞大和复杂的系统。它由许多不同的模块和子系统组成,每个子系统有自己的职责和功能。要想深入了解Linux内核,需要对其源码树和各个子系统有一定的了解。熟悉这些结构,可以帮助我们更好地理解Linux内核,并更好地开发和维护Linux系统。

相关问题拓展阅读:

Linux 内核的内存管理 – 概念

Concepts overview — The Linux Kernel documentation

Linux中的内存管理是一个复杂的系统,经过多年的发展,它包含越来越多的功能,以支持从 MMU-less microcontrollers 到 supercomputers 的各种系统。

没有MMU内存管理的系统被称为 nommu ,它值得写一份专门的文档进行描述。

尽管有些概念是相同的,这里我们假设MMU可用,CPU可以将虚拟地址转换为物理地址。

计算机系统中的物理内存是有限资源,即便支持内存热插拔,其可以安装的内存也有限的。物理内存不一定必须是连续的;它可以作为一组不同的地址范围被访问。此外,不同的CPU架构,甚至同架构的不同实现对如何定义这些地址范围都是不同的。

这使得直接处理物理内存异常复杂,为了避免这种复杂性,开发了

虚拟内存 (virtual memory)

的概念。

虚拟内存从应用软件中抽象出物理内存的细节,只允许在物理内存枣神中保留需要的信息

(demand paging)

,并提供一种机制来保护和控制进程之间的数据共享。

通过虚拟内存,每次内存访问都访问一个

虚拟地址

。当CPU对从系统内存读取(或写入)的指令进行解码时,它将该指令中编码的虚拟地址转换为内存控制器可以理解的物理地址。

物理内存被切分为

页帧 page frames

页 pages

。页的大小是基于架构的。一些架构允许从几个支持的值中选择页大小;此选择在内核编译时设置到内核配置。

每个物理内存页都可以映射为一个或多个

虚拟页(virtual pages)

。映射关系描述在

页表(page tables)

中,页表将程序使用的虚拟地址转换为物理内存地址。页表以层次结构组织。

更底层的表包含软件使用的实际内存页的物理地址。较高层的表包含较低层表页的物理地址。顶层表的指针驻留在寄存器中。

当CPU进行地址转换的时候,它使用寄存器访问顶级页表。

虚拟地址的高位,用于顶级页表的条目索引。然后,通过该条目访问下级,下级的虚拟地址位又作为其下下级页表的索引。虚拟地址的更低位定义实际页内的偏移量。

地址转换需要多次内存访问,而内存访问相对于CPU速度来说比较慢。为了避免在地址转换上花费宝贵的处理器周期,CPU维护着一个称为

TLB

(Translation Lookaside Buffer)的用于地址转换缓存(cache)。通常TLB是非常稀缺的资源,需要大内存工作应用程序会因为TLB未命中而影响性能。

很多现代CPU架构允许页表的高层直接映射到内存页。例如,x86架构,可以通过二级、三级页表的条目映射2M甚至1G内存页。在Linux中,这些内存页称为

大页 (Huge)

。大页的使用显著降低了TLB的压力,提高了TLB命中率,从而提高了系统的整体性能。

Linux提供两种机制开启使用大页映射物理内存。

之一个是

HugeTLB

文件系统,即

hugetlbfs

。它是一个伪文件系统,使用RAM作为其存储。在此文件系统中创建的文件,数据驻留在内存中,并使用大页进行映射。

关于 HugeTLB Pages

另一个被称为

THP (Transparent HugePages)

,后出的开启大页映射物理内存的机制。

hugetlbfs

不同,hugetlbfs要求用户和/或系统管理员配置系统内存的哪些部分应该并可以被大页映射;THP透明地管理这些映射并获取名称。

关于 Transparent Hugepage Support

通常,硬件对不同物理内存范围的访问方式有所限制。某些情况下,设备不能对所有可寻址内存执行DMA。在其他情况下,物理内存的大小超过虚拟内存的更大可寻址大小,需要采取改岩大特殊措施来访问部分内存。还有些情况,物理内存的尺寸超过了虚拟内存的更大可寻址尺寸,需要采取特殊措施来访问部分内存。

Linux根据内存页的使用情况,将其组合为多个

zones

。比如, ZONE_DMA 包含设备用于DMA的内存, ZONE_HIGHMEM 包含未永久映射到内核核竖地址空间的内存, ZONE_NORMAL 包含正常寻址内存页。

内存zones的实际层次架构取决于硬件,因为并非所有架构都定义了所有的zones,不同平台对DMA的要求也不同。

多处理器机器很多基于

NUMA

(Non-Uniform Memory Access system – 非统一内存访问系统 )架构。 在这样的系统中,根据与处理器的“距离”,内存被安排成具有不同访问延迟的

banks

。每个

bank

被称为一个

node

,Linux为每个

node

构造一个独立的内存管理子系统。

Node

有自己的zones、free&used页面列表,以及各种统计计数器。

What is NUMA?

NUMA Memory Policy

物理内存易失,将数据放入内存的常见情况是读取文件。读取文件时,数据会放入

页面缓存(page cache)

,可以在再次读取时避免耗时的磁盘访问。同样,写文件时,数据也会被放入

页面缓存

,并最终进入存储设备。被写入的页被标记为

脏页(dirty page)

,当Linux决定将其重用时,它会将更新的数据同步到设备上的文件。

匿名内存 anonymous memory

匿名映射 anonymous mappings

表示没有后置文件系统的内存。这些映射是为程序的stack和heap隐式创建的,或调用mmap(2)显式创建的。通常,匿名映射只定义允许程序访问的虚拟内存区域。读,会创建一个页表条目,该条目引用一个填充有零的特殊物理页。写,则分配一个常规物理页来保存写入数据。该页将被标记为脏页,如果内核决定重用该页,则脏页将被交换出去

swapped out

纵贯整个系统生命周期,物理页可用于存储不同类型的数据。它可以是内核内部数据结构、设备驱动DMA缓冲区、读取自文件系统的数据、用户空间进程分配的内存等。

根据内存页使用情况,Linux内存管理会区别处理。可以随时释放的页面称为

可回收(reclaimable)

页面,因为它们把数据缓存到了其他地方(比如,硬盘),或者被swap out到硬盘上。

可回收页最值得注意的是

页面缓存

匿名页面

在大多数情况下,存放内部内核数据的页,和用作DMA缓冲区的页无法重用,它们将保持现状直到用户释放。这样的被称为

不可回收页(unreclaimable)

然而,在特定情况下,即便是内核数据结构占用的页面也会被回收。

例如,文件系统元数据的缓存(in-memory)可以从存储设备中重新读取,因此,当系统存在内存压力时,可以从主内存中丢弃它们。

释放可回收物理内存页并重新调整其用途的过程称为

(surprise!) reclaim

Linux支持异步或同步回收页,取决于系统的状态。

当系统负载不高时,大部分内存是空闲的,可以立即从空闲页得到分配。

当系统负载提升后,空闲页减少,当达到某个阈值(

low watermark

)时,内存分配请求将唤醒

kswapd

守护进程。它将以异步的方式扫描内存页。如果内存页中的数据在其他地方也有,则释放这些内存页;或者退出内存到后置存储设备(关联

脏页

)。

随着内存使用量进一步增加,并达到另一个阈值-

min watermark

-将触发回收。这种情况下,分配将暂停,直到回收到足够的内存页。

当系统运行时,任务分配并释放内存,内存变得碎片化。

虽然使用虚拟内存可以将分散的物理页表示为虚拟连续范围,但有时需要分配大的连续的物理内存。这种需求可能会提升。例如,当设备驱动需要一个大的DMA缓冲区时,或当THP分配一个大页时。

内存地址压缩(compaction )

解决了碎片问题。

该机制将占用的页从内存zone的下部移动到上部的空闲页。压缩扫描完成后,zone开始处的空闲页就并在一起了,分配较大的连续物理内存就可行了。

reclaim

类似,

compaction

可以在

kcompactd守护进程中异步进行,也可以作为内存分配请求的结果同步进行。

在存在负载的机器上,内存可能会耗尽,内核无法回收到足够的内存以继续运行。

为了保障系统的其余部分,引入了

OOM killer

OOM killer

选择牺牲一个任务来保障系统的总体健康。选定的任务被killed,以期望在它退出后释放足够的内存以继续正常的操作。

关于linux内核组织架构的介绍到此就结束了,不知道你从中找到你需要的信息了吗 ?如果你还想了解更多这方面的信息,记得收藏关注本站。


数据运维技术 » 探秘Linux内核的组织架构:源码树与内核子系统简介 (linux内核组织架构)