Linux ---- 线程概念 1 什么是线程在一个程序里的一个执行路线就叫做线程thread。更准确的定义是线程是“一个进程内部的控制序列” 。一切进程至少都有一个执行线程。线程在进程内部运行本质是在进程地址空间内运行在Linux系统中在CPU眼中看到的PCB都要比传统的进程更加轻量化(因为多线程是在同一分地址空间上运行的)透过进程虚拟地址空间可以看到进程的大部分资源将进程资源合理分配给每个执行流就形成了线程执行流进程访问的大部分资源都是通过地址空间访问的地址空间就是窗口创建一个“进程”共享“窗口”就是将资源再分配给不同的task_struct用进程来模拟线程对地址空间进行划分对虚拟地址范围进行划分其实就是划分页表2 线程和进程对比理解从概念角度进程内核数据结构 代码和数据 (执行流)线程 是进程内部的一个执行分支 (执行流)从内核和资源角度进程承担分配系统资源的基本实体线程CPU的基本调度单位举例了解进程就想一个一个家庭是社会分配资源的基本实体。而家庭内部有这一个一个人员对于家庭资源进行划分使用管理执行自己做的事例如学习赚钱等这一个一个人员就是相当于线程3 线程初步理解Linux线程可以采用进程来模拟对资源的划分本质是对地址空间即虚拟地址范围的划分。虚拟地址就是一种资源的代表函数就是虚拟地址(逻辑地址)空间的集合就是让线程未来执行ELF程序的不同函数即可用进程来模拟线程为什么这样设计Linux区别于Windows对于线程的实现使用进程来模拟的。因为线程在内核中也需要别管理所以先描述再组织。和进程都是执行流所以没有必要重新实现复用task_struct实现线程的TCB用进程来模拟线程。进程内核代码全部复用Linux的线程就是轻量级进程或者用轻量级进程来模拟是实现的。进程强调独占部分共享(比如通信的时候)。线程强调共享部分独占(TCB,线程栈)线程再Linux操作系统的视角就是一个一个执行流但是在硬件CPU的视角下就是一个一个轻量级线程4 分页式存储管理4-1 虚拟地址和页表的由来如果在没有虚拟内存和分页机制的情况下每一个用户程序在物理内存上所对应的空间必须是连续的如下图因为每一个程序的代码、数据长度都是不⼀样的按照这样的映射方式物理内存将会被分割成各种离散的、大小不同的块。经过一段运行时间之后有些程序会退出那么它们占据的物理内存空间可以被回收导致这些物理内存都是以很多碎片的形式存在。在这样会大大降低操作系统的运行效率。怎么办呢我们希望操作系统提供给用户的空间必须是连续的但是物理内存最好不要连续。此时虚拟内存和分页便出现了如下图所示把物理内存按照一个固定的长度的页框进行分割有时叫做物理页。每个页框包含⼀个物理页page。一个页的大小等于页框的大小。大多数 32位体系结构支持4KB的页而64位 体系结构一般会支持 8KB的页。区分一页和一个页框是很重要的页框是一个存储区域而页是一个数据块可以存放在任何页框或磁盘中。有了这种机制CPU 便并非是直接访问物理内存地址而是通过虚拟地址空间来间接的访问物理内存地址。所谓的虚拟地址空间是操作系统为每一个正在执行的进程分配的一个逻辑地址在32位机上其范围从0 ~ 4G-1。操作系统通过将虚拟地址空间和物理内存地址之间建立映射关系也就是页表这张表上记录了每一对页和页框的映射关系能让CPU间接的访问物理内存地址。总结⼀下其思想是将虚拟内存下的逻辑地址空间分为若干页将物理内存空间分为若干页框通过页表便能把连续的虚拟内存映射到若干个不连续的物理内存页。这样就解决了使用连续的物理内存造成的碎片问题。注意:可执行程序就是文件文件就在磁盘中存储可执行程序存储的时候天然就是以4KB作为存储单位的无论属性还是内容区分磁盘文件系统数据结构和操作系统内存管理的区别扇区、分区、块组、块文件系统块是【文件系统】在磁盘上组织数据的划分写在磁盘介质本身断电还保存在磁盘里。页、页框是【操作系统内存管理】对物理内存、虚拟内存的划分只存在内存里关机直接消失和磁盘硬件扇区不是一回事。磁盘块 / 扇区体系 和 内存页 / 页框两套独立划分地盘不同但是读写文件时互相搬运数据不是完全互不影响。文件系统分为两部分驱动代码属于操作系统内核内存运行文件系统元数据结构保存在磁盘。二者不是两个独立软件是内核模块 磁盘上的数据结构配合工作。4-2 物理内存管理理解4GB/4KB 1048576,4KB划分是操作系统划分的。不管是磁盘(文件系统)内存OS都是要管理页框这个4KB内存的。所以先描述再组织内核用 struct page结构表示系统中的每个物理页出于节省内存的考虑struct page中使用了大量的联合体union。/* include/linux/mm_types.h */ struct page { /* 原⼦标志有些情况下会异步更新 */ unsigned long flags; union { struct { /* 换出⻚列表例如由zone-lru_lock保护的active_list */ struct list_head lru; /* 如果最低为为0则指向inode * address_space或为NULL * 如果⻚映射为匿名内存最低为置位 * ⽽且该指针指向anon_vma对象 */ struct address_space* mapping; /* 在映射内的偏移量 */ pgoff_t index; /* * 由映射私有不透明数据 * 如果设置了PagePrivate通常⽤于buffer_heads * 如果设置了PageSwapCache则⽤于swp_entry_t * 如果设置了PG_buddy则⽤于表⽰伙伴系统中的阶 */ unsigned long private; }; struct { /* slab, slob and slub */ union { struct list_head slab_list; /* uses lru */ struct { /* Partial pages */ struct page* next; #ifdef CONFIG_64BIT int pages; /* Nr of pages left */ int pobjects; /* Approximate count */ #else short int pages; short int pobjects; #endif }; }; struct kmem_cache* slab_cache; /* not slob */ /* Double-word boundary */ void* freelist; /* first free object */ union { void* s_mem; /* slab: first object */ unsigned long counters; /* SLUB */ struct { /* SLUB */ unsigned inuse : 16; /* ⽤于SLUB分配器对象的数⽬ */ unsigned objects : 15; unsigned frozen : 1; }; }; }; ... }; union { /* 内存管理⼦系统中映射的⻚表项计数⽤于表⽰⻚是否已经映射还⽤于限制逆向映射 搜索*/ atomic_t _mapcount; unsigned int page_type; unsigned int active; /* SLAB */ int units; /* SLOB */ }; ... #if defined(WANT_PAGE_VIRTUAL) /* 内核虚拟地址如果没有映射则为NULL即⾼端内存 */ void* virtual; #endif /* WANT_PAGE_VIRTUAL */ ... }几个比较重要的参数1. flags 用来存放页的状态。这些状态包括页是不是脏的是不是被锁定在内存中等。flag的每一位单独表示一种状态所以它至少可以同时表示出32种不同的状态。这些标志定义在linux/page-flags.h中。其中一些比特位非常重要如PG_locked用于指定页是否锁定PG_uptodate用于表示页的数据已经从块设备读取并且没有出现错误。、2. _mapcount 表示在页表中有多少项指向该页也就是这一页被引用了多少次。当计数值变为-1时就说明当前内核并没有引用这一页于是在新的分配中就可以使用它。3. virtual 是页的虚拟地址。通常情况下它就是页在虚拟内存中的地址。有些内存即所谓的高端内存并不永久地映射到内核地址空间上。在这种情况下这个域的值为NULL需要的时候必须动态地映射这些页。要注意的是 struct page与物理页相关而并非与虚拟页相关。而系统中的每个物理页都要分配一个这样的结构体让我们来算算对所有这些页都这么做到底要消耗掉多少内存。算 struct page占40个字节的内存吧假定系统的物理页为4KB 大小系统有4GB物理内存。那么系统中共有页面 1048576个1兆个所以描述这么多页面的page结构体消耗的内存只不过40MB 相对系统4GB内存而言仅是很小的一部分罢了。因此要管理系统中这么多物理页面这个代价并不算太大。要知道的是页的大小对于内存利用和系统开销来说非常重要页太大页内必然会剩余较大不能利用的空间页内碎片。页太小虽然可以减小页内碎片的大小但是页太多会使得页表太长而占用内存同时系统频繁地进行页转化加重系统开销。因此页的大小应该适中通常为512B - 8KB windows/Linux系统的页框大小为4KB。组织页和调用页:那操作系统是如何组织页和调用页的呢 创建了一个数组 struct page mem[1048576]用数组下标来映射所有页框所以每一个page都会有下标没个page的其实物理地址就天然知道了(index*4KB),具体物理地址起始物理地址页内(4kb)偏移这也是为什么我们没有在page里面保存page的起始地址因为只要知道起始物理地址就可以得到每个页的地址所以当我们申请物理空间的时候在做什么1 查数组改page2 建立内核数据结构的对应关系4-3 页表页表中的每、一个表项指向一个物理页的开始地址。在 32位系统中虚拟内存的最大空间是4GB 这是每⼀个用户程序都拥有的虚拟内存空间。既然需要让 4GB的虚拟内存全部可用那么页表中就需要能够表示这所有的 4GB空间那么就一共需要4GB/4KB 1048576个表项。如下图所示虚拟内存看上去被虚线“分割”成一个个单元其实并不是真的分割虚拟内存仍然是连续的。这个虚线的单元仅仅表示它与页表中每一个表项的映射关系并最终映射到相同大小的一个物理内存页上。页表中的物理地址与物理内存之间是随机的映射关系哪里可用就指向哪里(物理页)。虽然最终使用的物理内存是离散的但是与虚拟内存对应的线性地址是连续的。处理器在访问数据、获取指令时使用的都是线性地址只要它是连续的就可以了最终都能够通过页表找到实际的物理地址。假设在 32位系统中地址的长度是4个字节那么页表中的每一个表项就是占用4个字节。所以页表占据的总空间大小就是 1048576*4 4MB的大小。也就是说映射表自己本身就要占用4MB / 4KB 1024 个物理页。这会存在哪些问题呢1当初为什么使用页表就是要将进程划分为一个个页可以不用连续的存放在物理内存中但是此时页表就需要1024个连续的页框似乎和当时的目标有点背道而驰了......2 此外根据局部性原理可知很多时候进程在一段时间内只需要访问某几个页就可以正常运行了。因此也没有必要一次让所有的物理页都常驻内存。解决需要容大量页表的最好方法是把页表看成普通的文件对它进行离散分配即对页表再分页由此形成多级页表的思想。为了解决这个问题可以把这个单一表拆分成 1024个体积更小的映射表。如下图所示。这样一来1024(每个表中的表项个数) * 1024(表的个数)仍然可以覆盖4GB的物理内存空间。这里的每一个表就是真正的页表所以一共有 1024个页表。一个页表自身占用4KB那么1024 个页表一共就占用了4MB的物理内存空间和之前没差别啊从总数上看是这样但是一个应用程序是不可能完全使用全部的 4GB 空间的也许只要几十个页表就可以了。例如一个用户程序的代码段、数据段、栈段一共就需要 10 MB的空间那么使用3个页表就足够了。所以通过动态建立页表即需要时创建就可以保证尽量减少内存消耗并且提高了效率计算过程每一个页表项指向一个 4KB 的物理页那么一个页表中 1024 个页表项一共能覆盖 4MB 的物理内存; 那么 10MB 的程序向上对对取整之后(4MB 的倍数就是 12 MB)就需要 3 个页表就可以了。4-4 页目录结构到目前为止每一个页框都被一个页表中的一个表项来指向了那么这 1024个页表也需要被管理起来。管理页表的表称之为页目录录表形成二级页表。如下图所示所有页表的物理地址被页目录表项指向页目录的物理地址被 CR3 寄存器 指向这个寄存器中保存了当前正在执行任务的页目录地址。所以操作系统在加载用程序的时候不仅仅需要为程序内容来分配物理内存还需要为用来保存程序的页目录和页表分配物理内存。4-5 两级页表转换下面以一个逻辑地址为例。将逻辑地址 0000000000,0000000001,11111111111转换为物理地址的过程1. 在32位处理器中采用4KB的页大小则虚拟地址中低12位为页偏移剩下高20位给页表分成两级每个级别占10个bit1010。2. CR3 寄存器读取页目录起始地址再根据一级页号(即最高的10个bit为)查页目录表然后根据一级页号查页目录表找到下一级页表在物理内存中存放位置。、3. 根据二级页号查表找到最终想要访问的内存块号。4. 结合低12位的页内偏移量得到物理地址。总结第一阶段先查找到虚拟地址对应的页框第二阶段根据虚拟地址低12位作为页内偏移访问具体字节5. 注一个物理页的地址一定是 4KB 对齐的(最后的 12 位全部为 0 )所以其实只需要记录物理页地址的高 20 位即可。6. 以上其实就是 MMU 的工作流程。MMU(Memory Manage Unit)是一种硬件电路其速度很快主要工作是进行内存管理地址转换只是它承接的业务之一。注意1 页目录的物理地址被CR3寄存器指向CR3寄存器是当前进程/轻量级进程的硬件上下文它是直连总线的2 虚拟地址是由虚拟地址空间提供给用户和内核3 申请内存 - 查找page数组 - 找到没有被使用的page - page index - 物理页框地址4 写实拷贝缺页中断内存申请等背后可能要从新建立新的页表和尽力映射关系的操作5 进程/轻量级进程一张页目录 n张页表构建的映射体系虚拟地址是索引物理地址页框是目标虚拟地址(低12位) 页框地址 物理地址6 为什么是低12位因为一个页框大小是4KB即[0,4095]的字节范围而12位比特位刚好可以表示[0,4095]而低的12位是为了保证地址的有序化方便文件的加载到这里其实还有个问题MMU要先进行两次页表查询确定物理地址在确认了权限等问题后MMU再将这个物理地址发送到总线内存收到之后开始读取对应地址的数据并返回。那么当页表变为N级时就变成了N次检索1次读写。可见页表级数越多查询的步骤越多对于CPU来说等待时间越长效率越低。让我们现在总结一下单级页表对连续内存要求高于是引⼊了多级页表但是多级页表也是一把双刃剑在减少连续存储要求且减少存储空间的同时降低了查询效率。有没有提升效率的办法呢计算机科学中的所有问题都可以通过添加⼀个中间层来解决。 MMU引⼊了新武器江湖人称快表的TLB其实就是缓存Translation Lookaside Buffer学名转译后备缓冲器当 CPU给MMU传新虚拟地址之后MMU先去问TLB那边有没有如果有就直接拿到物理地址发到总线给内存齐活。但 TLB容量比较小难免发生Cache Miss这时候MMU还有保底的老武器页表在页表中找到之后 MMU除了把地址发到总线传给内存还把这条映射关系给到TLB让它记录一下刷新缓存。4-7 缺页异常设想CPU 给 MMU 的虚拟地址在 TLB 和页表都没有找到对应的物理页该怎么办呢其实这就是缺页异常 Page Fault它是一个由硬件中断触发的可以由软件逻辑纠正的错误。假如目标内存页在物理内存中没有对应的物理页或者存在但无对应权限CPU 就无法获取数据这种情况下CPU就会报告⼀个缺页错误。由于 CPU 没有数据就无法进行计算CPU罢工了用户进程也就出现了缺页中断进程会从用户态切换到内核态并将缺页中断交给内核的 Page Fault Handler处理。缺页中断会交给PageFaultHandler处理其根据缺页中断的不同类型会进行不同的处理1 Hard Page Fault 也被称为 Major Page Fault 翻译为硬缺页错误/主要缺页错误这时物理内存中没有对应的物理页需要CPU打开磁盘设备读取到物理内存中再让MMU建立虚拟地址和物理地址的映射。2 Soft Page Fault 也被称为 Minor Page Fault 翻译为软缺页错误/次要缺页错误这时物理内存中是存在对应物理页的只不过可能是其他进程调入的发出缺页异常的进程不知道而已此时MMU只需要建立映射即可无需从磁盘读取写入内存一般出现在多进程共享内存区域。3 Invalid Page Fault 翻译为无效缺页错误比如进程访问的内存地址越界访问又比如对空指针解引用内核就会报 segment fault 错误中断进程直接挂掉。注意1 如何理解我们之前的 new和malloc这些内存申请的函数都是先在虚拟地址空间中划分好堆区在真正使用这块区域的时候才会建立页表的映射2 如何理解写实拷贝子进程只会拷贝父进程的页表并且标记页表为只读只有等到等到任意一方真的要写这个页面的时候触发缺页异常内核才真正拷贝一份物理页框再修改页表。3 越界不一定会报错3.1.页号合法性检查操作系统在处理中断或异常时首先检查触发事件的虚拟地址的页号是否合法。如果页号合法但页面不在内存中则为缺页中断如果页号非法则为越界访问。3.2. 内存映射检查操作系统还可以检查触发事件的虚拟地址是否在当前进程的内存映射范围内。如果地址在映射范围内但页面不在内存中则为缺页中断如果地址不在映射范围内则为越界访问。4 线程资源划分的真相只要将虚拟地址空间进行划分进程资源就天然被划分好了。5 再次理解线程执行流看到的资源本质是合法的情况下你拥有多少虚拟地址虚拟地址是资源的代表虚拟地址空间 mm_struct vm_area_struct 本质进行资源的统计数据和整体数据。页表就是一张从虚拟到物理的地图资源划分本质就是地址空间的划分资源共享本质就是虚拟地址的共享线程进行资源划分本质是划分地址空间获得一定范围的合法的虚拟地址在本质就是在划分页表。线程进行资源共享本质就是对于地址空间的共享再本质就是对于页目录的共享6 线程的优点1 创建一个新线程的代价要比创建一个新进程小得多因为不用重新创建地址空间和页表2 与进程之间的切换相比线程之间的切换需要操作系统做的工作要少很多2.1 最主要的区别是线程的切换虚拟内存空间依然是相同的但是进程切换是不同的。这两种上下文切换的处理都是通过操作系统内核来完成的。内核的这种切换过程伴随的最显著的性能损耗是将寄存器中的内容切换出。2.2 另外一个隐藏的损耗是上下文的切换会扰乱处理器的缓存机制。简单的说一旦去切换上下文处理器中所有已经缓存的内存地址一瞬间都作废了。还有一个显著的区别是当你改变虚拟内存空间的时候处理的页表缓冲 TLB 快表会被全部刷新这将导致内存的访问在一段时间内相当的低效。但是在线程的切换中不会出现这个问题当然还有硬件cache。因为进程切换会导致TLB和Cache失效下次运行需要重新加载缓存3 线程占用的资源要比进程少4 能充分利用多处理器的可并行数量5 在等待慢速I/O操作结束的同时程序可执行其他的计算任务6计算密集型应用为了能在多处理器系统上运行将计算分解到多个线程中实现。因为线程切换线程不是越多越好会影响计算的效率7I/O密集型应用为了提高性能将I/O操作重叠。线程可以同时等待不同的I/O操作。线程可以越多越好7 线程的缺点1 性能损失1.1 一个很少被外部事件阻塞的计算密集型线程往往无法与其它线程共享同一个处理器。如果计算密集型线程的数量比可用的处理器多那么可能会有较大的性能损失这里的性能损失指的是增加了额外的同步和调度开销而可用的资源不变。2 健壮性降低2.1 编写多线程需要更全面更深入的考虑在一个多线程程序立因时间分配上的细微偏差或者因共享了不该共享的变量而造成不良影响的可能性是很大的换句话说线程之间是缺乏保护的。3 缺乏访问控制3.1 进程是访问控制的基本粒度在一个线程中调用某些OS函数会对整个进程造成影响。4 编程难度提⾼4.1 编写与调试一个多线程程序比单线程程序困难得多8 线程异常单个线程如果出现除零野指针问题导致线程崩溃进程也会随着崩溃线程是进程的执行分支线程出异常就类似进程出异常进而触发信号机制终止进程进程终止该进程内的所有线程也就随即退出9线程用途合理的使用多线程能提高CPU密集型程序的执行效率合理的使用多线程能提高IO密集型程序的⽤用体验如入活中我们一边写代码一边下载开发工具就是多线程运行的⼀种表现10Linux进程VS线程 -- 哪些资源共享哪些独占1 进程间具有独立性2 线程共享地址空间也就共享进程资源10-1 进程和线程1 进程是资源分配的基本单位2 线程是调度的基本单位3 线程共享进程数据但也拥有自己的一部分私有数据:3.1线程ID3.2一组寄存器线程的上下文数据背后就是线程被独立调度3.3栈有独立栈结构线程是一个动态的概念栈会随着函数调用、返回动态增长收缩代表这条执行流当前实时的运行状态3.4 errno3.5 信号屏蔽字3.6 调度优先级10-2 进程的多个线程共享同一地址空间,因此Text Segment、Data Segment都是共享的,如果定义一个函数,在各线程中都可以调用,如果定义一个全局变量,在各线程中都可以访问到,除此之外,各线程还共享以下进程资源和环境:1 文件描述符表2 每种信号的处理方式(SIG_ IGN、SIG_ DFL或者自定义的信号处理函数)3 当前工作目录4 ⽤用户id和组id进程和线程的关系如下图:10-3 关于进程线程的问题如何看待之前学习的单进程具有一个线程执行流的进程