程序员的自我修养 IO/CUP密集型线程

有关进程线程协程的概念在上一篇文章 golang协程为什么比线程轻量 https://www.jianshu.com/p/dd4a480a1410 已经解释，有需要的同学可以查看。

多进程与单进程相比的优势：

• 1.某个操作可能会陷入长时间等待，等待的线程会进入睡眠状态，无法继续执行。多线程执行可以有效利用等待时间。典型的例子是等待网络响应，这可能要花费数秒甚至数十秒。
• 2.某个操作(常常是计算)会消耗大量的时间，如果只有一个线程，程序和用户之间的交互会中断。多线程可以让一个线程负责交互，另一个线程负责计算。
• 3.程序逻辑本身就要求并发操作，例如一个多端下载软件(例如Bittorrent)
• 4.多CPU或多核计算机，本身具备同时执行多个线程的能力，因此单线程程序无法完全全面地发挥计算机的全部计算能力。

线程的访问权限

线程的访问权限非常自由，它可以访问进程内存里的所有数据，甚至包括其他线程的堆栈(如果它知道其线程的堆栈地址，那么这就是很少见的情况)，但实际运用中线程也拥有自己的私有存储空间，包括以下几个方面。

• 栈(尽管并发完全无法被其他线程访问，但一般情况下仍然可以认为是私有的数据)。
• 线程局部存储(Thread Local Storage,TLS)。线程局部存储是某些操作系统为线程单独提供的私有空间，但通常只具有很有限的容量。
• 寄存器(包括PC寄存器)，寄存器是执行流的基本数据，因此为线程私有。

从C程序员的角度来看，数据在线程之间是否私有如表1-1所示:

image.png

线程调度与优先级

不论是在多处理器的计算机上还是在单处理器的计算上，线程总是"并发"执行的。当线程数量小于等于处理器数量时(并且操作系统支持多处理器)，线程的并发是真正的并发，不同的线程运行在不同的处理器上，彼此之间互不相干。但对于线程数量大于处理器数量的情况，线程的并发会受到一些阻碍，因为此时至少有一个处理器会运行多个线程。

在单处理器对应多线程的情况下，并发是一种模拟出来的状态。操作系统会让这些多线程程序轮流执行，每次仅执行一小段时间(通常是几十到几百毫秒)，这样每个线程就“看起来”在同时执行。这样的一个不断在处理器上执行不同的线程的行为称之为 线程调度(Thread Schedule) 。在线程调度中，线程通常拥有至少三种状态，分别是:

• 运行(Running) ：此时线程正在执行。
• 就绪(Ready) : 此时线程可以立刻运行，但CPU已经被占用
• 等待(Waiting) : 此时线程正在等待某一件事件(通常是I/O或同步)发生，无法执行
  处于运行中线程拥有一段可以执行的时间，这段时间称为 时间片(Time Slice) ，当时间片用尽的时候，该进程将进入就绪状态。如果在时间片用尽之前进程就开始等待某时间，那么它将进入等待状态。每当一个线程离开运行状态时，调度系统就会选择一个其他的就绪线程继续执行。在一个处于等待状态的线程所等待的事件发生之后，该线程将进入就绪状态。这3个状态的转移如图1-9所示：
  
  

  image.png

  线程调度自多任务操作系统问世以来就不断地被提出不同的方案和算法是。现在主流的调度方式尽管各不相同，但都带有 优先级调度(Priority Schedule) 和 轮转法(Round Robin) 的痕迹。
  轮转法 ：让各个线程轮流执行一小段时间的方法
  优先级调度 :线程拥有各自的 线程优先级 。具有高优先级的线程会更早地执行，而低优先级的线程常常要等待到系统中已经没有高优先级的可执行的线程存在时才能够执行。

操作系统会根据不同线程的表现自动调整优先级，以便调度更有效率。通常情况下，频繁进入等待状态(进入等待状态，会放弃之后仍然可占用的时间份额)的线程(例如处理I/O的线程)比频繁进行大量计算，以至于每次都要把时间片全部用尽的线程要欢迎得多。

IO密集型线程(IO Bound Thread) ：频繁等待的线程

CPU密集型线程(CPU Bound Thread) ：很少等待的线程

IO密集型线程总是比CPU密集型线程容量得到优先级的提升。

在优先级调度下，存在一种 饿死(Starvation) 的现象，一个线程被饿死，是说它的优先级较低，在它执行之前，总是有较高优先级的线程试图执行，因此这个低优先级线程始终无法执行。当一个CPU密集型的线程获得较高优先级时，许多低优先级的进程就很可能饿死。而一个高优先级的IO密集型线程由于大部分时间都处于等待状态，因此相对不容易造成其他线程饿死。为了避免饿死线程，调度系统常常会逐步提升那些等待了过长时间的得不到执行的线程的优先级。在这样的手段下，一个线程只要等待足够长的时间，其优先级定会提高到足够它执行的程序

总结

线程优先级的改变一般有三种方式：

• 用户指定优先级
• 系统根据等待状态的频繁程度提升或降低优先级
• 长时间得不到执行而被提升优先级