从根上理解高性能、高并发(六)：通俗易懂，高性能服务器到底是如何实现的

本文原题“高并发高性能服务器是如何实现的”，本次收录已征得作者同意，转载请联系作者。即时通讯网收录时有改动。 本文已同步发布于52im社区： http://www.52im.net/thread-3306-1-1.html（ 点击“阅读原文”进入 ）

1、系列文章引言

1.1 文章目的

作为即时通讯技术的开发者来说，高性能、高并发相关的技术概念早就了然与胸，什么 线程池、零拷贝、多路复用、事件驱动、epoll 等等名词信手拈来，又或许你对具有这些技术特征的技术框架比如：Java的 Netty 、Php的 workman 、Go的 gnet 等熟练掌握。但真正到了面视或者技术实践过程中遇到无法释怀的疑惑时，方知自已所掌握的不过是皮毛。

返璞归真、回归本质， 这些技术特征背后的底层原理到底是什么？如何能通俗易懂、毫不费力真正透彻理解这些技术背后的原理，正是《从根上理解高性能、高并发》系列文章所要分享的 。

1.2 文章源起

我（ Jack Jiang ）为即时通讯网整理了相当多有关IM、消息推送等即时通讯技术相关的资源和文章，从最开始的开源IM框架 MobileIMSDK ，到网络编程经典巨著《 TCP/IP详解 》的在线版本，再到IM开发纲领性文章《 新手入门一篇就够：从零开发移动端IM 》，以及网络编程由浅到深的《 网络编程懒人入门 》、《 脑残式网络编程入门 》、《 高性能网络编程 》、《 不为人知的网络编程 》系列文章。

越往知识的深处走，越觉得对即时通讯技术了解的太少。于是后来，为了让开发者门更好地从基础电信技术的角度理解网络（ 尤其移动网络 ）特性，我跨专业收集整理了《 IM开发者的零基础通信技术入门 》系列高阶文章。这系列文章已然是普通即时通讯开发者的网络通信技术知识边界，加上之前这些网络编程资料，解决网络通信方面的知识盲点基本够用了。

对于即时通讯IM这种系统的开发来说，网络通信知识确实非常重要，但回归到技术本质，实现网络通信本身的这些技术特征：包括上面提到的 线程池、零拷贝、多路复用、事件驱动等等，它们的本质是什么？底层原理又是怎样？这就是整理本系列文章的目的，希望对你有用 。

1.3 文章目录

1)《从根上理解高性能、高并发(一)：深入计算机底层，理解线程与线程池》

2)《从根上理解高性能、高并发(二)：深入操作系统，理解I/O与零拷贝技术》

3)《从根上理解高性能、高并发(三)：深入操作系统，彻底理解I/O多路复用》

4)《从根上理解高性能、高并发(四)：深入操作系统，彻底理解同步与异步》

5)《从根上理解高性能、高并发(五)：深入操作系统，理解高并发中的协程》

6)《从根上理解高性能、高并发(六)：通俗易懂，高性能服务器到底是如何实现的》（ * 本文 ）

1.4 本篇概述

接上篇《 从根上理解高性能、高并发(五)：深入操作系统，理解高并发中的协程 》，本篇是高性能、高并发系列的第6篇文章（ 也是完结篇 ）。

本篇是本系列文章的完结篇，你将能了解到，一个典型的服务器端是如何利用前5篇中讲解的各单项技术从而实现高性能高并发的。

2、本文作者

3、正文引言

4、多进程

历史上最早出现也是最简单的一种并行处理多个请求的方法就是利用 多进程 。

比如在Linux世界中，我们可以使用fork、exec等系统调用创建多个进程，我们可以在父进程中接收用户的连接请求，然后创建子进程去处理用户请求。

就像这样：

这种方法的优点就在于：

1）编程简单，非常容易理解；

2）由于各个进程的地址空间是相互隔离的，因此一个进程崩溃后并不会影响其它进程；

3）充分利用多核资源。

多进程并行处理的优点很明显，但是缺点同样明显：

1）各个进程地址空间相互隔离，这一优点也会变成缺点，那就是进程间要想通信就会变得比较困难，你需要借助进程间通信（IPC，interprocess communications）机制，想一想你现在知道哪些进程间通信机制，然后让你用代码实现呢？显然，进程间通信编程相对复杂，而且性能也是一大问题；

2）我们知道创建进程开销是比线程要大的，频繁的创建销毁进程无疑会加重系统负担。

5、多线程

6、事件驱动：Event Loop

到目前为止，我们提到“并行”二字就会想到进程、线程。

但是： 并行编程只能依赖这两项技术吗？并不是这样的！

还有另一项并行技术广泛应用在GUI编程以及服务器编程中，这就是近几年非常流行的事件驱动编程： event-based concurrency 。

PS： 搞IM服务端开发的程序员肯定不陌生，著名的Java NIO高性能网络编程框架Netty中 EvenLoop  这个接口意味着什么（ 有关Netty框架的高性能原理可以读这篇《 新手入门：目前为止最透彻的的Netty高性能原理和框架架构解析 》： http://www.52im.net/thread-2043-1-1.html ）。

大家不要觉得这是一项很难懂的技术，实际上事件驱动编程原理上非常简单。

这一技术需要两种原料：

1）event；

2）处理event的函数，这一函数通常被称为event handler。

剩下的就简单了： 你只需要安静的等待event到来就好，当event到来之后，检查一下event的类型，并根据该类型找到对应的event处理函数，也就是event handler，然后直接调用该event handler就好了。

That's it !

以上就是事件驱动编程的全部内容，是不是很简单！

从上面的讨论可以看到： 我们需要不断的接收event然后处理event，因此我们需要一个循环（ 用while或者for循环都可以 ），这个循环被称为Event loop。

使用伪代码表示就是这样：

while(true) {


    event = getEvent();


    handler(event);


}

Event loop中要做的事情其实是非常简单的，只需要等待event的带来，然后调用相应的 event处理函数即可。

注意： 这段代码只需要运行在一个线程或者进程中，只需要这一个event loop就可以同时处理多个用户请求。

有的同学可以依然不明白： 为什么这样一个event loop可以同时处理多个请求呢？

原因很简单： 对于网络通信服务器来说，处理一个用户请求时大部分时间其实都用在了I/O操作上，像数据库读写、文件读写、网络读写等。当一个请求到来，简单处理之后可能就需要查询数据库等I/O操作，我们知道I/O是非常慢的，当发起I/O后我们大可以不用等待该I/O操作完成就可以继续处理接下来的用户请求。

现在你应该明白了吧： 虽然上一个用户请求还没有处理完我们其实就可以处理下一个用户请求了，这也是并行，这种并行就可以用事件驱动编程来处理。

这就好比餐厅服务员一样： 一个服务员不可能一直等上一个顾客下单、上菜、吃饭、买单之后才接待下一个顾客，服务员是怎么做的呢？当一个顾客下完单后直接处理下一个顾客，当顾客吃完饭后会自己回来买单结账的。

看到了吧： 同样是一个服务员也可以同时处理多个顾客，这个服务员就相当于这里的Event loop，即使这个event loop只运行在一个线程(进程)中也可以同时处理多个用户请求。

相信你已经对事件驱动编程有一个清晰的认知了，那么接下来的问题就是，这个事件也就是event该怎么获取呢？

7、事件来源：IO多路复用

8、问题：阻塞式IO

9、解决方法：非阻塞式IO

10、基于事件驱动并行编程的难点

11、更好的方法

12、本文小结