首页  思维导图  详情



 



JAVA高并发

2021-05-07 15:51:15   0  举报





AI智能生成

java IO高并发基础原理

面试

java

高并发

模板推荐

作者其他创作

大纲/内容

IO底层原理

IO读写原理

内存空间（虚拟内存）

内核空间(Kernel-Space)

内核模块运行此处，进程处于内核态

可以调用系统一切资源

用户空间(User-Space)

用户程序运行此处，处于用户态

只能执行简单的运算，不能直接调用系统资源

每个应用程序有独立的用户空间

用户进程态不能直接访问内核空间数据，也不能直接调用内核函数

应用程序的IO操作实际上不是物理设备级别的读写，而是缓存的复制

上层应用使用read系统调用时，仅仅把数据从内核缓冲区复制到应用的缓冲区（进程缓冲区）

上层应用使用write系统调用时，仅仅把数据从应用的缓冲区复制到内核缓冲区

IO模型

概念

阻塞与非阻塞

阻塞IO指的是需要内核IO操作彻底完成后才返回到用户空间执行用户程序的操作指令

同步与异步

同步IO是指用户空间（进程或者线程）是主动发起IO请求的一方，系统内核是被动接收方。异步IO则反过来，系统内核是主动发起IO请求的一方，用户空间是被动接收方。

同步阻塞IO（Blocking IO）

用户空间（或者线程）主动发起，需要等待内核IO操作彻底完成后才返回到用户空间的IO操作

过程

从Java进行IO读后发起read系统调用开始，用户线程（或者线程）就进入阻塞状态

当系统内核收到read系统调用后就开始准备数据。一开始，数据可能还没有到达内核缓冲区（例如，还没有收到一个完整的socket数据包），这时内核就要等待

内核一直等到完整的数据到达，就会将数据从内核缓冲区复制到用户缓冲区（用户空间的内存），然后内核返回结果（例如返回复制到用户缓冲区中的字节数

直到内核返回后用户线程才会解除阻塞的状态，重新运行起来

优点 

应用程序开发非常简单

在阻塞等待数据期间，用户线程挂起，基本不会占用CPU资源

缺点

每个连接配备一个独立的线程，一个线程维护一个连接的IO操作，在并发量小的情况下，这样做没有什么问题

在高并发的应用场景下，阻塞IO模型需要大量的线程来维护大量的网络连接，内存、线程切换开销会非常巨大，性能很低，基本上是不可用的

同步非阻塞IO（Non-Blocking IO，NIO）<br>

用户空间的程序不需要等待内核IO操作彻底完成，可以立即返回用户空间去执行后续的指令，即发起IO请求的用户进程（或者线程）处于非阻塞状态，与此同时，内核会立即返回给用户一个IO状态值

过程

在内核数据没有准备好的阶段，用户线程发起IO请求时立即返回（为了读取最终的数据，用户进程（或者线程）需要不断地发起IO系统调用）

在内核缓冲区中有数据的情况下，在数据的复制过程中系统调用是阻塞的，直到完成数据从内核缓冲区复制到用户缓冲区

复制完成后，系统调用返回成功，用户进程（或者线程）可以开始处理用户空间的缓冲区数据

优点

在内核等待数据过程中可以立即返回，用户线程不会阻塞，实时性好

缺点

需要不断轮询内核，大量占用CPU时间，效率低下

区别于Java中的NIO（New IO）

IO多路复用模型

IO多路复用（IO Multiplexing）

异步阻塞IO

Reactor模式

流程

选择器注册。首先，将需要read操作的目标文件描述符（socket连接）提前注册到Linux的select/epoll选择器中，在Java中所对应的选择器类是Selector类。然后，开启整个IO多路复用模型的轮询流程

就绪状态的轮询。通过选择器的查询方法，查询所有提前注册过的目标文件描述符（socket连接）的IO就绪状态。通过查询的系统调用，内核会返回一个就绪的socket列表。当任何一个注册过的socket中的数据准备好或者就绪了就说明内核缓冲区有数据了，内核将该socket加入就绪的列表中，并且返回就绪事件

用户线程获得了就绪状态的列表后，根据其中的socket连接发起read系统调用，用户线程阻塞。内核开始复制数据，将数据从内核缓冲区复制到用户缓冲区

复制完成后，内核返回结果，用户线程才会解除阻塞的状态，用户线程读取到了数据，继续执行

优点

一个选择器查询线程可以同时处理大量网络连接，不必创建大量线程，大大减轻系统开销

缺点

读写过程是阻塞的，如果要彻底解除线程阻塞，需要使用异步IO

一个用户进程（或者线程）可以监视多个文件描述符，一旦某个描述符就绪（一般是内核缓冲区可读/可写），内核就能够将文件描述符的就绪状态返回给用户进程（或者线程），用户空间可以根据文件描述符的就绪状态进行相应的IO系统调用

异步IO（Asynchronous IO，AIO）

用户空间的线程变成被动接收者，而内核空间成为主动调用者

当用户线程收到通知时，数据已经被内核读取完毕并放在了用户缓冲区内，内核在IO完成后通知用户线程直接使用即可

类似于Java中典型的回调模式，用户进程（或者线程）向内核空间注册了各种IO事件的回调函数，由内核去主动调用

Java NIO

核心组件

Buffer(缓冲区)

非线程安全类

Buffer的子类会拥有一块内存，作为数据的读写缓冲区

重要属性

capacity（容量）

标识容量大小

初始化后不可改变

原因是：Buffer类的对象在初始化时会按照capacity分配内部数组的内存，在数组内存分配好之后，它的大小就不能改变了

capacity并不是指内部的内存块byte[]数组的字节数量，而是指能写入的数据对象的最大限制数量

position（读写位置）

当前操作的位置

limit（读写的限制）

可以写入或者读取的数据最大上限

在写模式下，limit属性值的含义为可以写入的数据最大上限。在刚进入写模式时，limit的值会被设置成缓冲区的capacity值，表示可以一直将缓冲区的容量写满

在读模式下，limit值的含义为最多能从缓冲区读取多少数据

mark(标记)

在缓冲区操作过程当中，可以将当前的position值临时存入mark属性中

需要的时候，再从mark中取出暂存的标记值，恢复到position属性中，重新从position位置开始处理

重要方法

allocate()

需要获取一个Buffer实例对象时，并不是使用子类的构造器来创建，而是调用子类的allocate()方法

一个缓冲区创建后

处于写模式

position为0

capacity的值是allocate参数值

limit也是allocate参数值

put()

把对象写入缓冲区

flip()

写模式到读模式翻转

过程

limit属性被设置成写模式时的position值，表示可以读取的最大数据位置

position由原来的写入位置变成新的可读位置，也就是0，表示可以从头开始读

get()

读取元素

读操作改变position值，在position值和limit值相等时，表示所有数据读取完成

当position指向了一个没有数据的元素位置，已经不能再读了，此时再读就会抛出BufferUnderflowException异常

rewind()

倒带，重新从头读取

position重置为0

limit保持不变

mark被清理，表示之前的临时位置不能再用了

mark()和reset()

mark()方法将当前position的值保存起来放在mark属性中，让mark属性记住这个临时位置

reset()方法将mark的值恢复到position中

clear()

读模式下，调用clear()方法将缓冲区切换为写模式

position清零

limit设置为capacity

Channel(通道)

一个通道可以表示一个底层的文件描述符，例如硬件设备、文件、网络连接等

一个通道可以被注册到多个选择器上

FileChannel

阻塞式，不能设置为非阻塞式

没有实现SelectableChannel

SocketChannel

支持阻塞和非阻塞两种模式

socketChannel.configureBlocking(false)设置为非阻塞模式

Selector(选择器)

能够选出（select）所监控的通道已经发生了哪些IO事件，包括读写就绪的IO操作事件

通道和选择器之间的关联通过register（注册）的方式完成。调用通道的Channel.register(Selectorsel，int ops)方法，可以将通道实例注册到一个选择器中

可供选择器监控的通道IO事件类型

可读：SelectionKey.OP_READ

SocketChannel通道有数据可读

可写：SelectionKey.OP_WRITE

SocketChannel通道等待数据写入

连接：SelectionKey.OP_CONNECT

SocketChannel完成了和对端的三次握手过程

接收：SelectionKey.OP_ACCEPT

ServerSocketChannel服务器连接监听通道，监听到一个新连接到来时

SelectableChannel

并不是所有的通道都是可以被选择器监控或选择的，只有继承了SelectableChannel的才可以被选择

使用流程

获取选择器实例

将通道注册到选择器实例

注册到选择器的通道必须处于非阻塞模式下，否则将抛出IllegalBlockingModeException异常

选出感兴趣的IO就绪事件（选择键集合）

select()：阻塞调用，直到至少有一个通道发生了注册的IO事件

select(long timeout)：和select()一样，但最长阻塞时间为timeout指定的毫秒数

selectNow()：非阻塞，不管有没有IO事件都会立刻返回

Reactor模式

角色

Reactor线程

负责响应IO事件，并且分发到Handlers处理器

Handlers处理器

非阻塞的执行业务处理逻辑

 Collect

Get Started

高并发与高可用

 Collect

Get Started

高并发活动系统架构图模板

 Collect

Get Started

阿里云高并发API架构

 Collect

Get Started

高并发架构





0 条评论

下一页