当前位置:首页 > 汽车

【本田ctx68多少钱】从操作系统层面分析Java IO进化的路径

前言

本文从操作系统的实际调用角度(以CentOS Linux release 7.5操作系统为例)详细研究了IO中每一步操作的情况。

对于如何查看系统调用,Linux可以使用strace查看所有软件的系统移动(良好的分析学习方法):strace -ff -o ./out Java TestJava

下雨了

/* *

* aliinc.copyright (c) 2004-2020保留所有权利.

*/

Package io

import Java . io . *;

import Java . net . server socket;

import Java . net . socket;

/* *

* @ author xiangyong.ding

* @version $Id: Te,v 0.1 2020年8月02日20:56 xiangyong.ding Exp $

*/

Public classbio插槽{

public static void main(string[]args)throws io exception {

server socket server socket=new server socket(8090);

sy(' step 1: new server socket ');

While(真){

套接字客户端=();

sy(' step 23360 client \ t ' client . get port());

Newthread ()-{

Try {

input streamin=client . getinputstream();

buffered reader reader=new buffered reader(new input stream reader(in));

While(真){

sy();

}

} catch (IOException e) {

e . printstacktrace();

}

})。START();

}

}

}1调用发生的系统

启动时

套接字(af _ inet、sock _ stream、IP proto _ IP)=5

Bind (5,{sa _ family=af _ inet,sin _ port=htons (8090),sin _ addr=inet _ addr)

Listen(5,50)=0

Poll ([{FD=5,events=pollin | pollerr}],1,-1)=1 ([{FD=5,revents=poller)

客户端连接后

应用(5,{sa _ family=af _ inet,sin _ port=htons (10253),sin _ addr=inet _ as)

克隆(child _ stack=0x7f013e5c4fb0,Flags=clone _ VM | clone _ fs | clone _ files | clone _ sii)

扔出Poll ([{FD=5,events=Pollin | pollerr}],1,-1线程(即我们代码中的new Thread())后,继续封锁poll,等待连接

克隆出现的线程

Recvfrom (6,' hello,bio \ n ',8192,0,null,null)=

>关于对recvfrom函数的说明,其中第四个参数0 表示这是一个阻塞调用。

客户端发送数据后

recvfrom(6, "hello,bio\n", 8192, 0, NULL, NULL) = 10

2 优缺点

优点

代码简单,逻辑清晰。

缺点

  • 由于stream的read操作是阻塞读,面对多个连接时 每个连接需要每线程。无法处理大量连接(C10K问题)。
  • 误区:可见JDK1.8中对于最初的BIO,在Linux OS下仍然使用的poll,poll本身也是相对比较高效的多路复用函数(支持非阻塞、多个socket同时检查event),只是限于JDK最初的stream API限制,无法支持非阻塞读取。

二 NIO(non block)

改进:使用NIO API,将阻塞变为非阻塞, 不需要大量线程。

/** * Ali Inc. Copyright (c) 2004-2020 All Rights Reserved. */ package io; import java.io.IOException; import java.net.InetSocketAddress; import java.nio.ByteBuffer; import java.nio.c; import java.nio.c; import java.u; /** * @author xiangyong.ding * @version $Id: NioSocket.java, v 0.1 2020年08月09日 11:25 xiangyong.ding Exp $ */ public class NIOSocket { private static LinkedList< SocketChannel> clients = new LinkedList<>(); private static void startClientChannelHandleThread(){ new Thread(() -> { while (true){ ByteBuffer buffer = By(4096); //处理客户端连接 for (SocketChannel c : clients) { // 非阻塞, >0 表示读取到的字节数量, 0或-1表示未读取到或读取异常 int num = 0; try { num = c.read(buffer); } catch (IOException e) { e.printStackTrace(); } if (num > 0) { bu(); byte[] clientBytes = new byte[bu()]; //从缓冲区 读取到内存中 bu(clientBytes); Sy().getPort() + ":" + new String(clientBytes)); //清空缓冲区 bu(); } } } }).start(); } public static void main(String[] args) throws IOException { //new socket,开启监听 ServerSocketChannel socketChannel = ServerSocke(); (new InetSocketAddress(9090)); //设置阻塞接受客户端连接 (true); //开始client处理线程 startClientChannelHandleThread(); while (true) { //接受客户端连接; 非阻塞,无客户端返回null(操作系统返回-1) SocketChannel client = (); if (client == null) { //Sy("no client"); } else { //设置读非阻塞 client.configureBlocking(false); int port = client.socket().getPort(); Sy("client port :" + port); clien(client); } } } }

1 发生的系统调用

主线程

socket(AF_INET, SOCK_STREAM, IPPROTO_IP) = 4 bind(4, {sa_family=AF_INET, sin_port=htons(9090), sin_addr=inet_addr("0.0.0.0")}, 16) = 0 listen(4, 50) = 0 fcntl(4, F_SETFL, O_RDWR|O_NONBLOCK) = 0 accept(4, 0x7fe26414e680, 0x7fe26c376710) = -1 EAGAIN (Resource temporarily unavailable)

有连接后,子线程

read(6, 0x7f3f415b1c50, 4096) = -1 EAGAIN (Resource temporarily unavailable) read(6, 0x7f3f415b1c50, 4096) = -1 EAGAIN (Resource temporarily unavailable) ...

资源使用情况:

2 优缺点

优点

线程数大大减少。

缺点

需要程序自己扫描 每个连接read,需要 O(n)时间复杂度系统调用 (此时可能只有一个连接发送了数据),高频系统调用(导致CPU 用户态内核态切换)高。导致CPU消耗很高。

三 多路复用器(select、poll、EPOLL)

改进:不需要用户扫描所有连接,由kernel 给出哪些连接有数据,然后应用从有数据的连接读取数据。

1 epoll

import java.net.InetSocketAddress; import java.nio.ByteBuffer; import java.nio.c; import java.nio.c; import java.nio.c; import java.nio.c; import java.u; import java.u; import java.u; /** * 多路复用socket * * @author xiangyong.ding * @version $Id: Mul, v 0.1 2020年08月09日 12:19 xiangyong.ding Exp $ */ public class MultiplexingSocket { static ByteBuffer buffer = By(4096); public static void main(String[] args) throws Exception { LinkedList< SocketChannel> clients = new LinkedList<>(); //1.启动server //new socket,开启监听 ServerSocketChannel socketChannel = ServerSocke(); (new InetSocketAddress(9090)); //设置非阻塞,接受客户端 (false); //多路复用器(JDK包装的代理,select /poll/epoll/kqueue) Selector selector = Selec(); //java自动代理,默认为epoll //Selector selector = PollSelec().openSelector();//指定为poll //将服务端socket 注册到 多路复用器 (selector, Selec); //2. 轮训多路复用器 // 先询问有没有连接,如果有则返回数量以及对应的对象(fd) while () > 0) { Sy(); Set< SelectionKey> selectionKeys = (); Iterator< SelectionKey> iter = (); while ()) { SelectionKey key = i(); i(); 处理新的连接 if ()) { //接受客户端连接; 非阻塞,无客户端返回null(操作系统返回-1) SocketChannel client = (); //设置读非阻塞 client.configureBlocking(false); //同样,把client也注册到selector client.register(selector, Selec); Sy("new client : " + client.getRemoteAddress()); } 处理读取数据 else if ()) { readDataFromSocket(key); } } } } protected static void readDataFromSocket(SelectionKey key) throws Exception { SocketChannel socketChannel = (SocketChannel) key.channel(); // 非阻塞, >0 表示读取到的字节数量, 0或-1表示未读取到或读取异常 // 请注意:这个例子降低复杂度,不考虑报文大于buffer size的情况 int num = (buffer); if (num > 0) { bu(); byte[] clientBytes = new byte[bu()]; //从缓冲区 读取到内存中 bu(clientBytes); Sy().getPort() + ":" + new String(clientBytes)); //清空缓冲区 bu(); } } }

2 发生的系统调用

启动

socket(AF_INET, SOCK_STREAM, IPPROTO_IP) = 4 bind(4, {sa_family=AF_INET, sin_port=htons(9090), sin_addr=inet_addr("0.0.0.0")}, 16) = 0 listen(4, 50) fcntl(4, F_SETFL, O_RDWR|O_NONBLOCK) = 0 epoll_create(256) = 7 epoll_ctl(7, EPOLL_CTL_ADD, 5, {EPOLLIN, {u32=5, u64=4324783852322029573}}) = 0 epoll_ctl(7, EPOLL_CTL_ADD, 4, {EPOLLIN, {u32=4, u64=6}}) = 0 epoll_wait(7

关于对epoll_create(对应着Java的 Selector selector = Selec()) 的说明,本质上是在内存的操作系统保留区,创建一个epoll数据结构。用于后面当有client连接时,向该epoll区中添加监听。

有连接

epoll_wait(7,[{EPOLLIN, {u32=4, u64=6}}], 8192, -1) = 1 accept(4, {sa_family=AF_INET, sin_port=htons(29597), sin_addr=inet_addr("42.120.74.252")}, [16]) = 8 fcntl(8, F_SETFL, O_RDWR|O_NONBLOCK) = 0 epoll_ctl(7, EPOLL_CTL_ADD, 8, {EPOLLIN, {u32=8, u64=3212844375897800712}}) = 0

关于epoll_ctl (对应着Java的 client.register(selector, Selec) )。其中 EPOLLIN 恰好对应着Java的 Selec 即监听数据到达读取事件。

客户端发送数据

epoll_wait(7,[{EPOLLIN, {u32=8, u64=3212844375897800712}}], 8192, -1) = 1 read(8, "hello,multiplex\n", 4096) = 16 epoll_wait(7,

note:epoll_wait第四个参数-1表示block。

poll 和 epoll 对比

根据“1.BIO”中的poll函数调用和epoll函数对比如下:

poll和epoll本质上都是同步IO, 区别于BIO的是 多路复用充分降低了 system call,而epoll更进一步,再次降低了system call的时间复杂度。

3 优缺点

优点

  • 线程数同样很少,甚至可以把acceptor线程和worker线程使用同一个。
  • 时间复杂度低,Java实现的Selector(在Linux OS下使用的epoll函数)支持多个clientChannel事件的一次性获取,且时间复杂度维持在O(1)。
  • CPU使用低:得益于Selector,我们不用向 “2.NIO”中需要自己一个个ClientChannel手动去检查事件,因此使得CPU使用率大大降低。

缺点

  • 数据处理麻烦:目前 读取数据完全是基于字节的,当我们需要需要作为HTTP服务网关时,对于HTTP协议的处理完全需要自己解析,这是个庞大、烦杂、容易出错的工作。
  • 性能现有socket数据的读取((buffer))全部通过一个buffer 缓冲区来接受,一旦连接多起来,这无疑是一个单线程读取,性能无疑是个问题。那么此时buffer我们每次读取都重新new出来呢?如果每次都new出来,这样的内存碎片对于GC无疑是一场灾难。如何平衡地协调好buffer的共享,既保证性能,又保证线程安全,这是个难题。

四 Netty

1 研究的目标源码(netty提供的入门example)

TelnetServer

package telnet; import io.ne; import io.ne; import io.ne; import io.ne; import io.ne; import io.ne; import io.ne; import io.neBuilder; import io.ne; /** * Simplistic telnet server. */ public final class TelnetServer { static final boolean SSL = Sy("ssl") != null; static final int PORT = In(Sy("port", SSL? "8992" : "8023")); public static void main(String[] args) throws Exception { // Configure SSL. final SslContext sslCtx; if (SSL) { SelfSignedCertificate ssc = new SelfSignedCertificate(); sslCtx = S(), ()).build(); } else { sslCtx = null; } EventLoopGroup bossGroup = new NioEventLoopGroup(1); EventLoopGroup workerGroup = new NioEventLoopGroup(); try { ServerBootstrap b = new ServerBootstrap(); b.group(bossGroup, workerGroup) .channel) .handler(new LoggingHandler)) .childHandler(new TelnetServerInitializer(sslCtx)); b.bind(PORT).sync().channel().closeFuture().sync(); } finally { bo(); workerGroup.shutdownGracefully(); } } }

TelnetServerHandler

package telnet;

import io.ne; import io.neListener; import io.ne; import io.ne; import io.ne; import java.net.InetAddress; import java.u; /** * Handles a server-side channel. */ @Sharable public class TelnetServerHandler extends SimpleChannelInboundHandler< String> { @Override public void channelActive(ChannelHandlerContext ctx) throws Exception { // Send greeting for a new connection. c("Welcome to " + Ine().getHostName() + "!\r\n"); c("It is " + new Date() + " now.\r\n"); c(); } @Override public void channelRead0(ChannelHandlerContext ctx, String request) throws Exception { // Generate and write a response. String response; boolean close = false; if ()) { response = "Please type something.\r\n"; } else if ("bye".equal())) { response = "Have a good day!\r\n"; close = true; } else { response = "Did you say '" + request + "'?\r\n"; } // We do not need to write a ChannelBuffer here. // We know the encoder inserted at TelnetPipelineFactory will do the conversion. ChannelFuture future = c(response); // Close the connection after sending 'Have a good day!' // if the client has sent 'bye'. if (close) { ); } } @Override public void channelReadComplete(ChannelHandlerContext ctx) { c(); } @Override public void exceptionCaught(ChannelHandlerContext ctx, Throwable cause) { cau(); c(); } }

TelnetServerInitializer

package telnet; import io.ne; import io.ne; import io.ne; import io.ne; import io.ne; import io.ne; import io.ne; import io.ne; /** * Creates a newly configured {@link ChannelPipeline} for a new channel. */ public class TelnetServerInitializer extends ChannelInitializer< SocketChannel> { private static final StringDecoder DECODER = new StringDecoder(); private static final StringEncoder ENCODER = new StringEncoder(); private static final TelnetServerHandler SERVER_HANDLER = new TelnetServerHandler(); private final SslContext sslCtx; public TelnetServerInitializer(SslContext sslCtx) { = sslCtx; } @Override public void initChannel(SocketChannel ch) throws Exception { ChannelPipeline pipeline = ch.pipeline(); if (sslCtx != null) { ())); } // Add the text line codec combination first, (new DelimiterBasedFrameDecoder(8192, Delimi())); // the encoder and decoder are static as these are sharable (DECODER); (ENCODER); // and then business logic. (SERVER_HANDLER); } }

2 启动后的系统调用

主线程(23109)

## 256无实际作用,这里只为了兼容旧版kernel api epoll_create(256) = 7epoll_ctl(7, EPOLL_CTL_ADD, 5, {EPOLLIN, {u32=5, u64=5477705356928876549}}) = 0 epoll_create(256) = 10epoll_ctl(10, EPOLL_CTL_ADD, 8, {EPOLLIN, {u32=8, u64=170453448}}) = 0 epoll_create(256) = 13 epoll_ctl(13, EPOLL_CTL_ADD, 11, {EPOLLIN, {u32=11, u64=170423899}}) = 0 epoll_create(256) = 16 epoll_ctl(16, EPOLL_CTL_ADD, 14, {EPOLLIN, {u32=14, u64=17042497300737294350}}) = 0 epoll_create(256) = 19 epoll_ctl(19, EPOLL_CTL_ADD, 17, {EPOLLIN, {u32=17, u64=170425609}}) = 0 epoll_create(256) = 10 socket(AF_INET, SOCK_STREAM, IPPROTO_IP) = 20 clone(child_stack=0x7fc3c509afb0, flags=CLONE_VM|CLONE_FS|CLONE_FILES|CLONE_SIGHAND|CLONE_THREAD|CLONE_SYSVSEM|CLONE_SETTLS|CLONE_PARENT_SETTID|CLONE_CHILD_CLEARTID, parent_tidptr=0x7fc3c509b9d0, tls=0x7fc3c509b700, child_tidptr=0x7fc3c509b9d0) = 23130

概括为:

  • 向OS新建socket,并开启clone boss线程23130。
  • 为BOSS创建了一个epoll(论证参见下面“boss”),每个worker创建一个epoll数据结构(本质上是在kernel内存区创建了一个数据结构,用于后续监听)。
  • 创建boss线程监听的socket(本质上在kernel中创建一个数据结构)。

boss(23130)

bind(20, {sa_family=AF_INET, sin_port=htons(8023), sin_addr=inet_addr("0.0.0.0")}, 16) = 0 listen(20, 128) = 0 getsockname(20, {sa_family=AF_INET, sin_port=htons(8023), sin_addr=inet_addr("0.0.0.0")}, [16]) = 0 getsockname(20, {sa_family=AF_INET, sin_port=htons(8023), sin_addr=inet_addr("0.0.0.0")}, [16]) = 0 ##将fd为7号epoll和fd为20号的socket绑定,事件:epoll_ctl_add和epoll_ctl_mod epoll_ctl(7, EPOLL_CTL_ADD, 20, {EPOLLIN, {u32=20, u64=141980598}}) = 0 epoll_ctl(7, EPOLL_CTL_MOD, 20, {EPOLLIN, {u32=20, u64=20}}) = 0 epoll_wait(7, [{EPOLLIN, {u32=5, u64=172958053}}], 8192, 1000) = 1 epoll_wait(7, [], 8192, 1000) = 0(不断轮训,1S超时一次)

概括为:

  • 将上一步中main线程创建的fd:20绑定端口8023,并开启监听(网卡负责监听和接受连接和数据,kernel则负责路由到具体进程,具体参见:关于socket和bind和listen,TODO )。
  • 将7号socket对应的fd绑定到20号对应的epoll数据结构上去(都是操作kernel中的内存)。
  • 开始1S中一次阻塞等待epoll有任何连接或数据到达。

3 客户端连接

boss (23130)

accept(20, {sa_family=AF_INET, sin_port=htons(11144), sin_addr=inet_addr("42.120.74.122")}, [16]) = 24 getsockname(24, {sa_family=AF_INET, sin_port=htons(8023), sin_addr=inet_addr("192.168.0.120")}, [16]) = 0 getsockname(24, {sa_family=AF_INET, sin_port=htons(8023), sin_addr=inet_addr("192.168.0.120")}, [16]) = 0 setsockopt(24, SOL_TCP, TCP_NODELAY, [1], 4) = 0 getsockopt(24, SOL_SOCKET, SO_SNDBUF, [87040], [4]) = 0 getsockopt(24, SOL_SOCKET, SO_SNDBUF, [87040], [4]) = 0 ##抛出 work线程 clone(child_stack=0x7fc3c4c98fb0, flags=CLONE_VM|CLONE_FS|CLONE_FILES|CLONE_SIGHAND|CLONE_THREAD|CLONE_SYSVSEM|CLONE_SETTLS|CLONE_PARENT_SETTID|CLONE_CHILD_CLEARTID, parent_tidptr=0x7fc3c4c999d0, tls=0x7fc3c4c99700, child_tidptr=0x7fc3c4c999d0) = 2301

worker (2301)

writev(24, [{"Welcome to iZbp14e1g9ztpshfrla9m"..., 37}, {"It is Sun Aug 23 15:44:14 CST 20"..., 41}], 2) = 78 epoll_ctl(13, EPOLL_CTL_ADD, 24, {EPOLLIN, {u32=24, u64=24}}) = 0 epoll_ctl(13, EPOLL_CTL_MOD, 24, {EPOLLIN, {u32=24, u64=141450264}}) = 0 epoll_wait(13, [{EPOLLIN, {u32=11, u64=170423899}}], 8192, 1000) = 1 read(11, "\1", 128) = 1 ##开始无限loop epoll_wait(13, [], 8192, 1000) = 0 epoll_wait(13, [{EPOLLIN, {u32=24, u64=24}}], 8192, 1000) = 1

概括:

  • 当BOSS轮训epoll_wait等到了连接后,首先accept得到该socket对应的fd。
  • 连接建立后 BOSS立马抛出一个线程(clone函数)。
  • worker(即新建的线程)写入了一段数据(这里是业务逻辑)。
  • worker将该client对应的fd绑定到了13号epoll上。
  • worker继续轮训监听13号epoll。

4 客户端主动发送数据

worker(2301)

read(24, "i am daojian\r\n", 1024) = 14 write(24, "Did you say 'i am daojian'?\r\n", 29) = 29 ##继续无限loop epoll_wait(13, [], 8192, 1000) = 0

概括为:

  • wait到数据后,立即read到用户控件内存中(读取1024个字节到 用户控件某个buff中)。
  • 写入数据(业务逻辑,不必太关注)。
  • 继续轮训等待13号epoll。

5 客户端发送bye报文,服务器断开TCP连接

worker(2301)

read(24, "bye\r\n", 1024) = 5 write(24, "Have a good day!\r\n", 18) = 18 getsockopt(24, SOL_SOCKET, SO_LINGER, {onoff=0, linger=0}, [8]) = 0 dup2(25, 24) = 24 ##从epoll数据结构中(OS)中删除fd为24的socket epoll_ctl(13, EPOLL_CTL_DEL, 24, 0x7f702dd531e0) = -1 ENOENT ##关闭24 socket close(24) = 0 ##继续等待13 epoll数据 epoll_wait(13, [], 8192, 1000) = 0

断开客户端连接概括为:

  • 从epoll中删除该客户端对应的fd(这里触发源头没找到,可能是boss)。
  • close关闭客户端24号fd。
  • 继续轮训epoll。

6 五个客户端同时连接

boss线程(23130)

accept(20, {sa_family=AF_INET, sin_port=htons(1846), sin_addr=inet_addr("42.120.74.122")}, [16]) = 24 clone(child_stack=0x7f702cc51fb0, flags=CLONE_VM|CLONE_FS|CLONE_FILES|CLONE_SIGHAND|CLONE_THREAD|CLONE_SYSVSEM|CLONE_SETTLS|CLONE_PARENT_SETTID|CLONE_CHILD_CLEARTID, parent_tidptr=0x7f702cc529d0, tls=0x7f702cc52700, child_tidptr=0x7f702cc529d0) = 10035 accept(20, {sa_family=AF_INET, sin_port=htons(42067), sin_addr=inet_addr("42.120.74.122")}, [16]) = 26 clone(child_stack=0x7f702cb50fb0, flags=CLONE_VM|CLONE_FS|CLONE_FILES|CLONE_SIGHAND|CLONE_THREAD|CLONE_SYSVSEM|CLONE_SETTLS|CLONE_PARENT_SETTID|CLONE_CHILD_CLEARTID, parent_tidptr=0x7f702cb519d0, tls=0x7f702cb51700, child_tidptr=0x7f702cb519d0) = 10067 ...

woker线程(10035,第一个连接)

epoll_ctl(13, EPOLL_CTL_ADD, 24, {EPOLLIN, {u32=24, u64=24}}) = 0 epoll_ctl(13, EPOLL_CTL_MOD, 24, {EPOLLIN, {u32=24, u64=3226004877247250456}}) = 0 epoll_wait(13, [{EPOLLIN, {u32=11, u64=170423899}}], 8192, 1000) = 1 = 1 epoll_wait(13, [], 8192, 1000) = 0

worker线程(10067,第二个连接)

epoll_ctl(16, EPOLL_CTL_ADD, 26, {EPOLLIN, {u32=26, u64=26}}) = 0 epoll_ctl(16, EPOLL_CTL_MOD, 26, {EPOLLIN, {u32=26, u64=3221483685433835546}}) = 0 epoll_wait(16, [{EPOLLIN, {u32=14, u64=17042497300737294350}}], 8192, 1000) = 1 epoll_wait(16, [], 8192, 1000) = 0 epoll_wait(16, [], 8192, 1000) = 0

worker线程(10067,第二个连接)

epoll_ctl(19, EPOLL_CTL_ADD, 27, {EPOLLIN, {u32=27, u64=27}}) = 0 epoll_ctl(19, EPOLL_CTL_MOD, 27, {EPOLLIN, {u32=27, u64=3216966479350071323}}) = 0

worker线程(8055,第四个连接)

epoll_ctl(10, EPOLL_CTL_ADD, 28, {EPOLLIN, {u32=28, u64=28}}) = 0 epoll_ctl(10, EPOLL_CTL_MOD, 28, {EPOLLIN, {u32=28, u64=3302604828697427996}}) = 0

worker线程(10035,第五个连接,不在clone线程,而是复用了第一个epoll对应的worker)

epoll_ctl(13, EPOLL_CTL_ADD, 29, {EPOLLIN, {u32=29, u64=29}}) = 0 epoll_ctl(13, EPOLL_CTL_MOD, 29, {EPOLLIN, {u32=29, u64=29}}) = 0

概括为:

  • epoll和boss、worker之间的关系:一共有4个worker对应着4个epoll对象,boss和每个worker都有对应自己的epoll。
  • boss根据epoll数量,平衡分配连接到每个worker对应的epoll中。

7 总结

下图通过对系统调用的调查得出 netty 和 kernel 交互图:

初始化直接创建5个epoll,其中7号为boss使用,专门用于处理和客户端连接;其余4个用来给worker使用,用户处理和客户端的数据交互。

work的线程数量,取决于初始化时创建了几个epoll,worker的复用本质上是epoll的复用。

work之间为什么要独立使用epoll?为什么不共享?

  • 为了避免各个worker之间发生争抢连接处理,netty直接做了物理隔离,避免竞争。各个worker只负责处理自己管理的连接,并且后续该worker中的每个client的读写操作完全由 该线程单独处理,天然避免了资源竞争,避免了锁。
  • worker单线程,性能考虑:worker不仅仅要epoll_wait,还是处理read、write逻辑,加入worker处理了过多的连接,势必造成这部分消耗时间片过多,来不及处理更多连接,性能下降。

8 优缺点

优点

  • 数据处理:netty提供了大量成熟的数据处理组件(ENCODER、DECODER),HTTP、POP3拿来即用。
  • 编码复杂度、可维护性:netty充分使得业务逻辑与网络处理解耦,只需要少量的BootStrap配置即可,更多的集中在业务逻辑处理上。
  • 性能:netty提供了的ByteBuf(底层Java原生的ByteBuffer),提供了池化的ByteBuf,兼顾读取性能和ByteBuf内存分配(在后续文档中会再做详解)。

缺点

  • 入门有一定难度。

五 AIO

1 启动

main线程

epoll_create(256) = 5 epoll_ctl(5, EPOLL_CTL_ADD, 6, {EPOLLIN, {u32=6, u64=184482566}}) = 0 ##创建BOSS 线程(Proactor) clone(child_stack=0x7f340ac06fb0, flags=CLONE_VM|CLONE_FS|CLONE_FILES|CLONE_SIGHAND|CLONE_THREAD|CLONE_SYSVSEM|CLONE_SETTLS|CLONE_PARENT_SETTID|CLONE_CHILD_CLEARTID, parent_tidptr=0x7f340ac079d0, tls=0x7f340ac07700, child_tidptr=0x7f340ac079d0) = 22704 socket(AF_INET6, SOCK_STREAM, IPPROTO_IP) = 8 setsockopt(8, SOL_IPV6, IPV6_V6ONLY, [0], 4) = 0 setsockopt(8, SOL_SOCKET, SO_REUSEADDR, [1], 4) = 0 bind(8, {sa_family=AF_INET6, sin6_port=htons(9090), inet_pton(AF_INET6, "::", &sin6_addr), sin6_flowinfo=0, sin6_scope_id=0}, 28) = 0 listen(8, 50) accept(8, 0x7f67d01b3120, 0x7f67d9246690) = -1 epoll_ctl(5, EPOLL_CTL_MOD, 8, {EPOLLIN|EPOLLONESHOT, {u32=8, u64=025362440}}) = -1 ENOENT (No such file or directory) epoll_ctl(5, EPOLL_CTL_ADD, 8, {EPOLLIN|EPOLLONESHOT, {u32=8, u64=025362440}}) = 0 read(0,

22704(BOSS 线程(Proactor))

epoll_wait(5, < unfinished ...>

2 请求连接

**22704(BOSS 线程(Proactor))处理连接** epoll_wait(5,[{EPOLLIN, {u32=9, u64=4294967305}}], 512, -1) = 1 accept(8, {sa_family=AF_INET6, sin6_port=htons(55320), inet_pton(AF_INET6, "::ffff:36.24.32.140", &sin6_addr), sin6_flowinfo=0, sin6_scope_id=0}, [28]) = 9 clone(child_stack=0x7ff35c99ffb0, flags=CLONE_VM|CLONE_FS|CLONE_FILES|CLONE_SIGHAND|CLONE_THREAD|CLONE_SYSVSEM|CLONE_SETTLS|CLONE_PARENT_SETTID|CLONE_CHILD_CLEARTID, parent_tidptr=0x7ff35c9a09d0, tls=0x7ff35c9a0700, child_tidptr=0x7ff35c9a09d0) = 26241 epoll_wait(5, < unfinished ...>

26241

#将client 连接的FD加入到BOSS的epoll中,以便BOSS线程监听网络事件 epoll_ctl(5, EPOLL_CTL_MOD, 9, {EPOLLIN|EPOLLONESHOT, {u32=9, u64=4398046511113}}) = -1 ENOENT (No such file or directory) epoll_ctl(5, EPOLL_CTL_ADD, 9, {EPOLLIN|EPOLLONESHOT, {u32=9, u64=4398046511113}}) = 0 accept(8, 0x7ff3440008c0, 0x7ff35c99f4d0) = -1 EAGAIN (Resource temporarily unavailable) epoll_ctl(5, EPOLL_CTL_MOD, 8, {EPOLLIN|EPOLLONESHOT, {u32=8, u64=8}}) = 0

3 客户端发送数据

22704(BOSS 线程(Proactor))处理连接

epoll_wait(5,[{EPOLLIN, {u32=9, u64=4294967305}}], 512, -1) = 1 ##数据读出 read(9, "daojian111\r\n", 1024) = 12 ##数据处理交给其他线程,这里由于线程池为空,需要先clone线程 clone(child_stack=0x7ff35c99ffb0, flags=CLONE_VM|CLONE_FS|CLONE_FILES|CLONE_SIGHAND|CLONE_THREAD|CLONE_SYSVSEM|CLONE_SETTLS|CLONE_PARENT_SETTID|CLONE_CHILD_CLEARTID, parent_tidptr=0x7ff35c9a09d0, tls=0x7ff35c9a0700, child_tidptr=0x7ff35c9a09d0) = 26532

复制线程处理,线程号26532

write(1, "pool-1-thread-2-10received : dao"..., 41) = 41 write(1, "\n", 1) accept(8, 0x7f11c400b5f0, 0x7f11f42fd4d0) = -1 EAGAIN (Resource temporarily unavailable) epoll_ctl(5, EPOLL_CTL_MOD, 8, {EPOLLIN|EPOLLONESHOT, {u32=8, u64=8}}) = 0

4 总结

  • 从系统调用角度,Java的AIO事实上是以多路复用(Linux上为epoll)等同步IO为基础,自行实现了异步事件分发。
  • BOSS Thread负责处理连接,并分发事件。
  • WORKER Thread只负责从BOSS接收的事件执行,不负责任何网络事件监听。

5 优缺点

优点

相比于前面的BIO、NIO,AIO已经封装好了任务调度,使用时只需关心任务处理。

缺点

  • 事件处理完全由Thread Pool完成,对于同一个channel的多个事件可能会出现并发问题。
  • 相比netty,buffer API不友好容易出错;编解码工作复杂。

相关链接



作者 | 道坚

原文链接:

本文为阿里云原创内容,未经允许不得转载。

1.《【本田ctx68多少钱】从操作系统层面分析Java IO进化的路径》援引自互联网,旨在传递更多网络信息知识,仅代表作者本人观点,与本网站无关,侵删请联系页脚下方联系方式。

2.《【本田ctx68多少钱】从操作系统层面分析Java IO进化的路径》仅供读者参考,本网站未对该内容进行证实,对其原创性、真实性、完整性、及时性不作任何保证。

3.文章转载时请保留本站内容来源地址,https://www.lu-xu.com/auto/2627973.html

上一篇

【07川崎10r和06的10r区别】绿色恶魔-川崎ZX-10R发展史

下一篇

川崎636质量看这里!600mL排量真的会消失吗?

【本田ctx68多少钱】GitHub潮流排行榜登顶,明星1.8k:200行JS码,画面人物瞬间消失。

【本田ctx68多少钱】GitHub潮流排行榜登顶,明星1.8k:200行JS码,画面人物瞬间消失。

本田ctx68多少钱相关介绍,整理|夕阳 制作| CSDN(id 3360 csdnnews) 今天,Real-Time-Person-Removal(实时人物消除)项目在GitHub很生气,最近登上了GitHub Trendin...

【本田ctx68多少钱】Honda  DreamWing  2018全系统当前销售模式价格

【本田ctx68多少钱】Honda DreamWing 2018全系统当前销售模式价格

本田ctx68多少钱相关介绍,CB500F 外观非常吸引人的发动机,动力十足,非常有活力。 细腻美观的车身设计保证了车辆等级和实用性。 司机税的无限自由是新一代街车的典范。 色:爵士红 价格:65,900(ABS) 色彩:梦幻蓝 ...

【本田ctx68多少钱】“给车也不换”的10万韩元级大贸易摩托车型库存。

【本田ctx68多少钱】“给车也不换”的10万韩元级大贸易摩托车型库存。

本田ctx68多少钱相关介绍,普通人花1万买摩托车是奢侈的,普通毛友花5万买摩托车已经觉得很好了,土豪花10万买摩托车是不情愿的,很辛苦。在不深入了解的过程中,发现几万元根本买不到好摩托车。回顾以前不知道摩托车的人,关于“花1万韩...

【本田ctx68多少钱】第二轮风别鉴定落地10万韩元摩托车购买计划

【本田ctx68多少钱】第二轮风别鉴定落地10万韩元摩托车购买计划

本田ctx68多少钱相关介绍,前面写着。 10万人民币足够买一辆能挡风防雨的车,比如宽敞的空间飞行,著名的捷达,甚至很多国产SUV。为什么我们要选择暴露身体的摩托车?那是因为10万韩元的摩托车比同一个价格能承载更多的功能和意义。也...