Netty高级进阶之Netty中的粘包和拆包的解决方案

本文阐述了 Netty 中常见的粘包和拆包问题,并深入分析了常用的解决方案。

粘包和拆包简介

粘包和拆包是 TCP 网络编程中不可避免的,无论是服务端和客户端,当读取或发送消息时,都需要考虑 TCP 底层的粘包/拆包机制。

TCP 是个流协议,流,就是没有界限的一组数据。

TCP 底层并不了解上层业务数据的具体含义它会根据 TCP 的缓冲区的实际情况进行包的拆分。在业务上认为,一个完整的包可能会被 TCP 拆分成多个包进行发送,也有可能把多个小包封装成一个大的数据包发送,这就是 TCP 的粘包和拆包问题。

如图,假设客户端发送了两个数据包 D1 和 D2 给服务端,由于服务器一次读取到的字节数是不确定的,所以可能存在 4 种情况:

  1. 服务器两次读到了两个独立的数据包,分别是 D1 和 D2,没有粘包和拆包

    image-20220502205307893

  2. 服务器一次读到了两个数据包,D1 和 D2 粘在一起,就是 TCP 粘包

    image-20220502205335162

  3. 如果 D2 的数据包比较大,服务端分两次读到了两个数据包,第一次读取到了完整的 D1 包和 D2 包的部分内容,第二次读取到了 D2 包的剩余内容,就是 TCP 拆包

    image-20220502205358020

  4. 如果 D1、D2 包都很大,服务端分多次才能将 D1 和 D2 读取完全,期间可能发生多次拆包

    image-20220502205420569

TCP 粘包和拆包产生的原因

数据从发送方到接收方需要经过操作系统得到缓冲区,造成粘包和拆包的主要原因就是这个缓冲区。

粘包可以理解为缓冲区的数据堆积,导致多个请求粘在一起,拆包可以理解为发送的数据大于缓冲区,进行拆分处理。

粘包和拆包的代码演示

  1. 粘包

    • 客户端

      1
      2
      3
      4
      5
      6
      7
      8
      9
      10
      11
      12
      /**
      * 通道就绪事件
      *
      * @param ctx
      * @throws Exception
      */
      @Override
      public void channelActive(ChannelHandlerContext ctx) throws Exception {
      for (int i = 0; i < 10; i++) {
      ctx.writeAndFlush(Unpooled.copiedBuffer("你好,我是Netty客户端" + i, CharsetUtil.UTF_8));
      }
      }
    • 服务端

      1
      2
      3
      4
      5
      6
      7
      8
      9
      10
      11
      12
      13
      /**
      * 通道读取事件
      *
      * @param ctx
      * @param msg
      * @throws Exception
      */
      @Override
      public void channelRead(ChannelHandlerContext ctx, Object msg) throws Exception {
      ByteBuf byteBuf = (ByteBuf) msg;
      System.out.println("客户端发过来的消息:" + byteBuf.toString(CharsetUtil.UTF_8));
      System.out.println("读取次数:" + (++count));
      }
    • 运行结果

      image-20220502214233739

      image-20220502214303600

      服务端一次读取了客户端发送过来的消息,应该读取 10 次, 因此发生粘包。

  2. 拆包

    • 客户端

      1
      2
      3
      4
      5
      6
      7
      8
      9
      10
      11
      12
      13
      14
      15
      /**
      * 通道就绪事件
      *
      * @param ctx
      * @throws Exception
      */
      @Override
      public void channelActive(ChannelHandlerContext ctx) throws Exception {
      // 一次发送102400字节数据
      char[] chars = new char[102400];
      Arrays.fill(chars, 0, 102399, 'a');
      for (int i = 0; i < 10; i++) {
      ctx.writeAndFlush(Unpooled.copiedBuffer(chars, CharsetUtil.UTF_8));
      }
      }
    • 服务端

      1
      2
      3
      4
      5
      6
      7
      8
      9
      10
      11
      12
      13
      14
      /**
      * 通道读取事件
      *
      * @param ctx
      * @param msg
      * @throws Exception
      */
      @Override
      public void channelRead(ChannelHandlerContext ctx, Object msg) throws Exception {
      ByteBuf byteBuf = (ByteBuf) msg;
      // System.out.println("客户端发过来的消息:" + byteBuf.toString(CharsetUtil.UTF_8));
      System.out.println("读取的长度:" + byteBuf.readableBytes());
      System.out.println("读取次数:" + (++count));
      }
    • 运行结果

      image-20220502214643017

      image-20220502214109440

      客户端发送的数据比较大时,读取了 18 次,应该读取 10 次,因此发生了拆包

粘包和拆包的解决方案

  1. 业内的解决方案

    底层的 TCP 无法理解上层的业务数据,因此底层是无法解决粘包与拆包的。

    只能通过上层协议栈的设计来解决,目前业内主流的解决方案如下:

    • 消息长度固定,累计读取到长度和为定长 LEN 的报文之后,就认为读取到了一个完整的信息
    • 将换行符作为消息结束符
    • 将特殊分隔符作为消息结束标志,回车换行符就是特殊的结束分隔符
    • 通过在消息头中定义长度字段来标识消息的长度
  2. Netty 的解决方案

    Netty 提供了 4 中解码器来解决,分别如下:

    • 固定长度的拆包器 FixedLengthFrameDecoder​ , 每个应用层数据包的拆分都是固定长度大小

    • 行拆包器 LineBasedFrameDecoder​ ,每个应用层数据包,都以换行符作为分隔符,进行分割拆分

    • 分隔符拆包器 DelimiterBasedFrameDecoder​ ,每个应用层数据包,都通过自定义分隔符,进行分割拆分

    • 基于数据包长度的拆包器,LengthFieldBasedFrameDecoder​ 将应用层数据包的长度,作为接收端应用层数据包的拆分依据。

      按照应用层数据包的大小,进行拆包。

      这个拆包器有个要求,应用层协议包含数据包长度。

  3. 代码实现

    • LineBasedFrameDcoder 解码器

      1
      2
      // 添加解码器,解决粘包问题
      ch.pipeline().addLast(new LineBasedFrameDecoder(2048));
      1
      ctx.writeAndFlush(Unpooled.copiedBuffer("你好,我是Netty客户端" + i + "\n", CharsetUtil.UTF_8));
    • DelimiterBasedFrameDecoder 解码器

      1
      2
      3
      ByteBuf byteBuf =
      Unpooled.copiedBuffer("$".getBytes(StandardCharsets.UTF_8));
      ch.pipeline().addLast(new DelimiterBasedFrameDecoder(2048, byteBuf));
      1
      ctx.writeAndFlush(Unpooled.copiedBuffer("你好呀,我是Netty客户端"+i+"$", CharsetUtil.UTF_8));

本文源码地址

netty-sticking-unpacking

Netty高级进阶之Netty中的粘包和拆包的解决方案

https://hexo.terwer.space/post/solution-of-sticking-and-unpacking-in-netty.html

作者

Terwer

发布于

2022-04-27

更新于

2023-08-27

许可协议

评论