公众号
关注微信公众号
移动端
创头条企服版APP

MQTT over QUIC:下一代物联网标准协议为消息传输场景注入新动力

3142

引言:首个将QUIC引入MQTT的开创性产品

在最新发布的5.0版本中,EMQX开创性地引入了QUIC支持。

QUIC是下一代互联网协议HTTP/3的底层传输协议,与TCP/TLS协议相比,它在减少连接开销与消息延迟的同时,为现代移动互联网提供了有效灵活的传输层。

基于QUIC这些极适用于物联网消息传输场景的优势,EMQX 5.0引入QUIC支持(MQTT over QUIC)并设计了独特的消息传输机制和管理方式。


本文将通过对MQTT over QUIC的详细解析,为大家展现这一领先技术实现对于物联网场景的优势与价值,帮助大家更有效地借助EMQX 5.0对QUIC的支持能力,在各类MQTT应用场景中进行更加高效、低成本的物联网数据传输。

什么是QUIC

QUIC是一种建立在UDP之上通用的传输层网络协议,最初由Google提出,作为TCP+TLS的替代方案,旨在改善用户体验。

  • 与现有的TLS over TCP方案相比,QUIC有很多优势:

  • 快速建立低延迟连接(1 RTT或者0 RTT)

  • 端到端加密,握手通过TLS 1.3进行身份验证

  • 避免队头阻塞的多路复用

  • 改进的拥塞控制,可插拔的拥塞控制策略

  • 多路径支持,连接平滑迁移

  • 无状态负载均衡

  • 现有网络无需改造升级即可支持

因其高效的传输效率和多路并发的能力,QUIC已经成为下一代互联网协议HTTP/3的底层传输协议。

HTTP/3协议介绍

2018年10月,IETF的HTTP和QUIC工作组联合决定将QUIC上的HTTP映射称为HTTP/3,以提前使其成为全球标准。2022年6月6日,IETF将HTTP/3标准化为RFC 9114。

HTTP/3的目标是通过解决HTTP/2的传输相关问题,在所有形式的设备上提供快速、可靠和安全的Web连接。HTTP/3使用与HTTP/2版本类似的语义,包括相同的请求方法、状态代码和消息字段,两者根本区别在于,HTTP/2底层使用的是TCP/TLS协议,而HTTP/3使用的是QUIC协议。

根据W3Techs统计,互联网至少40%的流量是基于QUIC的,前1000万个网站中的25%已经支持HTTP/3协议,包括Google,Youtube,Facebook等顶流站点。

QUIC在MQTT通信场景中的应用前景

MQTT是基于TCP的物联网通信协议,紧凑的报文结构能够在严重受限的硬件设备和低带宽、高延迟的网络上实现稳定传输;心跳机制、遗嘱消息、QoS质量等级等诸多特性能够应对各种物联网场景。

尽管如此,由于底层TCP传输协议限制,某些复杂网络环境下MQTT协议存在固有的弊端:

  • 网络切换导致经常性连接中断

  • 断网后重新建立连接困难:断网后操作系统释放资源较慢,且应用层无法及时感知断开状态,重连时Server/Client开销较大

  • 弱网环境下数据传输受限于拥塞、丢包侦测和重传机制

例如车联网用户通常会面对类似的问题:车辆可能会运行在山区、矿场、隧道等地方,当进入到信号死角或被动切换基站时会导致连接中断,频繁连接中断与较慢的连接恢复速度会导致用户体验变差。在一些对数据传输实时性和稳定性要求较高的业务,如L4级别的无人驾驶中,客户需要花费大量的成本来缓解这一问题。

在上述这类场景中,QUIC低连接开销和多路径支持的特性就显示出了其优势。经过更深入的探索,我们认为MQTT Over QUIC可以非常好地解决这一困境——基于QUIC 0 RTT/1 RTT重连/新建能力,能够在弱网与不固定的网络通路中有效提升用户体验。

EMQX 5.0的MQTT over QUIC实现

EMQX目前的实现将传输层换成QUIC Stream,由客户端发起连接和创建Stream,EMQX和客户端在一个双向Stream上实现交互。

考虑到复杂的网络环境,如果客户端因某种原因未能通过QUIC握手,建议客户端自动退回到传统TCP上,避免系统无法建立跟服务器的通信。

1.png

目前EMQX 5.0中已经实现了以下特性:

  • 更高级的拥塞控制:有效降低数据丢包率,在测试中在网络波动的情况下仍能持续稳定传输数据

  • 运维友好:减少大规模重连导致的开销(时间开销、客户端/服务器性能开销),减少不必要的应用层状态迁移而引发的系统过载(0 RTT)

  • 更灵活的架构创新:比如Direct server return(DSR,服务器直接返回模式),只有入口/请求流量经过LB,出口和响应流量绕过LB直接回到客户端,减少LB的瓶颈

  • 减少握手延迟(1 RTT)

  • 多路径支持,连接平滑迁移:从4G切换到WIFI,或者因为NAT Rebinding导致五元组发生变化,QUIC依然可以在新的五元组上继续进行连接状态,尤其适用于网络经常性变化的移动设备

  • 更敏捷的开发部署:协议栈的实现在userspace,能够开发快速迭代

  • 端到端加密:未加密的包头带有极少信息,减少传输路径中中间节点的影响,带来更好的安全性和更可控的用户体验

同时还有以下更多能力有待进一步探索:

  • 不同主题的流:对于独立主题,每个主题可以有独立的Streams以消除其他主题长阻塞带来的影响,比如接收端长阻塞或流量控制,亦可以实现优先级主题功能。

  • 不同QoS的流:比如在「流量控制」中,QoS 0传输应该让位给高QoS传输。

  • 将控制消息分成不同的流:MQTT控制消息可以单向或双向发送。如客⼾端可以通过「控制流」异步发送UNSUBSCRIBE请求,以要求服务器端停⽌发送不再感兴趣的数据。

  • 更细粒度的收发端协同流量控制:面对每一个流进行流控且对整个连接进行流控,实现更细粒度的流量控制。

QUIC vs TCP/TLS测试对比

我们在实验室环境下,基于EMQX 5.0版本对不同的场景下QUIC与TCP/TLS的性能表现进行了模拟测试。

测试环境

  • 测试平台:EMQX 5.0单节点

  • 服务器规格:AWS EC2 M4.2xlarge(8核32GB)

  • 操作系统:Ubuntu 20.04

  • 客户端数:5000

  • loadgen并行数:8

  • latency取值:P95

客户端连接时延

测试在不同网络时延下握手、建立连接、完成订阅的时延。相较于TLS,在网络时延较高时QUIC有一定的优势。

图片2.png

1ms延迟

图片3.png

10ms延迟

图片4.png

30ms延迟

0 RTT重连时延

测试断开连接后,重新发起连接并恢复重连所需的时延。

由于QUIC在0 RTT场景下可以在第一个包上带上应用层的数据包,应用层相较于TCP一个来回握手响应更快。

QUIC协议支持0 RTT握手,当客户端和服务端完成初次握手后,服务端可向客户端发送NST包。客户端在连接断开后可用NST跳过1 RTT中的很多步骤快速重建连接。

0 RTT的好处是可有效降低客户端和服务端握手开销和提高性能(握手延迟),EMQX默认给客户端发送NST包,有效时性为2小时。

0 RTT也支持early data,相比于1 RTT需要握手完成后才可进行应用层传输,0 RTT的early data可以在第一个包上带上应用层数据,用于快速恢复或重启应用层业务。但由于0 RTT的early data不能防范重放攻击,因此QUIC建议不要在0 RTT上携带会改变应用状态的数据。

*注:EMQX默认不支持early data,此测试只用于对比验证。

测试结果表明如果MQTT层协议设计得当,在完成首次握手后,QUIC表现优于纯TCP。

连接/重连时服务器资源使用

测试新连接与断线重新连接不同过程中服务器CPU和内存的占用情况,以对比TLS,QUIC 1 RTT和0 RTT握手时资源开销。测试结果表明QUIC的CPU和内存使用均优于TLS,但是重建连接耗费带宽比TLS多。

7.jpeg

*注1:主要为MQTT清除会话,踢开旧连接的额外开销

 注2:主要为传输路径MTU验证导致的大量QUIC初始化握手数据包

图片6.png

客户端地址迁移

此测试模拟大规模客户端地址迁移时业务层消息传输的变化。

传统TCP/TLS客户端必须在应用层感知到断线才进行重连,此过程响应非常慢并伴有许多不必要的重传。QUIC的处理更加平顺,在传输层做到了保持连接不要求重连且让应用层无感(如果有需要应用层也可以订阅地址的变化)。

QUIC在客户端源IP地址/端口变化情况下,消息发送无任何影响。而TLS连接在变化后出现消息发送中断现象,即使客户端可以通过重连机制重新连接到EMQX上,但中间时间窗口将无法进行任何操作。

这一结果表明QUIC非常适合用在网络经常需要切换的环境。

图片7.png

网络丢包测试

测试在弱网条件下数据传输情况。我们分别做了3次测试:EMQX terminated TCP/TLS,QUIC以及nginx terminated TCP/TLS。

测试场景:EMQX以20K/s的速率发布QoS 1消息,在此过程中注入网络错误:20%乱序(发送端与接受端包的顺序不一致),10%丢包,QUIC测试中还额外增加每30秒一次的网络切换干扰。

在此情况下QUIC服务端接收的数据稍微有所抖动,但不丢失消息;而TLS出现因网络环境差而导致的拥塞、丢包。此项结果表明QUIC在弱网环境下可以提供可靠的传输。

*注:黄圈标记中我们去除了网络错误,可以看到TLS的收发恢复正常收发,包数量一致没有堆积,而QUIC只是从轻微抖动变得更平滑。

更便捷的使用:MQTT over QUIC SDK

NanoSDK 0.6.0基于MsQuic项目率先实现了第一个C语言的MQTT over QUIC SDK。

NanoSDK通过为NNG的传输层增加QUIC支持,使MQTT、nanomsg等协议能够从TCP转为UDP,从而提供更好的物联网连接体验。其内部将QUIC Stream和MQTT连接映射绑定,并内置实现了0 RTT快速握手重连功能。

我们近期也将基于NanoSDK进行封装并陆续推出Python、Go等语言的SDK,方便更多用户尽快体验到MQTT over QUIC的优势能力。

同时,相关的SDK将支持QUIC fallback,当QUIC不可用时,连接层将自动切换为TCP/TLS 1.2,确保各类网络环境下业务都能正常运行。

12.png

NanoSDK与EMQX之间通过QUIC进行消息收发

未来的EMQX QUIC

13.png

结合QUIC特性和物联网场景,我们为MQTT over QUIC规划了诸多特性,如通过区分控制通道实现主题优先级设置,实现非可靠实时流传输以应对高频数据传输场景,以及灵活的主题和数据通道(Stream)映射以降低主题之间的干扰。未来的版本中将陆续呈现。

EMQ也正在积极推进MQTT over QUIC的标准化落地。继2018年成为OASIS MQTT技术委员会中目前为止唯一拥有投票权的中国公司并参与5.0协议标准制定后,EMQ目前也已提交了MQTT over QUIC的相关草案。

相信在不久的将来,MQTT的底层协议将同时支持TCP与QUIC,使整个物联网行业从中获益。

结语

可以看到,QUIC非常适用于传统TCP/IP网络UDP MTU大小能够保证的弱网环境或者网络经常切换的环境。

对于设备时刻处在移动中的物联网场景(如车联网、移动采集等),或是需要频繁断连不适合做长连接的场景(如设备需要定期休眠)来说,QUIC都拥有巨大的潜力,是更为适合的底层协议选择,这也是EMQX 5.0引入QUIC支持的原因。

MQTT over QUIC在EMQX 5.0中的率先实现,让EMQ再次走在全球物联网消息服务器领域的前沿。EMQ将始终坚持以不断的技术革新驱动产品持续的迭代升级,期待通过领先的产品为物联网领域带来基础设施保障和业务创新动力。


声明:该文章版权归原作者所有,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题,请在30日内与本网联系。
您阅读这篇文章花了0
转发这篇文章只需要1秒钟
喜欢这篇 0
评论一下 0
凯派尔知识产权全新业务全面上线
相关文章
评论
试试以这些内容开始评论吧
登录后发表评论
凯派尔知识产权全新业务全面上线
阿里云创新中心
×
#热门搜索#
精选双创服务
历史搜索 清空

Tel:18514777506

关注微信公众号

创头条企服版APP