作为一名测试工作者#xf…背景

当下云计算、大数据盛行的背景下大并发和大吞吐量的需求已经是摆在企业面前的问题了其中网络的性能要求尤为关键除了软件本身需要考虑到性能方面的要求一些硬件上面的优化也是必不可少的。

作为一名测试工作者对于性能测试的问题肯定不会陌生但是测试不仅仅是执行和收集数据更多的应该是分析问题、找到性能瓶颈以及一些优化工作。

毕竟在客户现场测试性能的时候能够通过一些系统层面的调优提升软件的性能那对项目无疑是一件锦上添花的事。

指标【文末分享性能测试学习资源】

不管你做何种性能测试指标是绕不过去的事指标是量化性能测试的重要依据。

衡量某个性能的指标有很多比如衡量数据库性能通常用TPS、QPS和延时衡量io性能通常用iops、吞吐量和延时衡量网络的性能指标也有很多在业界有一个RFC2544的标准参考链接https://www.rfc-editor.org/rfc/rfc2544。

这里稍微解释一下几个指标

背靠背测试在一段时间内以合法的最小帧间隔在传输介质上连续发送固定长度的包而不引起丢包时的数据量。

丢包率测试在路由器稳定负载状态下由于缺乏资源而不能被转发的帧占所有该被转发的帧的百分比。

时延测试输入帧的最后一位到达输入端口到输出帧的第一位出现在输出端看的时间间隔。

通常客户对于吞吐量和时延的指标是比较关心的吞吐量反应了系统的并发的处理能力时延反应了整体业务的响应时间。

测试准备

Tips通常大包的测试可以达到线速小包则很难线速相同mtu下包越小单位时间内cpu处理的包数越多cpu的压力越大。

1、测试拓扑

有个伟人曾说过“如果性能测试不谈硬件那么就和恋爱不谈结婚一个道理都是耍流氓”。

题外话这里先简单说一下数据包进入网卡后的流程数据包进入到网卡后将数据缓存到服务器内存后通知内核进行处理接着协议栈进行处理通常netfilter也是在协议栈去处理最后应用程序从socker

测试调优

针对以上拓扑发送128字节万兆双向流量用RFC2544标准进行测试。

以上都是前菜接下来是本文的重头戏根据已有资源做一些优化提升“测试”性能让客户满意。

1、调整队列数

调整网卡的队列数利用网卡的多队列特性不同的队列通过中断绑定到不同的cpu提升cpu处理性能提升网络带宽。

调整队列数这里也不是越大越好因为服务器的cpu个数是有上限的队列多的话会出现多个中断绑定在同一个cpu上这里我服务器单个numa有8个cpu修改队列数为8​​​​​​

[rootlocalhost

因为数据包会根据hash来进入到多个收包队列因此发送数据包的时候可以选择源ip变化的流来确保使用了网卡的多队列可以查看网卡的队列计数。

[rootlocalhost

修改完队列后再次使用RFC2544进行测试性能比单队列提升了57%。

2、调整队列深度

除了调整网卡的队列数外也可以修改网卡的队列深度但是队列深度不是越大越好具体还是需要看实际的应用场景。

对于延时要求高的场景并不适合修改太大的队列深度。

[rootlocalhost

网卡收包后内核会触发软中断程序如果此时运行中断的cpu和网卡不在一个numa上则性能会降低。

查看网卡pci插槽对应numa

/sys/bus/pci/devices/0000\:0b\:00.3/numa_node0这里对应的numa

nodenode8-15和node0所在的物理cpu不同如果中断跑在上面性能会更加低[rootlocalhost

~]#

tips系统会有一个中断平衡服务系统会根据环境负载情况自行分配cpu到各个中断所以这里为了强行把中断平均的绑定到各个cpu需要先停止该服务​​​​​​​

[rootlocalhost

/proc/irq/$i/smp_affinity_list;

done

/proc/irq/654/smp_affinity_listecho

/proc/irq/653/smp_affinity_listecho

/proc/irq/656/smp_affinity_listecho

/proc/irq/657/smp_affinity_listecho

/proc/irq/659/smp_affinity_listecho

/proc/irq/655/smp_affinity_listecho

/proc/irq/652/smp_affinity_listecho

/proc/irq/658/smp_affinity_list

左右滑动查看完整代码

通过以上三种优化方式后性能提升了95%很显然如果发生在客户现场那绝对是值得高兴的一件事。

4、其他优化项

除了以上几种方式外还有一些日常的调优手段大家可以试一下针对不同的场景选择不同的方式。

1、打开tso和gso

利用网卡硬件进行分片或者推迟协议栈分片以此来降低cpu负载提升整体性能。

2、调整TLP

调整pcie总线每次数据传输的最大值根据实际情况调整bios中可以修改。

3、调整聚合中断

如果测试是使用类似netperfqperf的工具可以使用taskset命令绑定该测试进程到指定cpu。

随着性能测试的发展以及对测试工程师的要求提高优化性能已经不再是单纯开发同学所要做的事情使用合适的测试方法和测试工具进行测试收集数据找到性能瓶颈并能进行一系列的调优这才是性能测试团队做的真正有意义以及有价值的事情。

绵薄之力

最后感谢每一个认真阅读我文章的人看着粉丝一路的上涨和关注礼尚往来总是要有的虽然不是什么很值钱的东西如果你用得到的话可以直接拿走

这些资料对于想进阶【自动化测试】的朋友来说应该是最全面最完整的备战仓库这个仓库也陪伴我走过了最艰难的路程希望也能帮助到你凡事要趁早特别是技术行业一定要提升技术功底。

希望对大家有所帮助……