。

所以就出现了两种流行的技术#xff0c;量化和蒸馏#xff0c;它们都是可以使模型更加轻量级量化和蒸馏

深度学习模型特别是那些具有大量参数的模型在资源受限环境中的部署几乎是不可能的。

所以就出现了两种流行的技术量化和蒸馏它们都是可以使模型更加轻量级而不会对性能造成太大影响。

但是它们需要什么它们又如何比较呢?

量化:牺牲精度换取效率

量化是关于数字精度的。

通过减少模型中权重和激活的位宽度缩小模型大小从而潜在地提高推理速度。

神经网络有相互连接的神经元每个神经元都有在训练过程中调整的权重和偏差。

这些参数值一般存储在32位浮点数中这样虽然保证了精度但占用了大量内存。

例如一个50层的ResNet需要168MB来存储2600万32位权重值和1600万32位激活值。

量化旨在通过使用较低的位数(如8位整数)来表示权重和激活来减少内存占用。

但这引入了量化误差所以量化的目标是在精度和内存使用之间取得平衡。

像每通道量化、随机舍入和再训练这样的先进技术可以最大限度地减少对模型精度的影响。

float16和float32

上面公式提供了一种将实数转换为量化整数的简单且计算效率高的方法使其成为许多量化方案中的流行选择。

如何量化机器学习模型?

训练后量化:这就像用一支普通的笔写整本书在你写完之后用一支更好的更细笔重写它使它更小。

你不需要改变故事的任何内容;只要把字改小一点就行了。

这是非常容易的但有时较小的文字可能更难阅读(这意味着神经网络的准确性可能会下降)。

量化感知训练:这就像从一开始就用一支好笔写书。

当你写的时候你会意识到字母应该有多小所以你会在写的时候调整你的写作风格。

这样最终小版本从一开始就更容易阅读因为你一直在为小版本的书进行考虑(这意味着神经网络从一开始就被训练成可以很好地与更小的量化版本一起工作)。

在这两种情况下目标都是使书(或神经网络)更小、更高效同时又不失去故事的本质(或网络的准确性)。

减小模型大小:例如从32位浮点数转换为8位整数可以将模型大小减小四倍。

速度和硬件兼容性:在特定的硬件加速器上低精度的算法可以更快。

内存效率:更少的数据意味着更少的内存带宽需求。

准确性权衡:较低的精度有时会影响模型性能。

实现挑战:量化特别是量化感知训练可能会很棘手。

蒸馏:老师到学生传递知识

蒸馏包括训练一个较小的神经网络(称为学生)来模仿一个更大的预训练网络(即教师)。

离线蒸馏:一个作家正在从一本已经出版的成功的书中学习。

出版的书(教师模型)是完整和固定的。

新作者(学生模式)从这本书中学习试图根据所获得的见解写出自己的作品。

在神经网络的背景下这就像使用一个经过充分训练的、复杂的神经网络来训练一个更简单、更有效的网络。

学生网络从教师的既定知识中学习而不修改它。

在线蒸馏:想象一个有作家和一个经验丰富的作家同时写他们的书。

当经验丰富的作者开发新的章节(更新教师模型)时新作者也会编写他们的章节(更新学生模型)并在此过程中向经验丰富的作者学习。

这两本书同时写作两个作者的作品相互启发。

在神经网络中这意味着同时训练教师和学生模型让他们一起学习和适应增强学生模型的学习过程。

自蒸馏:一本书作者既是老师又是学生。

他以目前的技能水平开始写书。

当他获得新的见解并提高写作水平时会修改前面的章节。

这是一种自学习的模式作者根据自己不断发展的理解不断完善自己的作品。

在神经网络中这种方法涉及单个网络学习和自我改进使用其更高级的层或后期的训练来增强其较早的层或初始阶段有效地教会自己变得更高效和准确。

精馏的目的是尽量减少教师预测和学生预测之间的差异。

这种散度最常用的度量是Kullback-Leibler散度:

大小灵活性:学生模型的架构或大小可以定制从而在大小和性能之间提供平衡。

精度更好:一个训练有素的学生模型可以达到接近老师的成绩并且更小。

再训练是必须的:与量化不同蒸馏要求对学生模型进行再训练训练开销:训练学生模型需要时间和计算资源。

量化通常在特定于硬件的部署中找到它的位置而精馏则是在需要性能接近大型对应模型的轻量级模型时需要的方法。

在许多情况下两者可以结合——提炼一个模型然后量化它——可以带来两个方法的好处。

将选择与部署需求、可用资源以及在准确性和效率方面的可接受权衡相结合是至关重要的。

如果你对这两个技术感兴趣请看这两篇综述

https://avoid.overfit.cn/post/f2c1456d33094a439903409792f75729

作者Aaditya