onnx静态量化 quant_format 区别

ONNX是一种开放的神经网络执行框架，可以在不同的深度学习框架之间进行模型转换和部署。在ONNX中，静态量化是一种优化技术，可以将浮点精度的模型转换为定点精度的模型，以提高模型的推理性能和减少模型的存储空间。

quant_format是指在静态量化过程中用来表示量化模型的格式。ONNX支持多种quant_format，包括：

1. Symmetric：模型参数和激活值的量化值范围对称，可以用一个缩放因子和一个偏移量来表示量化值。

2. Asymmetric：模型参数和激活值的量化值范围不对称，可以用两个缩放因子和一个零点来表示量化值。

3. Affine：模型参数和激活值的量化值范围不对称，可以用两个缩放因子、一个偏移量和一个零点来表示量化值。

不同的quant_format适用于不同的模型和应用场景，选择合适的quant_format可以提高模型的推理性能和减少模型的存储空间。