变换编码是将输入残差从预测编码变换为系数的去相关或压缩能量。它将输入残差从空域变换到频域可以看作是维数缩减。通常输入和变换和逆变换重构的信号是无损的如小波变换、DCT和KLT。DCT或其变体如整数余弦变换ICT、DCT类型II和DST已广泛应用于视频编码标准如H264AVC、HEVC和VVC。ICT是DCT的整数版本表示为Y=W E。ICT由正交变换W=CfXCfT和缩放E组成其中Cf是正向变换核

本段文章主要介绍了视频编码中的变换编码和感知优化量化技术。变换编码是将输入残差从预测编码变换为系数的去相关或压缩能量。常用的变换方法有小波变换、DCT和KLT等。在感知优化量化方面，早期的JPEG和MPEG-1/2采用了非均匀量化，而H.264/AVC、HEVC和VVC采用了均匀量化，并开发了感知量化矩阵/表。此外，还有基于JND抑制的量化方法，如在失真在JND范围内时放大QP、JND驱动的速率-失真优化量化（RDOQ）等。最近的研究还涉及到使用深度学习来提高感知优化量化的能力。文章对这些技术的原理和应用进行了介绍，并列出了代表性方案和性能。其中，例如赵等人提出了增强多重变换（EMT），以及非分离二次变换（NSST）等变换技术；而在感知优化量化方面，例如Kim等人提出了变换域JND模型、崔等人利用HDR视频的空间JND特性、Ki等人的基于学习的JNQD模型以及Nami等人提出的BL-JUNIPER等方法。文章还提到，这些技术通常在块或帧级别确定QP值。