证明 δtvd(PY, QY) ≤ δtvd(PX, QX) - 概率分布总变差距离不等式

要证明 δtvd(PY, QY) ≤ δtvd(PX, QX)，我们需要证明总变差距离（Total Variation Distance）满足以下不等式：

δtvd(PY, QY) = 1/2 ∑|PY(y) - QY(y)| ≤ 1/2 ∑|PX(x) - QX(x)| = δtvd(PX, QX)

首先，根据PY(y)和QY(y)的定义，我们可以得到：

PY(y) = ∑T(y|x) · PX(x) QY(y) = ∑T(y|x) · QX(x)

将这两个式子带入δtvd(PY, QY)的定义中：

δtvd(PY, QY) = 1/2 ∑|∑T(y|x) · PX(x) - ∑T(y|x) · QX(x)|

利用不等式性质 |a + b| ≤ |a| + |b|，我们可以得到：

δtvd(PY, QY) = 1/2 ∑|∑T(y|x) · PX(x) - ∑T(y|x) · QX(x)| ≤ 1/2 ∑∑|T(y|x) · PX(x) - T(y|x) · QX(x)|

再利用不等式性质 |a - b| ≤ |a| + |b|，我们可以得到：

δtvd(PY, QY) ≤ 1/2 ∑∑ |T(y|x) · PX(x)| + |T(y|x) · QX(x)|

由于∑T(y|x) = 1，我们可以将上式拆分为两个部分：

δtvd(PY, QY) ≤ 1/2 ∑∑ T(y|x) · |PX(x)| + T(y|x) · |QX(x)|

再次利用不等式性质 |a| + |b| ≤ 2max(|a|, |b|)，我们可以得到：

δtvd(PY, QY) ≤ 1/2 ∑∑ T(y|x) · max(|PX(x)|, |QX(x)|)

根据T(y|x)是一个条件概率分布，其值介于0和1之间，因此有 T(y|x) · max(|PX(x)|, |QX(x)|) ≤ max(|PX(x)|, |QX(x)|)

将这个不等式带入上式，我们可以得到：

δtvd(PY, QY) ≤ 1/2 ∑∑ max(|PX(x)|, |QX(x)|)

由于上式中的求和是对所有的x和y进行的，我们可以将求和顺序交换，得到：

δtvd(PY, QY) ≤ 1/2 ∑ max(|PX(x)|, |QX(x)|) = 1/2 ∑|PX(x) - QX(x)| = δtvd(PX, QX)

因此，我们证明了δtvd(PY, QY) ≤ δtvd(PX, QX)。