1设随机变量XY的概率密度为~fxy= begincases cx^2y&x^2 lle y lle 110&其它 lendcases确定c值：2求P2Y-Y13 CovXY

(1) 由概率密度函数的性质可得： $$\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}f(x,y)dxdy=1$$ 代入题目中的概率密度函数，对$x$和$y$分别积分，得到： \begin{align*} \int_{-1}^{1}\int_{-\sqrt{y}}^{\sqrt{y}}cx^2y dxdy+10\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}dx dy &= 1 \ \frac{8c}{3}\int_{-1}^{1}y^2dy+10\cdot\infty &= 1 \ \frac{8c}{3}\cdot\frac{1}{3}+10\cdot\infty &= 1 \ c &= \frac{3}{8} \end{align*}

(2) 首先将不等式$2Y-Y<1$化简： $$Y<1$$ 因此需要求解$Y<1$的概率，即： \begin{align*} P(Y<1) &= \int_{-\infty}^{+\infty}\int_{-1}^{1}f(x,y)dydx \ &= \int_{-1}^{1}\int_{-\sqrt{y}}^{\sqrt{y}}\frac{3}{8}x^2ydydx+10\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}dx dy \ &= \frac{10}{3} \end{align*}

(3) 考虑求解$X$和$Y$的期望值： \begin{align*} E(X) &= \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}xf(x,y)dxdy \ &= \int_{-1}^{1}\int_{-\sqrt{y}}^{\sqrt{y}}\frac{3}{8}x^3ydydx+10\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}xdxdy \ &= 0 \ E(Y) &= \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}yf(x,y)dxdy \ &= \int_{-1}^{1}\int_{-\sqrt{y}}^{\sqrt{y}}\frac{3}{8}x^2y^2dydx+10\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}ydydx \ &= 0 \ \end{align*} 然后计算$XY$的期望值： \begin{align*} E(XY) &= \int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}xyf(x,y)dxdy \ &= \int_{-1}^{1}\int_{-\sqrt{y}}^{\sqrt{y}}\frac{3}{8}x^3y^2dydx+10\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}xydxdy \ &= \frac{5}{3} \end{align*} 因此，$Cov(X,Y)=E(XY)-E(X)E(Y)=\frac{5}{3} - 0\cdot0= \frac{5}{3}$