多元统计实验1

第一部分核心知识点与详细解析知识点 1对称矩阵的特征值分解Eigendecomposition核心公式AQΛQTAQΛQT。其中 QQ 是特征向量矩阵正交矩阵ΛΛ 是对角线上为特征值的对角矩阵。构造矩阵A[abaaab]A[aba​aab​]。这是一个实对称矩阵。几何意义矩阵 AA 对单位圆进行线性变换将其拉伸为椭圆。特征向量互相垂直指向椭圆的长轴和短轴方向。特征值的大小决定了该方向的拉伸倍数方差大小。最大特征值对应长轴主成分方向这在 PCA主成分分析中至关重要。正交性验证对称矩阵的不同特征值对应的特征向量点积为 0即 v1⋅v20v1​⋅v2​0。知识点 2正交矩阵与旋转变换Orthogonal Matrix定义满足 QTQIQTQI或 QTQ−1QTQ−1的矩阵。几何意义正交变换如旋转、反射保持向量的长度范数和夹角不变。旋转矩阵Q[cos⁡θ−sin⁡θsin⁡θcos⁡θ]Q[cosθsinθ​−sinθcosθ​]。性质考点正交变换不改变图形的形状和大小单位圆变换后仍是单位圆只改变方向/位置。知识点 3奇异值分解SVD与图像压缩核心公式XUΣVTXUΣVT。UU左奇异向量n×nn×nVV右奇异向量m×mm×mΣΣ对角矩阵奇异值 σiσi​ 在对角线上按降序排列。低秩近似压缩原理取前 kk 个最大的奇异值及其对应的奇异向量进行重建XkUkΣkVkTXk​Uk​Σk​VkT​。信息存储原始图像需存储 n×nn×n 个元素压缩后只需存储 n×kkk×nn×kkk×n 个元素。奇异值的意义大奇异值对应图像的低频信息主体轮廓、主要结构。小奇异值对应图像的高频信息细节纹理、噪声。第二部分会考的核心考点高频考点类别具体知识点考查形式概念辨析特征向量与椭圆长短轴方向的对应关系正交变换的“保距”特性。填空题、判断题数学计算给定 2x2 矩阵手算特征值和特征向量验证正交矩阵 QTQIQTQI。简答题、计算题原理应用SVD 压缩比的计算公式解释为什么截断小奇异值能压缩图像且保留主体。计算题、论述题实验细节np.linalg.eig与np.linalg.svd返回值的形状Shape代码中矩阵乘法的维度匹配。选择题、改错题第三部分典型考试题目附参考答案题型一填空题概念题题目在任务 1 中若对称矩阵 A[3113]A[31​13​]则椭圆的长轴方向对应特征值 λλ ______ 的特征向量短轴方向对应 λλ ______ 的特征向量。答案42解析∣A−λI∣(3−λ)2−10∣A−λI∣(3−λ)2−10解得 λ14,λ22λ1​4,λ2​2。长轴对应较大的特征值 4。题型二简答题原理分析题目为什么正交矩阵 QQ 对单位圆进行变换后图形仍然是圆请写出数学依据。参考答案因为正交矩阵满足 QTQIQTQI。对于单位圆上的任意点 xx其长度2-范数为 ∣∣x∣∣21∣∣x∣∣2​1。变换后 yQxyQx其长度平方为 ∣∣y∣∣2yTy(Qx)T(Qx)xTQTQxxTx∣∣x∣∣21∣∣y∣∣2yTy(Qx)T(Qx)xTQTQxxTx∣∣x∣∣21。所以变换后所有点仍在半径为 1 的圆上长度不变。题型三计算题SVD 压缩比题目假设一张灰度图像的尺寸为 200×200200×200即 n200n200。对其进行 SVD 压缩取 k20k20。(1) 计算压缩后的存储量需要多少个数值(2) 计算压缩比压缩后存储量 / 原始存储量用百分比表示。参考答案(1) 原始存储200×20040000200×20040000 个。压缩后存储UU 取前 20 列200×204000200×204000奇异值 ΣΣ20 个VTVT 取前 20 行20×200400020×2004000。总计4000204000802040002040008020 个数值。(2) 压缩比802040000×100%≈20.05%400008020​×100%≈20.05%。题型四论述题实验观察题目在实验观察中当 k5k5 时图片模糊当 k50k50 时图片清晰。请从奇异值的角度解释这一现象。参考答案SVD 分解中奇异值按降序排列σ1≥σ2≥...≥σnσ1​≥σ2​≥...≥σn​。前几个大的奇异值包含了图像中变化平缓、能量最集中的低频成分如明暗分界、物体轮廓用 k5k5 重建只能恢复粗略轮廓因而模糊。随着 kk 增大如 50更多较小的奇异值被纳入这些对应高频细节信息如边缘纹理、噪声加入后图像逐渐逼近原图所以变得更清晰。第四部分代码潜在考点机试/笔试改错老师可能会考察你对 Numpy 维度的理解特征向量轴的选择np.linalg.eig返回的eigvecs[:, 0]是第一列列向量不是第一行。SVD 返回值np.linalg.svd返回的s是一维数组形状为(n,)不是二维矩阵。若要计算U S Vt必须先用np.diag(s[:k])将其转为对角矩阵。矩阵乘法维度U_k形状(n, k)S_k形状(k, k)Vt_k形状(k, n)三者相乘得到(n, n)。备考小贴士针对实验报告答辩明确“谁是长轴”特征值大 →→ 拉伸倍率大 →→ 长轴。正交矩阵行列式旋转矩阵行列式为 11反射矩阵行列式为 −1−1但两者都是正交矩阵。SVD 与 PCA 的联系XTXXTX 的特征向量就是 VV右奇异向量这在多元统计的主成分分析中是必考点。