PCA主成分分析基本原理及案例

主成分分析（PCA）摘要

基本原理

主成分分析（PCA）是一种在保留数据主要特征信息的前提下减少数据维度的技术。它通过将数据转换到新坐标系统来实现，其中新坐标的基是由数据集协方差矩阵的特征向量组成。这些特征向量称为主成分，第一主成分具有最大方差，依次类推。选择前几个主成分可以用更少的维度描述原始数据。

实现步骤

1. 标准化：对数据进行去中心化处理，将每个特征的均值变为0，标准差变为1。
2. 计算协方差矩阵：在标准化数据的基础上计算特征之间的协方差矩阵。
3. 特征值和特征向量：计算协方差矩阵的特征值和特征向量，确定新坐标系的投影方向和长度。
4. 选择主成分：根据特征值的大小选择前k个特征向量作为主成分。
5. 数据转换：使用选定的主成分将原始数据转换到新坐标系。

详细案例

案例使用Python对鸢尾花数据集进行PCA降维。首先导入必要的库，包括numpy, matplotlib, seaborn, PCA和StandardScaler。数据集加载后，使用StandardScaler进行标准化。然后初始化PCA，将数据降维到2维。通过可视化，我们可以看到降维后不同类别的鸢尾花在二维空间中被清晰区分。

        
# 导入库
import numpy as np
import matplotlib.pyplot as plt
import seaborn as sns
from sklearn.decomposition import PCA
from sklearn.datasets import load_iris
from sklearn.preprocessing import StandardScaler
sns.set()
# 数据处理
iris = load_iris()
X = iris.data
y = iris.target
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)
# PCA降维
pca = PCA(n_components=2)
X_pca = pca.fit_transform(X_scaled)
# 结果可视化
plt.figure(figsize=(8, 6))
for i, target_name in enumerate(iris.target_names):
    plt.scatter(X_pca[y == i, 0], X_pca[y == i, 1], label=target_name)
plt.xlabel('Principal Component 1')
plt.ylabel('Principal Component 2')
plt.legend()
plt.title('PCA of IRIS dataset')
plt.show()
        
    

想要了解更多内容？

查看原文：PCA主成分分析基本原理及案例

文章来源：

Python学习杂记

扫码关注公众号

公司最大的内卷，偷偷做单元测试

了解更多