基于Python的11种经典数据降维算法
↑↑点击上⽅蓝字，更多惊喜
来源 | DataWhale
⽹上关于各种降维算法的资料参差不齐，同时⼤部分不提供源代码。这⾥有个 GitHub 项⽬整理了使⽤ Python 实现了 11 种经典的数据抽取(数据降维)算法，包括：PCA、LDA、MDS、LLE、TSNE 等，并附有相关资料、展⽰效果;⾮常适合机器学习初学者和刚刚⼊坑数据挖掘的⼩伙伴。
⼀、为什么要进⾏数据降维?
所谓降维，即⽤⼀组个数为 d 的向量 Zi 来代表个数为 D 的向量 Xi 所包含的有⽤信息，其中 d<D，通俗来讲，即将⾼维度下降⾄低维度；将⾼维数据下降为低维数据。
通常，我们会发现⼤部分数据集的维度都会⾼达成百乃⾄上千，⽽经典的 MNIST，其维度都是 64。
MNIST ⼿写数字数据集
但在实际应⽤中，我们所⽤到的有⽤信息却并不需要那么⾼的维度，⽽且每增加⼀维所需的样本个数呈指数级增长，这可能会直接带来极⼤的「维数灾难」;⽽数据降维就可以实现：
使得数据集更易使⽤
确保变量之间彼此独⽴
降低算法计算运算成本
去除噪⾳⼀旦我们能够正确处理这些信息，正确有效地进⾏降维，这将⼤⼤有助于减少计算量，进⽽提⾼机器运作效率。⽽数据降维，也常应⽤于⽂本处理、⼈脸识别、图⽚识别、⾃然语⾔处理等领域。
⼆、数据降维原理
往往⾼维空间的数据会出现分布稀疏的情况，所以在降维处理的过程中，我们通常会做⼀些数据删减，这些数据包括了冗余的数据、⽆效信息、重复表达内容等。
例如：现有⼀张 1024*1024 的图，除去中⼼ 50*50 的区域其它位置均为零值，这些为零的信息就可以归为⽆⽤信息;⽽对于对称图形⽽⾔，对称部分的信息则可以归为重复信息。
因此，⼤部分经典降维技术也是基于这⼀内容⽽展开，其中降维⽅法⼜分为线性和⾮线性降维，⾮线性降维⼜分为基于核函数和基于特征值的⽅法。
线性降维⽅法：PCA 、ICA LDA、LFA、LPP(LE 的线性表⽰)
⾮线性降维⽅法：
基于核函数的⾮线性降维⽅法——KPCA 、KICA、KDA
基于特征值的⾮线性降维⽅法(流型学习)——ISOMAP、LLE、LE、LPP、LTSA、MVU
哈尔滨⼯业⼤学计算机技术专业的在读硕⼠⽣ Heucoder 则整理了 PCA、KPCA、LDA、MDS、ISOMAP、LLE、TSNE、AutoEncoder、FastICA、SVD、LE、LPP 共 12 种经典的降维算法，并提供了相关资料、代码以及展⽰，下⾯将主要以 PCA 算法为例介绍降维算法具体操作。
三、主成分分析(PCA)降维算
梁思成父亲PCA 是⼀种基于从⾼维空间映射到低维空间的映射⽅法，也是最基础的⽆监督降维算法，其⽬标是向数据变化最⼤的⽅向投影，或者说向重构误差最⼩化的⽅向投影。它由 Karl Pearson 在 1901 年提出，属于线性降维⽅法。与 PCA 相关的原理通常被称为最⼤⽅差理论或最⼩误差理论。这两者⽬标⼀致，但过程侧重点则不同。
最⼤⽅差理论降维原理党员好处
将⼀组 N 维向量降为 K 维(K ⼤于 0，⼩于 N)，其⽬标是选择 K 个单位正交基，各字段两两间 COV(X,Y) 为 0，⽽字段的⽅差则尽可能⼤。因此，最⼤⽅差即使得投影数据的⽅差被最⼤化，在这过程中，我们需要找到数据集 Xmxn 的最佳的投影空间 Wnxk、协⽅差矩阵等，其算法流程为：
算法输⼊：数据集 Xmxn;
按列计算数据集 X 的均值 Xmean，然后令 Xnew=X−Xmean;
求解矩阵 Xnew 的协⽅差矩阵，并将其记为 Cov;
计算协⽅差矩阵 COV 的特征值和相应的特征向量;
将特征值按照从⼤到⼩的排序，选择其中最⼤的 k 个，然后将其对应的 k 个特征向量分别作为列向量组成特征向量矩阵 Wnxk;
计算 XnewW，即将数据集 Xnew 投影到选取的特征向量上，这样就得到了我们需要的已经降维的数据集 XnewW。
最⼩误差理论降维原理
⽽最⼩误差则是使得平均投影代价最⼩的线性投影，这⼀过程中，我们则需要找到的是平⽅错误评价函数 J0(x0) 等参数。
详细步骤可参考《从零开始实现主成分分析 (PCA) 算法》：
主成分分析(PCA)代码实现
关于 PCA 算法的代码如下：
from __future__ import print_function
from __future__ import print_function
from sklearn import datats
import matplotlib.pyplot as plt
as cmx
lors as colors
import numpy as np
%matplotlib inline
def shuffle_data(X, y, ed=None):
if ed:志愿浙江
np.random.ed(ed)
idx = np.arange(X.shape[0])
np.random.shuffle(idx)
return X[idx], y[idx]
# 正规化数据集 X
def normalize(X, axis=-1, p=2):
lp_norm = np.atleast_1d((X, p, axis))
lp_norm[lp_norm == 0] = 1
return X / np.expand_dims(lp_norm, axis)
# 标准化数据集 X
def standardize(X):
X_std = np.zeros(X.shape)
二手车辆买卖合同mean = X.mean(axis=0)
std = X.std(axis=0)
# 做除法运算时请永远记住分母不能等于 0 的情形
# X_std = (X - X.mean(axis=0)) / X.std(axis=0)
for col in range(np.shape(X)[1]):
if std[col]:
X_std[:, col] = (X_std[:, col] - mean[col]) / std[col]
return X_std
中华优秀传统文化有哪些
# 划分数据集为训练集和测试集
def train_test_split(X, y, test_size=0.2, shuffle=True, ed=None):
if shuffle:
X, y = shuffle_data(X, y, ed)
n_train_samples = int(X.shape[0] * (1-test_size))
x_train, x_test = X[:n_train_samples], X[n_train_samples:]
y_train, y_test = y[:n_train_samples], y[n_train_samples:]
return x_train, x_test, y_train, y_test
# 计算矩阵 X 的协⽅差矩阵
def calculate_covariance_matrix(X, pty((0,0))):
if not Y.any():
Y = X
n_samples = np.shape(X)[0]
covariance_matrix = (1 / (n_samples-1)) * (X - X.mean(axis=0)).T.dot(Y - Y.mean(axis=0)) return np.array(covariance_matrix, dtype=float)
彭宇案5年后真相
# 计算数据集 X 每列的⽅差
def calculate_variance(X):
n_samples = np.shape(X)[0]
variance = (1 / n_samples) * np.diag((X - X.mean(axis=0)).T.dot(X - X.mean(axis=0)))
return variance
# 计算数据集 X 每列的标准差
def calculate_std_dev(X):
std_dev = np.sqrt(calculate_variance(X))
return std_dev
# 计算相关系数矩阵
# 计算相关系数矩阵
def calculate_correlation_matrix(X, pty([0])):
# 先计算协⽅差矩阵
covariance_matrix = calculate_covariance_matrix(X, Y)
# 计算 X, Y 的标准差
std_dev_X = np.expand_dims(calculate_std_dev(X), 1)
std_dev_y = np.expand_dims(calculate_std_dev(Y), 1)
correlation_matrix = np.divide(covariance_matrix, std_dev_X.dot(std_dev_y.T))
return np.array(correlation_matrix, dtype=float)
class PCA():
"""
主成份分析算法 PCA，⾮监督学习算法.
"""
def __init__(lf):
lf.eigen_values = None
lf.eigen_vectors = None
lf.k = 2
def transform(lf, X):
"""
将原始数据集 X 通过 PCA 进⾏降维
"""
covariance = calculate_covariance_matrix(X)遵守纪律
# 求解特征值和特征向量
lf.eigen_values, lf.eigen_vectors = np.linalg.eig(covariance)
# 将特征值从⼤到⼩进⾏排序，注意特征向量是按列排的，即 lf.eigen_vectors 第 k 列是 lf.eigen_values 中第 k 个特征值对应的特征向量 idx = lf.eigen_values.argsort()[::-1]
eigenvalues = lf.eigen_values[idx][:lf.k]
eigenvectors = lf.eigen_vectors[:, idx][:, :lf.k]
# 将原始数据集 X 映射到低维空间
X_transformed = X.dot(eigenvectors)
return X_transformed
def main():
# Load the datat
data = datats.load_iris()
X = data.data
y = data.target
# 将数据集 X 映射到低维空间
X_trans = PCA().transform(X)
x1 = X_trans[:, 0]
x2 = X_trans[:, 1]
cmap = _cmap('viridis')
colors = [cmap(i) for i in np.linspace(0, 1, len(np.unique(y)))]
class_distr = []
# Plot the different class distributions
for i, l in enumerate(np.unique(y)):
_x1 = x1[y == l]
_x2 = x2[y == l]
_y = y[y == l]
class_distr.append(plt.scatter(_x1, _x2, color=colors[i]))
# Add a legend
苯胺plt.legend(class_distr, y, loc=1)
# Axis labels
