cos大壮 2025-02-03 11:01 浙江
数据标准化与归一化的区别与应用场景。
今儿和大家聊一个简单的话题：数据标准化与归一化的区别与应用场景。
好像很简单，但是为了更加的清晰，从各方面和大家详细的聊聊~
数据标准化与数据归一化
数据标准化（Standardization）
定义：标准化是将数据转换为具有均值为 0 和标准差为 1 的标准正态分布。
数学公式：
其中 是原始数据， 是均值， 是标准差。
操作结果：经过标准化的数据没有单位限制，更适合基于距离或分布的算法。
数据归一化（Normalization）
定义：归一化是将数据按比例缩放到特定区间（通常为 [0,1] 或 [-1,1]）。
数学公式：
其中 和 分别为数据的最小值和最大值。
操作结果：归一化后的数据保留了原始数值范围的比例关系。
| 对比项 | 标准化（Standardization） | 归一化（Normalization） |
|---|---|---|
| 核心目标 | 均值为 0，标准差为 1 | 缩放数据到固定区间 |
| 公式参数 | 均值和标准差 | 数据最小值和最大值 |
| 结果分布 | 标准正态分布 | 固定区间的比例缩放 |
适用场景
数据标准化的适用场景
机器学习算法对分布敏感：标准化适合需要数据服从正态分布的算法，例如：
主成分分析（PCA）：需要将数据投影到低维空间时，假定变量具有相同的尺度。
线性回归、逻辑回归：模型对特征分布敏感，标准化能提升收敛速度和准确性。
基于距离的算法：如 K-Means、支持向量机（SVM），需要平衡不同量纲特征的影响。
数据归一化的适用场景
特征值范围差异显著：归一化适合数据范围差异大的场景，避免较大值特征对模型的主导性影响。
深度学习：神经网络通常以归一化的数据为输入，便于梯度下降优化快速收敛。
| 算法类型 | 推荐方法 | 原因 |
|---|---|---|
| PCA、回归分析 | 标准化 | 需要均值为 0，标准差为 1 的特征分布 |
| KNN、SVM、K-Means | 标准化 | 平衡不同量纲特征的距离权重 |
| 神经网络、梯度下降优化 | 归一化 | 小范围特征更便于快速迭代 |
优缺点
数据标准化的优缺点
优点：
对异常值较为鲁棒（异常值不会像归一化那样对比例造成较大干扰）。
提升基于分布假设的模型表现（如 PCA、回归分析）。
缺点：
转换后的数据失去了原始的物理意义（如温度、价格等直观性）。
对非高斯分布的数据可能效果较差。
数据归一化的优缺点
优点：
操作简单，范围固定，适合快速收敛的场景（如神经网络）。
能保留数据间比例关系。
缺点：
对异常值敏感，异常值可能过度影响缩放范围。
不适用于需要正态分布假设的模型。
完整案例
我们使用一个示例数据集，包含两个特征范围差异明显的列。
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
from sklearn.preprocessing import StandardScaler, MinMaxScaler
# 创建数据集
np.random.seed(42)
data = {
"Feature1": np.random.randint(1, 100, 50), # 范围较大
"Feature2": np.random.rand(50) * 10, # 范围较小
}
df = pd.DataFrame(data)
# 原始数据分布
plt.figure(figsize=(12, 4))
plt.subplot(1, 2, 1)
plt.hist(df["Feature1"], bins=10, alpha=0.7, label="Feature1")
plt.hist(df["Feature2"], bins=10, alpha=0.7, label="Feature2")
plt.title("Original Data Distribution")
plt.legend()
plt.subplot(1, 2, 2)
plt.boxplot([df["Feature1"], df["Feature2"]], labels=["Feature1", "Feature2"])
plt.title("Original Data Boxplot")
plt.show()
标准化与归一化实现
# 标准化
scaler_std = StandardScaler()
df_std = pd.DataFrame(scaler_std.fit_transform(df), columns=["Feature1", "Feature2"])
# 归一化
scaler_norm = MinMaxScaler()
df_norm = pd.DataFrame(scaler_norm.fit_transform(df), columns=["Feature1", "Feature2"])
# 可视化比较
plt.figure(figsize=(12, 6))
# 标准化后的分布
plt.subplot(2, 2, 1)
plt.hist(df_std["Feature1"], bins=10, alpha=0.7, label="Feature1")
plt.hist(df_std["Feature2"], bins=10, alpha=0.7, label="Feature2")
plt.title("Standardized Data Distribution")
plt.legend()
# 归一化后的分布
plt.subplot(2, 2, 2)
plt.hist(df_norm["Feature1"], bins=10, alpha=0.7, label="Feature1")
plt.hist(df_norm["Feature2"], bins=10, alpha=0.7, label="Feature2")
plt.title("Normalized Data Distribution")
plt.legend()
# 标准化后的箱线图
plt.subplot(2, 2, 3)
plt.boxplot([df_std["Feature1"], df_std["Feature2"]], labels=["Feature1", "Feature2"])
plt.title("Standardized Data Boxplot")
# 归一化后的箱线图
plt.subplot(2, 2, 4)
plt.boxplot([df_norm["Feature1"], df_norm["Feature2"]], labels=["Feature1", "Feature2"])
plt.title("Normalized Data Boxplot")
plt.show()
原始数据分布显示了两个特征的范围差异。
标准化后，数据呈现均值为 0，标准差为 1 的分布；归一化后，数据被压缩到 [0,1] 的区间。
总结一下：
异同点
共同点：两者都解决了不同量纲特征之间的权重不均问题。
不同点：标准化基于均值和标准差调整分布；归一化基于最大值和最小值调整范围。
选择建议
标准化：当算法对分布敏感或需要标准正态分布时（如 PCA、SVM、回归分析）。
归一化：当特征范围差异大，且需要固定区间范围时（如神经网络、梯度下降优化）。
最后
大家有问题可以直接在评论区留言即可~
喜欢本文的朋友可以收藏、点赞、转发起来！
