归一化、标准化？
复旦大学类脑智能科学与技术研究院青年研究员罗畯义：
归一化是对数据的数值范围进行特定缩放，但不改变其数据分布的一种线性特征变换，归一化之后，各个特征对目标函数的影响权重是一致的。这样的好处是在提高迭代求解的精度。
批量归一化(Batch Normalization)实现了在神经网络层的中间进行预处理的操作，即在上一层的输入归一化处理后再进入网络的下一层，这样可有效地防止“梯度弥散”，加速网络训练。在卷积神经网络中进行批量归一化时，一般对未进行ReLU激活的 feature map进行批量归一化，输出后再作为激励层的输入，可达到调整激励函数偏导的作用。
1) min-max 归一化：将数值范围缩放到（0,1）,但没有改变数据分布
2) z-score 归一化：将数值范围缩放到0附近, 但没有改变数据分布
3) 需要和标准化做区分
登录查看完整答案
