SciTech-EECS-BigDataAIML-NN(神经网络): Forward NN(前向传播算法)

SciTech-EECS-BigDataAIML-NN(神经网络):

Forward NN(前向传播算法)

三层: 感知机(线性拟和);

• 前两层 用 ReLU 激活函数; 第三层 用 Softmax 选择最优的元素。
• 第一层, 保持 输入向量 X_{i}^{4 \times 1} 的 特征维数 不变;
  
  例: \(M_{1}^{4 \times 4} \times X_{i}^{4 \times 1} = Y_{i}^{4 \times 1}\)
• 第二层, 降低 或 保持 输入向量 Y_{i}^{4 \times 1} 的 特征维数:
  
  \(M_{2}^{2 \times 4} \times Y_{i}^{4 \times 1} = Z_{i}^{2 \times 1}\)
• 第三层,