第10章 深度学习概论与浅层网络

目标

建立深度学习的系统认知。

---

必学内容

为什么深度学习兴起

数据量 ↑ + 计算力 ↑ + 算法改进 → 深度网络优势显现

浅层神经网络

Z[1] = W[1]X + b[1]
A[1] = g(Z[1])
Z[2] = W[2]A[1] + b[2]
A[2] = g(Z[2])

向量化实现

# m 个样本同时计算
Z = np.dot(W, X) + b
A = g(Z)

---

必须真正理解

计算图

X → Linear → ReLU → Linear → Sigmoid → L

反向传播 = 链式法则在计算图上的应用。

---