数学笔记示例:Softmax 的平移不变性
从定义推导 Softmax 的平移不变性与梯度,并用一个小数值例子理解稳定计算。
2 min read
4 connected entries in the notebook.
从定义推导 Softmax 的平移不变性与梯度,并用一个小数值例子理解稳定计算。
以真实论文为引用,区分论文主张、自己的理解和一个独立构造的注意力手算示例。
从马尔可夫决策过程和表格型 Q-learning 出发,理解深度 Q 网络如何借助经验回放和目标网络扩展能力,并用 PyTorch 搭建一个最小 DQN 智能体。
从网络结构、训练动态、内部激活和已学习特征四个层次理解神经网络可视化,以及模型可观测性为什么属于 AI 基础设施。