本文基本上是 Improving Deep Neural Networks: Hyperparameter tuning, Regularization and Optimization 的知识点大纲。 具体的公式和理论，可以看Bin Weber的博客。 训练/开发/测试集（Train/dev/test） 数据量10000之内：70/30（免去dev）或60/20/20