Если вы не подписаны (а вы должны быть) на блог Адриана Колиера, то вот вам очередная причина сделать это — классная статья о способах оптимизации deep learning
https://blog.acolyer.org/2017/03/01/optimisation-and-training-techniques-for-deep-learning/
https://blog.acolyer.org/2017/03/01/optimisation-and-training-techniques-for-deep-learning/