本书系统性地介绍了深度学习的原理、关键技术及相关应用，首先从基本概念、必备的线性代数、微积分、概率统计等数学知识等入手，这些预备知识可帮助读者更好地理解深度学习技术。接着对深度学习方法和技术进行了详细介绍，包括卷积神经网络、反馈神经网络、循环神经网络、生成对抗网络等，针对每个技术都力图用简单易懂的语言、详尽的公式推导说明和生动的图形展示知识点，并附上应用样例，便于读者将概念、原理、公式和应用融会贯通。本书还考虑到初学者尽快入门的需求，对深度学习开发工具和处理技巧进行了细致的梳理和总结。最后本书对深度学习应用前景、发展趋势、未来研究趋势等进行了分析，具有一定前瞻性。本书涵盖了大量深度学习的技术细节，适用于不同层次的读者。

3.5.5梯度与梯度下降法