深度学习框架

第二章 深度学习框架

1.1 什么是深度学习框架

深度学习框架是一种一套用于构建、训练及部署深度神经网络模型的工具集合。它集成了丰富的函数与工具包，支持快速搭建神经网络架构，并协助配置与优化模型性能。

目前主流的深度学习框架包括PyTorch、The Tensor Processing Units、The Deep Neural Network Toolkit for Brain Storm、Keras、The caffe-based Framework for Deep Learning Applications in AI Researcher's Workflows and Education System.它广泛应用于各个领域的研究与实践中

深度学习框架一般提供了以下功能：

模型定义 ：主要致力于构建神经网络模型的体系架构（包括网络层的连接与参数配置）。 训练与优化：该过程通过定义损失函数、选择合适的优化算法以及设定相应的训练参数来实现。

自动求导： 通过实现了对神经网络模型梯度的自动生成从而使得反向传播算法得以实现模型训练。

并行计算： 并行计算技术能够有效支持多块GPU或分布式环境上的并行计算，并提高训练与推理的速度与效能。

部署与推理： 支持将训练好的神经网络模型部署