技术分享 | 自动微分与可微编程语言设计（三）

摘要

自动微分（Automatic Differentiation，AD）是一种能够对计算机程序实施高效且精准求导的先进技术，长期以来被广泛应用于计算流体力学、大气科学以及工业设计仿真优化等多个领域。随着近年来机器学习技术的迅速发展，自动微分相关研究也迎来了新的发展阶段。伴随着自动微分及其他微分技术的不断深入探索，其与编程语言、计算框架、编译器等领域的关联日益增强，由此催生并拓展出更为通用的可微编程概念。本系列文章将对自动微分技术及其相关的可微编程研究进展进行系统性总结与回顾。

本文将分为三个主要部分，整体结构如下：

• 常见用于计算机程序求导的方法概述
• 当前业界在自动微分和可微编程方面的实现方案介绍
• 自动微分与可微编程领域尚未解决的关键问题及未来发展趋势

往期系列文章：

[从自动微分到可微编程语言设计（一）](http://mp.weixin.qq.com/s?__biz=Mzg3NjYxODQzNQ==&mid=2247485563&idx=1&sn=9a5366b576a1a5146e448f4a110ba35d&chksm=cf2e3fd7f859b6c19818cd3db4179f3dad232700224461ce0b05c0d25ee8601d0e0a2ce0f369&scene=21#wechat_redir