本书是面向高级人工智能人才培养的高等学校人工智能相关专业规划教材中的一本，通过梳理人工智能涉及的相关数学理论，并通过Python实现相关案例，使抽象的理论具体化，从而加深读者对数学的感性认识，提高读者对数学理论的理解能力。本书首先介绍了人工智能所需的基础数学理论，然后根据数学内容的逻辑顺序，以微积分、线性代数、概率论、数理统计为基础，对函数逼近、最优化理论、信息论、图论进行了深入介绍，同时给出了它们在人工智能算法中的实验案例。另外，该书将免费提供配套 PPT、实验及应用案例等基本教学材料。

9.3.4 相对熵

9.3.4　相对熵