前言

机器学习与人工智能在过去的十多年中得到了飞速发展。特别是ChatGPT等深度学习模型的崛起和应用，使得各行各业都开始高度关注机器学习与人工智能，这也驱动越来越多的人投入机器学习与人工智能领域的学习中。由于机器学习与人工智能的理论学习离不开数学知识，因此人们想要理解机器学习与人工智能算法的底层逻辑也离不开数学知识。

本书所有数学知识经过系统梳理，自成一个体系，覆盖了学习机器学习与人工智能所需的基础数学知识。本书的目标是为机器学习与人工智能相关专业的学生或从业者及学习相关技术知识的工程技术人员或爱好者打下坚实的数学基础。

第1章介绍了代数学和分析学的基础概念相关知识，其内容包括向量与范数、矩阵的定义及其基本运算、行列式、函数的极限与连续性。本章突出数学概念的重要性，并采用图形化的方式对数学概念进行解释，给出了这些概念在机器学习与人工智能中的应用要点。第2章介绍了微积分的基础概念相关知识，其内容包括导数、微分、积分、常微分方程。第3章介绍了矩阵与线性变换的相关知识，其内容包括矩阵秩的概述、向量组的线性相关性、特征值与特征向量、线性空间、线性变换、内积空间。第4章介绍了矩阵分解的相关知识，其内容包括矩阵的LU分解、矩阵的QR分解、矩阵的特征值分解、矩阵的奇异值分解，并结合案例给出相关知识点的具体应用。第5章介绍了最优化理论与算法的相关知识，其内容包括凸集与凸函数、最优化问题与求解算法的一般形式、最优性条件、梯度下降法、牛顿法、优化算法在机器学习中的应用。第6章介绍了概率模型的相关知识，其内容包括随机变量及其分布、随机变量的数字特征、极限理论、机器学习中的参数估计，本章也采用图形化的方式对相关概念进行解释，并结合案例给出相关知识点的具体应用。第7章介绍了信息论的基础概念相关知识，其内容包括熵、交叉熵与损失函数、KL散度，并结合案例给出相关知识点的具体应用。

本书内容丰富，结构合理，采用图形化的方式对数学概念进行解释，通俗易懂。在介绍相关知识点后，本书从机器学习与人工智能应用的视角，给出了相关知识点的应用要点与应用方法，同时结合一些具体案例，给出了相关知识点在机器学习与人工智能中的典型应用，以帮助读者提高从数学理论到工程实践的行动能力。

本书部分工作和出版得到了国家自然科学基金（No.61072051）和国家重点研发计划（No.2021YFC3340802）的资助，编著者在此表示感谢！

编著者衷心感谢硕士期间的导师马知恩教授和博士期间的导师杨宗凯教授，因为他们在学习和工作中给予了我很多的鼓励和帮助。感谢国家数字化学习工程技术研究中心和教育大数据应用技术国家工程实验室的领导和同事在本书撰写过程中给予的大力支持。感谢本书的责任编辑米俊萍，她对本书的稿件进行了认真、细致的编辑校对，提出了许多修改意见，为本书的出版做了大量耐心的工作。感谢我的同学、朋友和家人，因为他们以不同的形式给予了我很多理解、宽容和帮助。

由于编著者水平有限，本书内容难免存在不妥之处，欢迎读者批评指正。

廖盛斌

2023年3月8日