人工智能数学基础

内容体系完整，分层清晰：全书分为基础原理、应用提高、常用算法与模型三大板块，共 16 章，系统讲解线性代数、微积分、概率论等 AI 必备数学知识，循序渐进，适配不同基础读者。
理论结合编程，实操性强：搭配大量 Python 代码演示知识点，借助 NumPy 等工具实现数学运算与算法案例，将抽象数学理论落地为编程实践。
配套资源丰富，学习辅助完善：章节设置拓展阅读二维码，提供实验、习题、拓展应用等电子资源，构建 “理论 + 实操 + 巩固” 的完整学习体系。
受众覆盖面广，兼顾教学与自学：既可作为高校人工智能相关专业教材，也适合 AI 初、中级从业者、爱好者自学，讲解通俗，难点配有提示与案例解析。

本书系统、全面地介绍人工智能涉及的数学基础知识，旨在帮助读者构建坚实的数学根基。
本书共16章：第1章主要介绍人工智能的概念和发展，以及Python对人工智能算法设计的支持等；第2～7章主要介绍与人工智能相关的数学基础知识，包括向量、矩阵、特征值、矩阵分解、极限和导数，以及微积分、概率论等；第8～11章主要介绍最优化方法、假设检验、相关分析、随机过程等；第12～15章主要介绍回归分析、SVM模型、决策树模型、聚类算法等；第16章主要介绍神经网络。
本书不仅适合人工智能的初、中级用户使用，还可以作为各类院校人工智能相关专业的教材或参考书。

王社伟，副教授，西北工业大学航空宇航制造专业博士，挪威科技大学访问学者，在数字化制造、企业管理系统、机器学习、数据挖掘等方面有丰富的实战经验。 侯惠芳，河南工业大学教授，解放军信息工程大学通信与信息系统专业博士，擅长机器学习、大数据检索、人工智能和模式识别等。 李琳，河南工业大学副教授，在软件工程、机器学习、人工智能和模式识别等领域有深入研究。 张继新，河南工业大学教师，多年来一直从事计算机科学与技术专业的教学工作，研究方向主要为计算机软件与理论、智能计算。

第1篇　基础原理
第1章 人工智能概述 2
1.1 人工智能的概念 2
1.2 人工智能的发展 3
1.3 人工智能的主要流派与研究方向 5
1.4 人工智能的数学基础 7
1.5 Python对人工智能算法设计的支持 8
第2章 向量和矩阵 10
2.1 向量 10
2.1.1 标量的定义 10
2.1.2 向量的定义 10
2.1.3 向量的两个基本运算 11
2.1.4 向量与数据 12
2.2 矩阵 12
2.2.1 矩阵的定义 13
2.2.2 矩阵与数据 14
2.3 矩阵和向量的创建 16
2.3.1 NumPy的安装 17
2.3.2 NumPy的导入和使用 17
2.3.3 矩阵的创建 17
2.3.4 向量的创建 21
2.4 矩阵的基本类型与关系 25
2.5 矩阵的基本运算 31
2.5.1 矩阵的加法和减法 31
2.5.2 矩阵的数乘 32
2.5.3 矩阵的乘法 32
2.5.4 矩阵与向量的乘法 35
2.5.5 矩阵的乘方 36
2.6 转置矩阵和逆矩阵 37
2.6.1 转置矩阵 37
2.6.2 逆矩阵 40
2.7 行列式 42
2.7.1 行列式引例 42
2.7.2 行列式的定义 43
2.7.3 行列式与矩阵的区别 44
2.7.4 行列式的计算 44
2.8 矩阵的秩 45
2.8.1 向量组 45
2.8.2 向量组的线性相关和线性无关 47
2.8.3 矩阵的秩的定义 48
2.8.4 矩阵的秩的计算 49
2.9 内积与正交 50
2.9.1 向量的内积 50
2.9.2 向量的长度 52
2.9.3 向量的正交 54
2.9.4 标准正交基 55
第3章 特征值与矩阵分解 57
3.1 矩阵分解概述 57
3.2 特征值与特征向量 57
3.2.1 引例 57
3.2.2 特征值和特征向量的定义 58
3.2.3 特征值和特征向量的求解 59
3.2.4 基于NumPy的特征值与特征向量的计算及验证 60
3.2.5 特征值的性质 61
3.2.6 特征空间 62
3.3 特征值分解 62
3.4 SVD 64
3.4.1 应用SVD解决问题 64
3.4.2 SVD的定义 65
3.4.3 SVD的实现 66
3.4.4 利用SVD重构矩阵 68
3.4.5 利用SVD进行矩阵近似 68
第4章 极限和导数 71
4.1 函数 71
4.1.1 函数的定义 71
4.1.2 几种特殊函数的定义 71
4.1.3 函数的特性 72
4.2 极限 73
4.2.1 数列 73
4.2.2 收敛数列的性质 73
4.2.3 极限的符号表示 74
4.2.4 函数极限的定义 74
4.3 无穷小与无穷大 76
4.3.1 无穷小 76
4.3.2 无穷小的基本性质 76
4.3.3 无穷小与函数极限的关系 77
4.3.4 无穷大 77
4.3.5 无穷大与无穷小的关系 77
4.3.6 无穷小的比较 77
4.4 函数的连续性 78
4.4.1 函数连续的定义 78
4.4.2 函数连续需要满足的条件 79
4.4.3 函数的间断点 79
4.4.4 函数间断点的常见类型 79
4.5 导数与偏导数 80
4.5.1 导数 80
4.5.2 偏导数的定义与几何意义 82
4.6 方向导数 83
4.7 梯度 85
第5章 微积分 87
5.1 微积分的基本思想 87
5.2 微积分的应用 88
5.3 定积分 89
5.3.1 定积分的定义 89
5.3.2 定积分的几何意义 90
5.4 定积分的性质 90
5.5 牛顿－莱布尼茨公式 91
5.5.1 积分上限的函数及其导数 91
5.5.2 牛顿-莱布尼茨公式的定义 93
5.5.3 牛顿-莱布尼茨公式的几何解释 93
第6章 概率论 95
6.1 随机事件及其概率 95
6.1.1 样本空间和随机事件 95
6.1.2 概率和频率 96
6.1.3 古典概型 97
6.2 条件概率 98
6.3 独立性 99
6.4 随机变量 100
6.4.1 离散型随机变量 101
6.4.2 连续型随机变量 104
6.5 随机向量 107
6.5.1 联合分布函数 108
6.5.2 离散型随机向量 108
6.5.3 连续型随机向量 109
6.5.4 边缘分布 110
6.6 随机变量的数字特征 112
6.6.1 数学期望 112
6.6.2 方差 114
6.7 大数定律和中心极限定理 117
6.7.1 大数定律 117
6.7.2 中心极限定理 118
6.8 数理统计的基本概念 121
6.8.1 常用的统计量 121
6.8.2 参数估计 123
6.9 最大似然估计 123
6.9.1 似然函数 123
6.9.2 最大似然估计 124
6.10 最大后验估计 126
第7章 概率分布 129
7.1 正态分布 129
7.1.1 正态分布的数学表示 129
7.1.2 Python中正态分布相关工具包 130
7.1.3 应用Python函数库产生正态分布 130
7.2 二项分布 139
7.2.1 二项分布的数学表示 139
7.2.2 应用Python函数库产生二项分布 140
7.3 泊松分布 148
7.3.1 泊松分布的数学表示 148
7.3.2 应用Python函数库产生泊松分布 149
7.4 均匀分布 157
7.4.1 均匀分布的数学表示 157
7.4.2 应用Python函数库产生均匀分布 157
7.5 卡方分布 161
7.5.1 卡方分布的数学表示 161
7.5.2 应用Python函数库产生卡方分布 161
7.6 Beta分布 167
7.6.1 Beta分布的数学表示 167
7.6.2 应用Python函数库产生Beta分布 168
第2篇　应用提高
第8章 最优化方法 177
8.1 最优化方法的基本概念 177
8.1.1 最优化问题的三要素 177
8.1.2 最优化问题的基本解法 178
8.1.3 最优化问题的分类 179
8.1.4 最优化问题的基本概念 179
8.1.5 泰勒公式 180
8.1.6 Hessian矩阵 184
8.2 一阶优化算法 185
8.3 二阶优化算法 188
8.4 约束优化问题 190
第9章 假设检验 193
9.1 假设检验的基本概念 193
9.1.1 假设检验的基本思想 193
9.1.2 单侧检验与双侧检验 195
9.1.3 P值检验法 196
9.2 Z检验 198
9.3 t检验 199
9.4 卡方检验 203
9.5 假设检验中的两类错误 205
第10章 相关分析 207
10.1 相关分析概述 207
10.1.1 相关分析的基本概念 207
10.1.2 线性相关的基本概念 208
10.2 皮尔逊相关系数 209
10.3 皮尔逊相关系数的计算与检验 210
10.3.1 相关系数的计算 210
10.3.2 相关系数的显著性检验 212
10.4 斯皮尔曼等级相关系数 215
10.4.1 皮尔逊相关系数的局限性 215
10.4.2 斯皮尔曼等级相关 217
10.5 肯德尔相关系数 220
10.5.1 肯德尔相关系数的数学表示 221
10.5.2 肯德尔相关系数的应用 221
10.5.3 肯德尔相关系数的显著性检验 223
10.6 质量相关 223
10.6.1 二列相关 224
10.6.2 点二列相关 225
10.6.3 Python对二列相关的支持 226
10.7 品质相关 226
10.7.1 列联相关系数 226
10.7.2 ( 相关系数 228
10.8 偏相关与复相关 229
10.8.1 偏相关系数 229
10.8.2 复相关系数 230
第11章 随机过程 231
11.1 随机过程 231
11.1.1 随机过程概述 231
11.1.2 马尔可夫过程 232
11.1.3 马尔可夫链 232
11.2 马尔可夫链采样算法 241
11.3 MCMC采样算法 244
11.4 Gibbs采样算法 248
第3篇　常用算法与模型
第12章 回归分析 252
12.1 回归分析概述 252
12.1.1 回归分析的一般步骤 252
12.1.2 一元线性回归模型 253
12.2 回归方程的推导及应用 254
12.2.1 回归方程 254
12.2.2 参数的最小二乘估计 254
12.2.3 方差(2的估计 257
12.3 回归方程的决定系数 258
12.3.1 因变量y变化的指标 258
12.3.2 决定系数 258
12.4 多元线性回归与曲线回归问题 259
12.4.1 多元线性回归分析 259
12.4.2 曲线回归分析 261
第13章 SVM模型 264
13.1 SVM的原理 264
13.1.1 超平面 264
13.1.2 最优分类超平面 265
13.1.3 SVM和支持向量 265
13.2 SVM的分类 266
13.2.1 线性可分和线性不可分样本 266
13.2.2 3种SVM 266
13.3 线性可分SVM 267
13.3.1 线性可分SVM的原理 267
13.3.2 线性可分SVM的学习算法和判定过程 270
13.4 线性可分SVM的实现 272
13.4.1 应用SVM的一般流程 272
13.4.2 利用sklearn.svm.SVC解决分类问题 273
13.4.3 线性可分SVM的示例 274
13.5 核函数 276
13.5.1 升维 276
13.5.2 核函数的引入 277
13.5.3 核函数的使用 277
13.5.4 核函数的类型 278
13.5.5 常用核函数的实现 281
13.6 非线性SVM与核函数的引入 282
13.6.1 非线性SVM概述 282
13.6.2 核函数的选择 283
13.7 非线性SVM的实现 283
13.7.1 基础示例 284
13.7.2 线性核函数和多项式核函数的应用与对比 287
13.7.3 多项式核函数参数的影响 288
13.7.4 高斯径向基核函数参数的影响 289
13.7.5 交叉验证 290
第14章 决策树模型 291
14.1 熵和信息熵 291
14.1.1 熵的概念 291
14.1.2 信息熵的概念 291
14.1.3 应用Python函数库计算信息熵 293
14.2 决策树算法 295
14.2.1 决策树算法简介 295
14.2.2 基于信息熵的决策树算法 296
14.3 常见算法的实现 298
14.3.1 ID3算法的实现 299
14.3.2 C4.5算法的实现 299
14.3.3 CART算法的实现 300
14.3.4 应用Python函数库实现决策树分类 301
第15章 聚类算法 306
15.1 聚类分析概述 306
15.1.1 聚类分析的定义 306
15.1.2 距离和相似性度量 306
15.1.3 聚类的类型 307
15.2 层次聚类 308
15.2.1 层次聚类的原理 308
15.2.2 层次聚类的流程 310
15.2.3 层次聚类实例 313
15.3 K-Means聚类 319
15.3.1 K-Means聚类的原理 319
15.3.2 K-Means聚类的流程 321
15.3.3 K-Means聚类的评价指标 321
15.3.4 K-Means聚类实例 322
15.4 DBSCAN聚类 328
15.4.1 DBSCAN聚类的原理 328
15.4.2 DBSCAN聚类的流程 329
15.4.3 DBSCAN聚类实例 330
第16章 神经网络 333
16.1 感知机模型 333
16.1.1 感知机学习策略 333
16.1.2 感知机学习算法 335
16.2 神经元和神经网络 337
16.3 激活函数 339
16.3.1 Sigmoid函数 339
16.3.2 tanh函数 341
16.3.3 ReLU函数 342
16.4 BP神经网络 343
16.4.1 正向传播 343
16.4.2 反向传播 345