机器学习基础

本书从机器学习在数据处理的角度入手来介绍机器学习的常用算法，按照"背景引入－方法介绍－案例－拓展知识点及文献”的思路来组织内容。本书共14章，涵盖了机器学习的常用算法。对于书中的每种机器学习算法，本书均给出了基本定义、典型应用，可方便读者更加深入的理解每种机器学习算法。此外，本书还介绍了计算机视觉的应用为例，阐述了机器学习算法在图像特征提取和卷积神经网络中的应用。

目 录
第1章 数据与机器学习 1
1.1 数据 1
1.1.1　数据的来源 1
1.1.2　数据的类型 3
1.2 机器学习的任务 4
1.3 机器学习的场景 4
1.4 数据预处理 5
1.4.1　归一化 6
1.4.2　标准化 8
1.4.3　缺失值填充 8
1.5 机器学习模型的评价指标 9
1.6 本书的主要内容框架 10
1.7 参考文献 10
1.8 习题 11
第2章 数据可视化 12
2.1 基本类型 13
2.1.1　饼状图 13
2.1.2　柱状图 14
2.1.3　南丁格尔玫瑰图 16
2.1.4　折线图 17
2.1.5　雷达图 18
2.1.6　平行坐标图 20
2.1.7　桑基图 22
2.1.8　弦图 23
2.1.9　散点图 25
2.2 基本构成元素和设计思路 26
2.3 参考文献 27
2.4 习题 28
第3章 图像特征提取 29
3.1 灰度图像 30
3.1.1　图像的数字表示 30
3.1.2　灰度图像的数字表示 31
3.2 LBP 33
3.3 颜色特征提取 36
3.3.1　RGB颜色模型 37
3.3.2　HSV颜色模型 37
3.4 HSV特征提取 39
3.5 拓展知识点 42
3.6 参考文献 43
3.7 习题 44


第4章 数据分类――KNN分类 45
4.1 分类 45
4.2 KNN分类 46
4.3 分类结果的评价指标 50
4.4 拓展知识点 51
4.5 参考文献 53
4.6 习题 53
第5章 K-means聚类 54
5.1 聚类问题的阐述 54
5.2 K-means算法的基本原理 55
5.2.1　数据样本之间的相似性度量 55
5.2.2　K-means算法的基本步骤 58
5.2.3　K-means算法的特点 63
5.3 聚类结果的评价指标 65
5.3.1　聚类算法常见的内部评价指标 66
5.3.2　聚类算法常见的外部评价指标 68
5.4 拓展知识点：K-means算法的应用 69
5.5 参考文献 69
5.6 习题 70
第6章 综合应用案例――人机交互的数据可视化 71
6.1 聚类与人机交互的数据可视化 71
6.2 K-means聚类的交互数据可视化设计要点 75
6.3 参考文献 75
6.4 习题 75
第7章 线性回归与正则化 76
7.1 线性回归的问题定义 76
7.2 线性回归的求解 78
7.2.1　损失函数 78
7.2.2　线性回归的解 80
7.3 正则化线性回归 83
7.3.1　正则化的作用 83
7.3.2　L2正则化――岭回归 84
7.3.3　L1正则化――Lasso回归 84
7.4 R2度量――衡量回归拟合效果的重要指标 85
7.4.1　R2度量的引出 85
7.4.2　线性回归中的R2度量 86
7.5 参考文献 87
7.6 习题 88
第8章 逻辑回归 89
8.1 逻辑回归模型 89
8.2 多分类的Softmax回归模型 96
8.3 参考文献 97
8.4 习题 98


第9章 线性降维――主成分分析 99
9.1 特征选择与特征提取 99
9.2 度量视角的PCA 101
9.3 信息视角的PCA 104
9.4 概率统计视角的PCA 104
9.5 参考文献 108
9.6 习题 109
第10章 非线性降维及其应用 110
10.1 局部线性嵌入 111
10.2 拉普拉斯特征映射 118
10.3 LE的相关应用 120
10.4 降维方法的思维拓展 120
10.5 参考文献 121
10.6 习题 121
第11章 核函数及其应用 122
11.1 线性可分与高维映射 122
11.2 核函数 124
11.3 核回归 126
11.4 核PCA 129
11.5 拓展知识点 132
11.6 参考文献 133
11.7 习题 133
第12章 神经网络基础 134
12.1 神经元模型 134
12.1.1　神经元 134
12.1.2　Rosenblatt感知机 139
12.1.3　异或问题 140
12.2 神经网络 143
12.2.1　递归神经网络 144
12.2.2　前馈神经网络 144
12.3 参考文献 153
12.4 习题 153
第13章 反向传播神经网络 155
13.1 梯度下降法 156
13.2 随机梯度下降法 159
13.3 反向传播 160
13.4 梯度消失 166
13.5 参考文献 167
13.6 习题 168
第14章 深度神经网络 169
14.1 “深度”的意义 169
14.2 卷积神经网络的基本操作 170
14.2.1　卷积 171
14.2.2　池化 172
14.2.3　激活 172
14.3 经典卷积神经网络 173
14.3.1　AlexNet 174
14.3.2　VGG 176
14.3.3　GoogLeNet 177
14.3.4　ResNet 177
14.3.5　SENet 178
14.4 参考文献 179
14.5 习题 179