数据驱动的科学和工程：机器学习、动力系统与控制详解（原书第2版）

数据驱动的研究给复杂系统的建模、预测和控制带来了技术革新。本书通过对数据驱动方法、机器学习、应用优化以及工程数学和数学物理经典领域不断发展的交叉学科内容进行全面概述，旨在使用Python和MATLAB等软件，为下一代科学发现培养数学科学家和工程师。
本书侧重于将动力系统建模和控制与应用机器学习中的现代方法集成在一起，这些方法是基于其关联性、简洁性和通用性而被选择的。本书涉及的主题涵盖了从入门水平到研究水平的材料，适合工科和理科相关专业的高年级本科生和低年级研究生阅读。
本书第2版的特色是增加了关于强化学习和物理信息机器学习的两章内容，以及各章的内容和习题都有更新和增加。
本书的在线辅助材料，包括各章节的讲座视频、作业、数据以及MATLAB、Python和R等软件的代码，可以通过访问网站http://databookuw.com获取。

数据驱动的研究给复杂系统的建模、预测和控制带来了技术革新。本书基于数据驱动发现，将动力系统的建模、控制、优化和数据方法结合起来构筑知识架构，梳理了机器学习、动力系统和控制之间的内在关系，初步探索了一种数据驱动发现的智能理论和方法。本书的主题涉及应用优化、降维、机器学习、动力学与控制以及降阶方法，从多维度反映了交叉学科研究的特点。相较于第1版，本书增加了关于强化学习和物理信息机器学习的两章内容并提供一些辅助程序，适合数据科学、数据挖掘和机器学习等专业的高年级本科生和研究生阅读。

史蒂文·L. 布伦顿
（Steven L. Brunton）
美国华盛顿大学（UW）机械工程系James B. Morrison教授，美国国家科学基金会（NSF）动态系统人工智能研究所（AI Institute in Dynamic Systems）副主任。他同时担任应用数学系的兼职副教授（Adjunct Professor）以及科研信息化研究所（eScience Institute）的数据科学研究员（Data-Science Fellow）。他的研究将机器学习同动力/动态系统和控制相结合，应用于流体力学、生物运动、光学、能源系统和制造等领域。他是三本教材的作者，曾获美国华盛顿大学工程学院教学奖（UW College of Engineering Teaching Award）、美国陆军和空军青年研究员计划（YIP）奖（Army and Air Force Young Investigator Program Awards）以及美国青年科学家和工程师总统奖（Presidential Early Career Award for Scientists and Engineers，PECASE）。
J. 内森·库茨
（J. Nathan Kutz）
美国华盛顿大学（UW）Robert Bolles和Yasuko Endo讲席教授，美国国家科学基金会（NSF）动态系统人工智能研究所（AI Institute in Dynamic Systems）主任。他同时担任电气和计算机工程系、机械工程系和物理系的兼职教授（Adjunct Professor）以及科研信息化研究所（eScience Institute）的数据科学研究员（Data-Science Fellow）。他的研究兴趣在于动态系统和机器学习的交叉领域。他是三本教材的作者，曾获应用数学波音卓越教学奖（Applied Mathematics Boeing Award of Excellence in Teaching）和美国国家科学基金会青年教师发展（NSF CAREER）奖。

目　　录
本书赞誉
译者序
前言
常见的优化方法、方程、符号和缩略语
致谢
第一部分　降维和变换
第1章　奇异值分解　2
1.1　概述　2
1.2　矩阵近似　5
1.3　数学性质和操作方法　9
1.4　伪逆、最小二乘和回归　12
1.5　PCA　18
1.6　特征脸示例　23
1.7　截断和对齐　28
1.8　随机SVD　33
1.9　张量分解和N路数据数组　37
推荐阅读　40
作业　41
第2章　傅里叶变换与小波变换　43
2.1　傅里叶级数和傅里叶变换　43
2.2　DFT和FFT　51
2.3　PDE的变换　57
2.4　Gabor变换和频谱图　62
2.5　拉普拉斯变换　66
2.6　小波和多分辨率分析　69
2.7　二维变换和图像处理　71
推荐阅读　76
作业　76
第3章　稀疏性和压缩感知　79
3.1　稀疏性和压缩　79
3.2　压缩感知　82
3.3　压缩感知示例　85
3.4　压缩几何　88
3.5　稀疏回归　91
3.6　稀疏表示　94
3.7　鲁棒主成分分析　97
3.8　稀疏传感器布置　100
推荐阅读　103
作业　104
第二部分　机器学习和数据分析
第4章　回归和模型选择　108
4.1　经典曲线拟合　109
4.2　非线性回归与梯度下降　114
4.3　回归与Ax=b：超定系统和欠定
系统　118
4.4　优化是回归的基石　124
4.5　帕累托边界和简约性原则　127
4.6　模型选择：交叉验证　129
4.7　模型选择：信息准则　133
推荐阅读　136
作业　136
第5章　聚类和分类　138
5.1　特征选择和数据挖掘　138
5.2　有监督学习和无监督学习　143
5.3　无监督学习：k均值聚类　146
5.4　无监督层次聚类：树状图　149
5.5　混合模型和期望最大算法　152
5.6　监督学习和线性判别　155
5.7　SVM　158
5.8　分类树和随机森林　162
5.9　2008年数据挖掘十大算法
（深度学习革命之前）　166
推荐阅读　168
作业　168
第6章　神经网络和深度学习　170
6.1　NN：单层网络　171
6.2　多层网络和激活函数　174
6.3　反向传播算法　179
6.4　随机梯度下降算法　181
6.5　DCNN　183
6.6　动力系统的NN　185
6.7　RNN　190
6.8　自动编码器　192
6.9　生成对抗网络　195
6.10　NN的多样性　197
推荐阅读　201
作业　201
第三部分　动力学与控制
第7章　数据驱动的动力系统　204
7.1　概述、动机和挑战　204
7.2　动态模态分解（DMD）　209
7.3　非线性动力学的稀疏辨识
（SINDy）　220
7.4　Koopman算子理论　228
7.5　数据驱动的Koopman分析　237
推荐阅读　244
作业　244
第8章　线性控制理论　248
8.1　闭环反馈控制　249
8.2　线性时不变系统　253
8.3　能控性与能观性　256
8.4　最优全状态控制：线性二次型
调节器　261
8.5　最优全状态估计：卡尔曼滤波器　264
8.6　基于传感器的最优控制：线性
二次型高斯　266
8.7　案例研究：小车倒立摆系统　267
8.8　鲁棒控制和频域技术　276
推荐阅读　284
作业　284
第9章　平衡模型控制　286
9.1　模型约简与系统辨识　286
9.2　平衡模型约简　287
9.3　系统辨识　298
推荐阅读　305
作业　305
第四部分　先进的数据驱动建模与控制
第10章　数据驱动控制　308
10.1　模型预测控制　308
10.2　用于控制的非线性系统辨识　310
10.3　机器学习控制　315
10.4　自适应极值搜索控制　322
推荐阅读　328
作业　328
第11章　强化学习　330
11.1　概述和数学表示　331
11.2　基于模型的优化与控制　336
11.3　无模型强化学习与Q学习　338
11.4　深度强化学习　343
11.5　应用和环境　347
11.6　最优非线性控制　350
推荐阅读　353
作业　353
第12章　降阶模型　354
12.1　应用于PDE的POD　354
12.2　最优基元：POD展开　358
12.3　POD和孤立子动力学　363
12.4　POD的连续公式　367
12.5　对称性的POD：旋转和平移　370
12.6　基于POD的时间步进神经网络　375
12.7　基于DMD和SINDy的Galerkin-POD　378
推荐阅读　381
作业　382
第13章　参数降阶模型的插值　383
13.1　Gappy POD　383
13.2　Gappy POD的误差和收敛性　387
13.3　Gappy测量：最小化条件数　390
13.4　Gappy测量：最大化方差　394
13.5　POD和DEIM　396
13.6　DEIM算法的实现　399
13.7　插值解码器网络　403
13.8　降阶模型的随机化和压缩　405
13.9　机器学习的降阶模型　406
推荐阅读　410
作业　411
第14章　物理信息机器学习　412
14.1　数学基础　412
14.2　SINDy自动编码器：坐标和
动力学　414
14.3　Koopman预测　418
14.4　学习非线性算子　420
14.5　物理信息神经网络　423
14.6　PDE的学习粗粒度　426
14.7　深度学习与边界值问题　429
推荐阅读和作业　431
术语　432
参考文献　438